GPT-4 anses vara den sista säkra standarden för närvarande och den hårda kapplöpningen för AI-utveckling i laboratorier har gått in i en fas utom kontroll på grund av konkurrens där det kan få oåterkalleliga konsekvenser.
AI-chatt “är en risk för samhället”
Alla tekniska framsteg kan utgöra en risk, men de prognoser som vissa experter på området har är alarmerande. För några dagar sedan gratulerade vi oss själva till GPT-4 och dess möjligheter för dess implementering i ChatGPT, men det verkar som att det finns en barriär mellan
I ett öppet brev Elon Musk och en grupp AI-experter och industrichefer ringer för en sexmånaders paus på utvecklingen system kraftfullare än OpenAIs nyligen släppta GPT-4: “Vi vädjar till alla AI-labb att omedelbart pausa träning av AI-system som är kraftfullare än GPT-4 i minst 6 månader.”
Skälen till att begära denna paus i utvecklingen är att de anses utgöra djupa risker för samhället och mänskligheten. “Avancerad AI kan representera en djupgående förändring i livets historia på jorden, och den måste planeras och hanteras med omsorg och resurser. Tyvärr sker inte denna nivå av planering och ledning, och även under de senaste månaderna har AI-labb kommit in ett out-of-control race för att utveckla och distribuera allt kraftfullare digitala hjärnor som ingen, inte ens deras skapare, kan förstå. tillförlitligt förutsäga eller kontrollera.
En paus på 6 månader är nödvändig
Med tanke på att konkurrensen om att utveckla system som drivs av artificiell intelligens verkligen är den nya boomen där många nya spelare deltar, 6 månaders moratorium är önskad.
Anledningarna till detta uppstår från en rad frågor om hur den här tekniken skulle kunna utvecklas, med några av dem närmare Skynet i Terminator: “Ska vi låta maskinerna översvämma våra informationskanaler med propaganda och falskhet? Ska vi automatisera alla jobb? Ska vi utveckla icke-mänskliga sinnen som så småningom kan överträffa oss, överlista oss och föråldra och ersätta oss? Ska vi riskera förlora kontrollen över vår civilisation ?
Det är mot bakgrund av dessa farhågor som alla AI-labb uppmanas att göra pausa omedelbart i minst 6 månaders träning på AI-system kraftfullare än GPT-4. Faktum är att det är så brådskande att om en sådan paus inte inträffar privat i alla fall, anser de att regeringar bör gå in och införa ett moratorium.
AI-forskning och utveckling måste fokuseras om på att göra dagens kraftfulla nästa generationssystem mer exakta, säkra, tolkbara, transparenta, robusta, anpassade, tillförlitliga och lojala.
