Technische wereldleiders riep op tot een onderbreking van AI-experimenten gedurende ten minste zes maanden, en benadrukte dat de AI-race”uit de hand gelopen”is.
Kunstmatige intelligentie groeit snel en vertoont geen tekenen van vertraging. Misschien konden maar weinig mensen voorspellen dat een eenvoudige gespreks-AI-chatbot, ChatGPT genaamd, de hele technologie-industrie snel zou kunnen hervormen. Deze enorme groei van AI is nu echter een bron van zorg geworden voor grote technologieleiders. Ze roepen nu op tot een onmiddellijke pauze van AI-systemen die krachtiger zijn dan GPT-4.
Het ChatGPT-moederbedrijf OpenAI heeft onlangs zijn krachtigste versie van de AI-chatbot, GPT-4, onthuld. Microsoft probeert GPT-4 op te nemen in zijn Bing-zoekmachine en Google volgt een soortgelijk pad met Bard.
Technische leiders willen dat AI-experimenten minstens zes maanden worden stopgezet
Een lange lijst van technische leiders ondertekende de petitie, maar Elon Musk en mede-oprichter van Apple Steve Wozniak behoren tot de meest prominente. Ze stellen dat het integreren van menselijke-competitieve intelligentie in AI grote risico’s kan opleveren voor de samenleving en de mensheid.
De brief vervolgt dat AI-labs digitale geesten bouwen die zelfs de makers nauwelijks kunnen begrijpen, voorspellen of betrouwbaar kunnen controleren. Als gevolg hiervan kan AI informatiekanalen overspoelen met desinformatie.”Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat hun effecten positief zullen zijn en hun risico’s beheersbaar zullen zijn”, staat in de brief.
Ondertekenaars zeggen ook dat de zes maanden durende pauze in AI-experimenten moet worden openbaar, verifieerbaar en omvatten alle belangrijke actoren. Als dit niet lukt, moeten overheden optreden en een moratorium instellen. Bovendien zouden AI-labs en onafhankelijke experts moeten ingrijpen om veiligheidsprotocollen voor geavanceerd AI-ontwerp te ontwikkelen.
Noch OpenAI, noch Google of Microsoft hebben tot nu toe op deze brief gereageerd. Ondertussen zegt James Grimmelmann, hoogleraar digitaal en informatierecht aan de Cornell University:”Een pauze is een goed idee, maar de brief is vaag en neemt de regelgevingsproblemen niet serieus.”Grimmelmann noemde de handtekening van Elon Musk ook”hypocriet”, omdat hij niet verantwoordelijk was voor de defecte AI in zelfrijdende Tesla-auto’s.
