Dr. Hinton maakt zich zorgen over ChatGPT en andere AI-technologieën
Dr. Geoffrey Hinton heeft zijn functie bij Google neergelegd om het bewustzijn over de gevaren van kunstmatige intelligentie te vergroten en te pleiten voor internationale regelgeving.
OpenAI, dat ChatGPT en andere AI-tools heeft gemaakt, heeft de afgelopen tijd veel aandacht gekregen. Mensen kunnen ChatGPT gebruiken, krachtiger dan oudere chatbots van andere bedrijven, om artikelen te genereren, te helpen bij onderzoek, vragen te beantwoorden en zelfs autonoom te handelen.
In The New York Times zegt hij dat hij ontslag heeft genomen bij Google om mensen te waarschuwen voor de risico’s van AI en een deel van hem heeft spijt van zijn levenswerk.
“Ik troost mezelf met het normale excuus: als ik het niet had gedaan, zou iemand anders het hebben gedaan,”zei Dr. Hinton.”Het is moeilijk in te zien hoe je kunt voorkomen dat de slechte acteurs het voor slechte dingen gebruiken.”
Hinton ondertekende niet samen met andere prominenten een open brief om de opmars van AI tijdelijk te stoppen. In plaats daarvan wilde hij voorkomen dat hij Google en andere bedrijven publiekelijk bekritiseerde totdat hij zijn baan opzegde.
In april gaf hij Google zijn ontslag aan en donderdag sprak hij telefonisch met Sundar Pichai, de CEO van Google’s moederbedrijf Alphabet.
Fundamenteel onderzoek in AI
Dr. Hinton is een pionier op het gebied van kunstmatige intelligentie die technologie heeft ontwikkeld die tegenwoordig de basis vormt van veel AI-systemen, zoals tools om objecten in een afbeelding te identificeren. In 1972 dreef hij onderzoek naar neurale netwerken.
Het is een systeem dat vaardigheden leert door gegevens te analyseren, en hoewel andere onderzoekers sceptisch stonden tegenover het idee, maakte Hinton van neurale netwerken zijn levenswerk.
In 2012 bouwden hij en twee van zijn studenten een neuraal netwerk dat duizenden foto’s kon analyseren en zichzelf leerde om alledaagse voorwerpen zoals honden, auto’s en bloemen te identificeren. Google heeft een bedrijf overgenomen dat is opgericht door Dr. Hinton en zijn studenten, en hun systeem heeft geleid tot krachtigere technologieën, waaronder ChatGPT.
Een van deze studenten, Ilya Sutskever, werd de hoofdwetenschapper bij OpenAI.
Hinton was aanvankelijk sceptisch over neurale netwerken die van digitale tekst leerden om taal te begrijpen en te genereren, maar zijn opvattingen veranderden in de loop van de tijd.”Misschien is wat er in deze systemen gebeurt,”zei hij,”in feite veel beter dan wat er in de hersenen gebeurt.”
De huidige AI-systemen zijn in sommige opzichten niet zo krachtig als het menselijk brein, maar in andere opzichten zouden ze de menselijke intelligentie kunnen overtreffen.
“We zijn biologische systemen en dit zijn digitale systemen. En het grote verschil is dat je met digitale systemen veel kopieën hebt van dezelfde reeks gewichten, hetzelfde model van de wereld,”vertelde hij aan de BBC.”En al deze kopieën kunnen afzonderlijk leren, maar delen hun kennis onmiddellijk.”
“Dus het is alsof je 10.000 mensen hebt en als één persoon iets leert, weet iedereen het automatisch”, vervolgde Hinton.”En zo kunnen deze chatbots zoveel meer weten dan welke persoon dan ook.”
Naarmate bedrijven hun AI-technologieën verbeteren, kunnen ze gevaarlijker worden.”Kijk hoe het vijf jaar geleden was en hoe het nu is”, zei Hinton.”Neem het verschil en verspreid het naar voren. Dat is eng.”
Dr. Hinton is bang dat het internet binnenkort zal worden overspoeld met valse foto’s, video’s en tekst, en dat de meeste mensen de waarheid niet zullen kunnen achterhalen. Hij maakt zich ook zorgen over de impact van AI op de arbeidsmarkt en dat het meer kan wegnemen dan alleen maar”sleurwerk”.
De concurrentie tussen Google, Microsoft en andere bedrijven zou kunnen verhevigen tot een wereldwijde race, die zal voortduren totdat er enige vorm van wereldwijde regulering is. Maar dat is misschien onmogelijk, zei Hinton.
Hij gelooft dat de beste hoop voor de mensheid is dat’s werelds toonaangevende wetenschappers samenwerken om de technologie te beheersen.”Ik denk niet dat ze dit verder moeten opschalen totdat ze hebben begrepen of ze het onder controle kunnen krijgen”, zei hij.
Wat Google betreft:”We blijven ons inzetten voor een verantwoorde benadering van AI”, zei de hoofdwetenschapper van het bedrijf, Jeff Dean, in een verklaring.”We leren voortdurend om opkomende risico’s te begrijpen, terwijl we ook gedurfd innoveren.”
