Dr. Hinton ist besorgt über ChatGPT und andere KI-Technologien
Dr. Geoffrey Hinton hat seinen Posten bei Google niedergelegt, um auf die Gefahren der künstlichen Intelligenz aufmerksam zu machen und sich für internationale Regelungen einzusetzen.
OpenAI, das ChatGPT und andere KI-Tools entwickelt hat, hat in letzter Zeit viel Aufmerksamkeit erregt. Leistungsfähiger als ältere Chatbots anderer Unternehmen, können Benutzer ChatGPT verwenden, um Artikel zu erstellen, bei der Recherche zu helfen, Fragen zu beantworten und sogar autonom zu handeln.
Im Gespräch mit der New York Times sagt er, er sei bei Google ausgetreten, um die Menschen vor den Risiken von KI zu warnen und ein Teil von ihm bereut sein Lebenswerk.
“Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es jemand anderes getan”, sagte Dr. Hinton. „Es ist schwer vorstellbar, wie man die schlechten Schauspieler daran hindern kann, es für schlechte Dinge zu verwenden.“
Hinton hat sich nicht anderen prominenten Personen angeschlossen, um einen offenen Brief zu unterzeichnen, um die KI-Fortschritte vorübergehend zu stoppen. Stattdessen wollte er es vermeiden, Google und andere Unternehmen öffentlich zu kritisieren, bis er seinen Job kündigte.
Er teilte Google im April seinen Rücktritt mit und sprach am Donnerstag telefonisch mit Sundar Pichai, dem CEO von Googles Muttergesellschaft Alphabet.
Grundlagenforschung in der KI
Dr. Hinton ist ein Pionier der künstlichen Intelligenz, der Technologien entwickelt hat, die heute die Grundlage vieler KI-Systeme bilden, wie z. B. Werkzeuge zur Identifizierung von Objekten in einem Bild. 1972 trieb er die Forschung zu neuronalen Netzen voran.
Es ist ein System, das Fähigkeiten durch die Analyse von Daten lernt, und obwohl andere Forscher der Idee skeptisch gegenüberstanden, machte Hinton neuronale Netze zu seinem Lebenswerk.
Im Jahr 2012 bauten er und zwei seiner Studenten ein neuronales Netzwerk, das Tausende von Fotos analysieren und sich selbst beibringen konnte, Alltagsgegenstände wie Hunde, Autos und Blumen zu identifizieren. Google erwarb ein Unternehmen, das von Dr. Hinton und seinen Studenten gegründet wurde, und ihr System führte zu leistungsfähigeren Technologien, einschließlich ChatGPT.
Einer dieser Studenten, Ilya Sutskever, wurde Chefwissenschaftler bei OpenAI.
Hinton war anfangs skeptisch gegenüber neuronalen Netzwerken, die aus digitalem Text lernten, Sprache zu verstehen und zu erzeugen, aber seine Ansichten änderten sich im Laufe der Zeit.”Vielleicht ist das, was in diesen Systemen vor sich geht”, sagte er,”tatsächlich viel besser als das, was im Gehirn vor sich geht.”
Aktuelle KI-Systeme sind in mancher Hinsicht nicht so leistungsfähig wie das menschliche Gehirn, aber in anderer Hinsicht könnten sie die menschliche Intelligenz übertreffen.
“Wir sind biologische Systeme und dies sind digitale Systeme. Und der große Unterschied besteht darin, dass Sie bei digitalen Systemen viele Kopien desselben Satzes von Gewichten haben, dasselbe Modell der Welt”, sagte er der BBC.”Und all diese Kopien können separat lernen, aber ihr Wissen sofort teilen.”
“Es ist also so, als hätte man 10.000 Leute und wenn eine Person etwas lernt, wissen es automatisch alle”, fuhr Hinton fort. „Und deshalb können diese Chatbots so viel mehr wissen als eine einzelne Person.“
Wenn Unternehmen ihre KI-Technologien verbessern, können sie gefährlicher werden. „Schauen Sie sich an, wie es vor fünf Jahren war und wie es jetzt ist“, sagte Hinton.”Nehmen Sie den Unterschied und propagieren Sie ihn nach vorne. Das ist beängstigend.”
Dr. Hinton befürchtet, dass das Internet bald mit gefälschten Fotos, Videos und Texten überschwemmt wird und die meisten Menschen die Wahrheit nicht erkennen können. Er ist auch besorgt über die Auswirkungen der KI auf den Arbeitsmarkt und dass sie mehr als nur „Plackerei“ wegnehmen könnte.
Der Wettbewerb zwischen Google, Microsoft und anderen Unternehmen könnte sich zu einem weltweiten Wettlauf verschärfen, der so lange andauern wird, bis es eine Form globaler Regulierung gibt. Aber das könnte unmöglich sein, sagte Hinton.
Er glaubt, dass die größte Hoffnung der Menschheit darin besteht, dass die weltweit führenden Wissenschaftler zusammenarbeiten, um die Technologie zu kontrollieren. „Ich denke nicht, dass sie das weiter ausbauen sollten, bis sie verstanden haben, ob sie es kontrollieren können“, sagte er.
Was Google anbelangt: „Wir bleiben einem verantwortungsvollen Umgang mit KI verpflichtet“, sagte Jeff Dean, Chefwissenschaftler des Unternehmens, in einer Erklärung.”Wir lernen ständig, neu auftretende Risiken zu verstehen und gleichzeitig mutig innovativ zu sein.”
