Seit der Einführung von ChatGPT und dem anschließenden Beginn der KI-Revolution fordern Branchenexperten und Regierungen strengere Sicherheitsmaßnahmen, um zu verhindern, dass KI-Systeme aus dem Ruder laufen. Nun hat eine Gruppe einflussreicher KI-Experten und Branchenführer in den jüngsten Nachrichten eine Warnung und betont die dringende Notwendigkeit, das existenzielle Risiko der KI auf globaler Ebene anzugehen.
„Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und anderen gesellschaftlichen Risiken eine globale Priorität sein.“ Atomkrieg“, heißt es in der Erklärung.
Die von der in San Francisco ansässigen gemeinnützigen Organisation Center for AI Safety herausgegebene Erklärung unterstreicht die anhaltenden Bemühungen von Unternehmen, die sich darum bemühen, die fortschrittlichsten KI-Systeme ohne Atomkrieg zu bauen Umsetzung angemessener Sicherheitsmaßnahmen, die möglicherweise eine Bedrohung für die Menschheit darstellen könnten. Infolgedessen erhielt die Erklärung breite Unterstützung und Unterschriften prominenter Persönlichkeiten, darunter Demis Hassabis, CEO von Google DeepMind, Sam Altman, CEO von OpenAI, und Forscher für künstliche Intelligenz wie Geoffrey Hinton und Yoshua Bengio, die beide den renommierten Turing-Preis erhielten Auszeichnung im Jahr 2018 für ihre bahnbrechenden Beiträge auf diesem Gebiet.
Darüber hinaus erklärte der Geschäftsführer des Center for AI Safety, Dan Hendrycks, in einem Melden Sie, dass die Erklärung darauf abzielt, potenzielle Meinungsverschiedenheiten und Verwässerungen zu vermeiden, indem spezifische Maßnahmen zur Minderung der Risiken vorgeschlagen werden.
Die Bedrohung verstehen
Während aktuelle KI-Systeme möglicherweise keine nennenswerte Bedrohung für die Menschheit darstellen, dreht sich die Debatte über die KI-Sicherheit in erster Linie um hypothetische Szenarien, in denen KI-Systeme schnell sichere Betriebsniveaus überschreiten und beginnen, sich autonom weiterzuentwickeln. Experten gehen davon aus, dass die Steuerung ihrer Abläufe nahezu unmöglich sein wird, sobald diese KI-Systeme einen bestimmten Grad an Komplexität erreicht haben. Daher ist es für Unternehmen wie Google und OpenAI, die die KI-Revolution anführen, von entscheidender Bedeutung, sich der Bedrohung bewusst zu sein.
Folglich sucht auch die Regierung nach Möglichkeiten, die KI-Entwicklung zu kontrollieren und zu regulieren. Und obwohl Präsident Joe Biden das immense Potenzial der KI bei der Lösung globaler Herausforderungen wie Krankheiten und Klimawandel erkennt, betonte er auch die Notwendigkeit, sich mit den potenziellen Risiken auseinanderzusetzen, die sie für die Gesellschaft, die Wirtschaft und die nationale Sicherheit mit sich bringt.
