ChatGPT の発表とその後の AI 革命の開始以来、業界の専門家と政府は、AI システムの暴走を防ぐためのセキュリティ対策の強化を求めて結集してきました。さて、最近のニュースとして、影響力のある AI 専門家と業界リーダーのグループが警告 と述べ、AI がもたらす実存的リスクに地球規模で対処する緊急の必要性を強調しました。
「AI による絶滅のリスクを軽減することは、パンデミックやパンデミックなどの他の社会規模のリスクと並んで、世界的な優先事項であるべきです。」
サンフランシスコに本拠を置く非営利団体、Center for AI Safety が発表したこの声明は、最先端の AI システムを開発するために競争している企業の継続的な取り組みを強調しています。人類に対する脅威となる可能性がある適切な安全対策を講じること。その結果、この声明は、Google DeepMindのCEOであるデミス・ハサビス氏、OpenAIのCEOであるサム・アルトマン氏、名誉あるチューリング賞を受賞したジェフリー・ヒントン氏やヨシュア・ベンジオ氏などの人工知能研究者を含む著名な人物から広範な支持と署名を獲得した。この分野への画期的な貢献に対して 2018 年に受賞。
さらに、AI 安全センターのエグゼクティブ ディレクター、ダン ヘンドリックス氏は、この声明は、リスクを軽減するための具体的な介入を提案することで、潜在的な意見の相違や希薄化を回避することを目的としていると報告します。
脅威を理解する
現在の AI システムは人類に重大な脅威をもたらすものではないかもしれませんが、AI の安全性に関する議論は主に、AI システムが安全な動作レベルを急速に超えて自律的に進化し始めるという仮説的なシナリオを中心に展開しています。専門家らは、これらのAIシステムがある程度の洗練度に達すると、その動作を制御することはほぼ不可能になると考えている。したがって、AI 革命の先頭に立っている Google や OpenAI などの企業にとって、この脅威を認識することが重要です。
そのため、政府も AI 開発を管理および規制する方法を模索しています。ジョー バイデン大統領は、病気や気候変動などの世界的な課題の解決における AI の計り知れない可能性を認識していますが、社会、経済、国家安全保障に AI がもたらす潜在的なリスクに対処する必要性も強調しました。
