世界のテクノロジー リーダー AI の実験を少なくとも 6 か月間一時停止するよう要求し、AI の競争は「制御不能」になっていると主張しました。
人工知能急速に成長しており、減速の兆候は見られません。 ChatGPT と呼ばれる単純な会話型 AI チャットボットがテクノロジー業界全体を急速に再形成できると予測できる人はほとんどいないでしょう。しかし、この AI の驚異的な成長は、現在、主要なテクノロジー リーダーの懸念材料となっています。彼らは現在、GPT-4 よりも強力な AI システムの即時停止を求めています。
ChatGPT の親会社である OpenAI は最近、AI チャットボットの最も強力なバージョンである GPT-4 を発表しました。 Microsoft は GPT-4 を Bing 検索エンジンに取り込もうとしており、Google も Bard で同様の道をたどっています。
テクノロジー リーダーは、AI の実験を少なくとも 6 か月停止することを望んでいます
テクノロジー リーダーの長いリスト 嘆願書に署名しましたが、Elon Musk と Apple の共同創設者である Steve Wozniak は最も著名な人物の 1 人です。彼らは、人間の競争力のある知性を AI に組み込むことは、社会と人類に重大なリスクをもたらす可能性があると主張しています。
書簡は、AI ラボが、作成者でさえかろうじて理解、予測、または確実に制御できるデジタル マインドを構築していると続けています。その結果、AI は情報チャネルに誤った情報を氾濫させる可能性があります。 「強力な AI システムは、その効果が肯定的であり、リスクが管理可能であると確信した後にのみ開発されるべきです」と書簡は述べています。
署名者はまた、AI 実験の 6 か月の一時停止は公開され、検証可能であり、すべての主要なアクターが含まれています。これが失敗した場合、政府は行動を起こし、モラトリアムを導入しなければなりません。さらに、AI ラボと独立した専門家が介入して、高度な AI 設計のための安全プロトコルを開発する必要があります。
OpenAI、Google、Microsoft のいずれも、この書簡にまだ回答していません。一方、コーネル大学のデジタルおよび情報法の教授であるジェームズ・グリメルマン氏は、「一時停止するのは良い考えですが、書簡は曖昧であり、規制の問題を真剣に受け止めていません」と述べています。グリメルマンはまた、イーロン マスクのサインを「偽善的」と呼びました。彼はテスラの自動運転車の AI の欠陥について責任を負っていなかったからです。