人工智能領域的一位大投資者就人工智能發展的前景及其對每個人的影響發出了警告。
2
查看圖庫-2 張圖像
新專欄 發表於《金融時報》 詳述了 AI 投資者 Ian Hogarth 與機器學習研究人員之間的對話，該研究告訴 Hogarth 工程師們已經達到了這一點他們接近開發通用人工智能（AGI）的地方。機器學習研究人員說，“從現在開始，”我們正在接近 AGI，對於那些不知道的人來說，AGI 可以簡單地理解為創建一個能夠執行或學習如何執行人類每項任務的 AI。… AGI 從十年到半個多世紀不等。 Hogarth 講述了與機器學習研究人員的談話，並表示如果他所說的是真的，並且人類可能即將創造出真正危險的東西，他是否有責任警告人們?
Hogarth 說，他的工程師熟人顯然正在努力履行這一責任，但似乎正像他所在領域的許多其他人一樣，隨著行業的指數級發展而被拉動。 Hogarth 繼續說，在與機器學習研究人員交談後，他開始考慮如果 AI 不以負責任和安全的方式開發，他四歲的兒子將在這個世界中成長。
> p>“當我考慮到他可能成長的世界時，我逐漸從震驚轉變為憤怒，”他寫道。 “可能影響地球上每一個生命的重大決策可能由一小群私營公司在沒有民主監督的情況下做出，這讓人感覺非常錯誤。”
AI 投資者寫道，當他得知人工智能是由極少數私營公司開發而沒有任何民主或監管監督時，他對這項技術的巨大潛力的震驚慢慢變成了憤怒。 Hogarth 承認，儘管他對 AI 發展持批評態度，但他通過對 50 多家 AI 初創公司的投資，深深融入了這個快速發展的行業。
Hogarth 回顧 AGI，說簡單的三個字母首字母縮略詞並不能準確描述 AGI 的實際規模，而是更喜歡使用“上帝般的 AI”作為描述。根據 Hogarth 的說法，追求創建第一個 AGI 的少數公司都在奔向終點線，他們不知道終點線是什麼，而且他們目前都在沒有任何監督或安全考慮的情況下奔跑。
“三個字母的首字母縮略詞並不能體現 AGI 所代表的巨大意義，因此我將其稱為:神一般的 AI，”Hogarth 宣稱. “一台可以自主學習和發展的超級智能計算機，無需監督即可了解其環境，並可以改變周圍的世界。”
總而言之， Hogarth 表示，這些頂級公司不會簡單地停止追求 AGI 的創建，以便有適當的時間來評估已經取得的成果及其對世界的影響。這位 AI 投資者認為，只有發生災難性事件才能讓政府和監管機構意識到 AI 的危險。
“需要明確的是，我們還沒有到這一步， “霍加斯繼續說道。 “但技術的本質意味著我們很難準確預測我們何時會到達那裡。上帝般的 AI 可能是一種我們無法控製或理解的力量，並且可能會導致過時或破壞人類。“
“不幸的是，我認為種族將繼續，”Hogarth 寫道。 “可能需要發生重大濫用事件——一場災難——才能喚醒公眾和政府。”
