GPT-4 上線才兩個多月,用戶就開始期待 GPT-5 的發布了。我們已經看到 GPT-4 在各種測試和定性評估中的能力和強大程度。有了 ChatGPT 插件和互聯網瀏覽功能等許多新功能,它變得更好了。現在,用戶正在等待了解更多關於即將推出的 OpenAI 模型、GPT-5、AGI 的可能性等等。因此,要找到有關 GPT-5 發布日期和其他預期功能的深入信息,請遵循我們下面的解釋。
目錄
GPT-5 發布日期
2023 年 3 月發布 GPT-4 時,預計 OpenAI 將在 2023 年 12 月發布其下一代模型。 Siqi Chen ,Runway 的 CEO 也發推說“gpt5 計劃於今年 12 月完成培訓。”然而,在 4 月份的麻省理工學院活動上,當被問及 OpenAI 是否正在訓練 GPT-5 時,OpenAI 首席執行官 Sam Altman 表示“我們不會,而且一段時間內不會”。因此,關於 GPT-5 將於 2023 年底發布的傳言已經不攻自破了。
也就是說,專家建議 OpenAI 可能會在 2023 年 10 月推出 GPT-4.5,這是 GPT-4 和 GPT-5 之間的中間版本,就像 GPT-3.5 一樣。據說 GPT-4.5 最終將帶來多模態能力,即同時分析圖像和文本的能力。 OpenAI 已經宣布並演示了 GPT-4 的多模式在 2023 年 3 月的 GPT-4 開發者直播期間的功能。
GPT-4 多模態能力
除此之外,OpenAI 目前還有很多要解決的 GPT-4 模型開始在 GPT-5 上工作之前。目前,GPT-4 的推理時間非常長並且運行成本相當高。 GPT-4 API 訪問仍然很難獲得。此外,OpenAI 最近剛剛開放了對 ChatGPT 插件和互聯網瀏覽功能的訪問,這些功能仍處於測試階段。它尚未為所有付費用戶帶來 Code Interpreter,這再次處於 Alpha 階段。
雖然 GPT-4 非常強大,但我猜 OpenAI 意識到計算效率是可持續運行模型的關鍵要素之一。而且,添加新的特性和功能到組合中,您將擁有更大的基礎架構來處理,同時確保所有檢查點都已啟動並可靠地運行。因此,大膽猜測一下,如果我們假設政府機構不設置監管障礙,GPT-5 可能會在 2024 年問世,就在 Google Gemini 發布前後。
GPT-5 特性和功能(預期)
減少幻覺
業界的熱議是GPT-5將實現AGI(通用人工智能),但我們會來稍後詳細介紹。除此之外,GPT-5 應該可以減少推理時間、提高效率、進一步減少幻覺等等。讓我們從幻覺開始,這是大多數用戶不願意相信 AI 模型的關鍵原因之一。
GPT-4 準確性測試
根據 OpenAI,GPT-4 在所有九個類別下的內部對抗性設計事實評估中得分比 GPT-3.5 高 40%。現在,GPT-4 對不准確和不允許的內容做出響應的可能性降低了 82%。在跨類別的準確度測試中,它非常接近 80% 的標記。這是對抗幻覺的巨大飛躍。
現在,預計 OpenAI 會將 GPT-5 中的幻覺減少到 10%,這對於使 LLM 模型值得信賴來說意義重大。我最近一直在使用 GPT-4 模型完成很多任務,到目前為止它只給出了事實回應。所以 GPT-5 產生幻覺的可能性比 GPT-4 還要少。
計算效率高的模型
接下來,我們已經知道 GPT-4 的運行成本很高(每 1K 代幣 0.03 美元)並且推理時間也更長。而較舊的 GPT-3.5-turbo 模型比 GPT-4 便宜 15 倍(每 1K 代幣 0.002 美元)。這是因為 GPT-4 接受了大量1 萬億參數的訓練,這需要昂貴的計算基礎設施。在我們最近關於 Google 的 PaLM 2 模型的解釋器中,我們發現 PaLM 2 的尺寸相當小,並且性能很快。
最近報告 證實,PaLM 2 接受了 3400 億個參數的訓練,這遠遠小於 GPT-4 的大參數量。谷歌甚至繼續表示,越大並不總是越好,研究創造力是製作出色模型的關鍵。因此,如果 OpenAI 想要使其即將推出的模型計算最優,它必須找到新的創造性方法來減小模型的大小,同時保持輸出質量。
回到我正在做的一個項目在使用 OpenAI GPT-4 API 時,注意到 API 響應時間非常慢。
針對“你能給我看一個基本的散點圖 matplotlib 示例嗎?”的新上下文測試平均響應
GPT-3.5:13.4 秒
GPT-4:44.7 秒。
⏱️🦥🐢— Harrison Kinsley (@Sentdex) 5 月 10 日, 2023
OpenAI 的很大一部分收入來自企業和企業,所以是的,GPT-5 不僅必須更便宜,而且還必須更快地返回輸出。開發人員已經對 GPT-4 API 調用頻繁停止響應這一事實表示不滿,他們被迫在生產中使用 GPT-3.5 模型。它一定在 OpenAI 的願望清單上,以提高即將推出的 GPT-5 模型的性能,尤其是在谷歌推出速度更快的 PaLM 2 模型之後,您現在就可以試用它。
多感官 AI 模型
雖然 GPT-4 已被宣佈為多模式 AI 模型,但它僅處理兩種類型的數據,即圖像和文本。當然,該功能尚未添加到 GPT-4 中,但 OpenAI 可能會在幾個月內發布該功能。然而,借助 GPT-5,OpenAI 可能會在使其成為真正的多模態方面邁出一大步。它還可以處理文本、音頻、圖像、視頻、深度數據和溫度。它將能夠互連來自不同模式的數據流以創建嵌入空間。
來源:Meta
最近,Meta 發布了 ImageBind,一種 AI 模型,它結合了來自六種不同模式的數據,並將其開源用於研究目的。在這個領域,OpenAI 沒有透露太多,但該公司確實有一些強大的視覺分析和圖像生成基礎模型。 OpenAI 還開發了用於分析圖像的 CLIP(對比語言-圖像預訓練)和 DALL-E,這是一種流行的 Midjourney 替代方案,可以根據文本描述生成圖像。
這是一個正在進行的研究領域,其應用尚不清楚。據 Meta 稱,它可用於為虛擬現實設計和創建身臨其境的內容。我們需要拭目以待,看看 OpenAI 在這個領域做了什麼,以及隨著 GPT-5 的發布,我們是否會看到更多跨各種多模態的 AI 應用。
長期記憶
隨著GPT-4 發布後,OpenAI 帶來了最大上下文長度為 32K 令牌,每 1K 令牌的成本為 0.06 美元。我們在幾個月內迅速看到了從標準 4K 代幣到 32K 的轉變。最近,Anthropic 在其 Claude AI 聊天機器人中將上下文窗口從 9K 令牌增加到 100K。預計 GPT-5 可能會通過更大的上下文長度來提供長期記憶支持。
這有助於讓 AI 角色和朋友記住您的角色和可以持續多年的記憶。除此之外,您還可以在單個上下文窗口中加載書籍和文本文檔庫。由於長期記憶支持,可能會有各種新的 AI 應用程序,而 GPT-5 可以使這成為可能。
GPT-5 發布:對 AGI 的恐懼?
2023 年 2 月,Sam Altman 寫了一篇 關於 AGI 及其如何造福全人類的博客。 AGI(Artificial General Intelligence),顧名思義,是普遍比人類聰明的下一代人工智能係統。據說 OpenAI 即將推出的模型 GPT-5 將實現 AGI,這似乎有些道理。
我們已經有幾個自主 AI 代理,例如 Auto-GPT 和 BabyAGI,它們是基於GPT-4,可以自主決策,得出合理的結論。某些版本的 AGI 完全有可能與 GPT-5 一起部署。
在博客中,Altman 說“我們相信我們必須通過部署功能較弱的技術版本來不斷學習和適應,以最大限度地減少‘一次成功’的情況”,同時 承認在導航像 AGI 這樣強大的系統時存在“巨大風險”。在最近的參議院聽證會之前, Sam Altman 還敦促美國立法者對更新的 AI 系統進行監管。
在聽證會上,奧特曼說,“我認為如果這項技術出了問題,它可能會大錯特錯。我們希望對此直言不諱。”此外,他補充說,“我們希望與政府合作,防止這種情況發生。”一段時間以來,OpenAI 一直在大聲疾呼對新的人工智能係統進行監管,這些系統將非常強大和智能。請注意,Altman 尋求的是圍繞極其強大的 AI 系統進行安全監管,而不是開源模型或小型初創公司開發的 AI 模型。
監管應該在能力閾值以上生效。
AGI 安全性非常重要,前沿模型應該受到監管。
監管捕獲是不好的,我們不應該搞亂低於閾值的模型。開源模型和小型初創公司顯然很重要。 https://t.co/qdWHHFjX4s—山姆奧特曼 (@sama) 2023 年 5 月 18 日
值得注意的是 Elon Musk 和其他知名人士,包括 Steve Wozniak、Andrew Yang 和 Yuval Noah Harari 等人呼籲暫停巨型 AI 實驗,早在 2023 年 3 月。從那時起,對 AGI 和更新的 AI 系統(比 GPT-4 更強大)產生了廣泛的反對。
如果 OpenAI 確實要為 GPT-5 帶來 AGI 能力,那麼預計它的公開發布會有更多延遲。 監管肯定會啟動,並且圍繞安全和對齊的工作將受到徹底審查。好消息是 OpenAI 已經擁有強大的 GPT-4 模型,並且它還在不斷添加新的特性和功能。沒有其他 AI 模型可以接近它,即使是基於 PaLM 2 的 Google Bard。
OpenAI GPT-5:未來態勢
在 GPT-4 發布後,OpenAI 對其操作變得越來越保密。它不再與開源社區共享關於訓練數據集、體系結構、硬件、訓練計算和訓練方法的研究。對於一家基於自由合作原則成立的非營利組織(現在是利潤上限)來說,這是一個奇怪的轉變。
2023 年 3 月,與 The Verge,OpenAI 首席科學家 Ilya Sutskever 說:“我們錯了。坦率地說,我們錯了。如果你像我們一樣相信,在某個時候,人工智能——通用人工智能——將變得極其強大,令人難以置信,那麼開源就沒有意義了。這是一個壞主意……我完全預計在幾年內,每個人都會完全清楚開源 AI 是不明智的。”
現在,很明顯 GPT 和 GPT 都不是-4 和即將到來的 GPT-5 都不會是開源的,以便在 AI 競賽中保持競爭力。然而,另一家大公司 Meta 一直在以不同的方式處理 AI 開發。 Meta 已經在 CC BY-NC 4.0 許可(僅限研究,非商業)下發布了多個 AI 模型,並在開源社區中獲得了關注。
看到 Meta 的 LLaMA 和其他 AI 模型被大量採用,OpenAI 也改變了對開源的立場。根據最近的報告,OpenAI 正在開發一種新的開源 AI 模型,該模型將很快向公眾發布。沒有關於它的能力以及它與 GPT-3.5 或 GPT-4 的競爭力的信息,但這確實是一個受歡迎的變化。
總而言之,GPT-5 將成為一個前沿模型,它將推動人工智能的可能性。某種形式的 AGI 似乎很可能會與 GPT-5 一起推出。如果是這樣的話,OpenAI 必須為世界各地的嚴格監管(和可能的禁令)做好準備。至於 GPT-5 的發布日期,安全的賭注是在 2024 年的某個時候。
發表評論
Redfall 中有一些有問題的設計選擇,它是半生不熟的著名 Arkane 公式的大雜燴。我喜歡 Arkane Studios 製作的遊戲,Dishonored 因其獨特的突發遊戲玩法而成為我不時重溫的遊戲。 […]
BenQ PD2706UA 顯示器現已上市,它配備了生產力用戶會喜歡的所有附加功能。 4K 分辨率、出廠校準顏色、27 英寸面板、可輕鬆調節的符合人體工程學的支架等等。它有很多 […]
Minecraft Legends 是一款在去年首次亮相時引起我興趣的遊戲。但是,我承認,在我們接近正式發布之前,我並沒有積極地關注這款遊戲。畢竟,我的愛人 […]