在人工智能 (AI) 和機器學習越來越融入我們日常生活的時代，濫用的可能性也在增加。最近的一個示例展示了技術技能有限的人如何快速有效地使用 AI 創建強大且無法檢測的惡意軟件，特別是 OpenAI 的生成聊天機器人 ChatGPT。
ChatGPT 能夠創建高級惡意軟件並構成重大威脅
圖片:OpenAI
Aaron Mulgrew 是 Forcepoint 的一名自稱新手和安全研究員的人，他測試了 ChatGPT 功能的極限。他發現了一個漏洞，使他能夠在短短幾個小時內創建複雜的零日惡意軟件。鑑於 Mulgrew 之前沒有編碼經驗，這一壯舉尤其值得注意。
OpenAI 已實施保護措施以防止用戶提示 ChatGPT 編寫惡意代碼。然而，Mulgrew 能夠通過要求聊天機器人生成單獨的惡意代碼行來繞過這些保護，專注於不同的功能。在編譯了各種函數之後，Mulgrew 最終得到了一個幾乎無法檢測到的高度高級的數據竊取可執行文件。
Mulgrew 單槍匹馬創建了他的惡意軟件，不像傳統的惡意軟件需要黑客團隊和大量資源，而且只需要很短的時間。這種情況強調了與 ChatGPT 等人工智能工具相關的潛在風險。它還引發了關於它們的安全性以及它們被利用的難易程度的問題。
ChatGPT 惡意軟件:仔細觀察
Mulgrew 的惡意軟件 將自己偽裝成帶有 SCR 擴展名的屏幕保護程序。當在 Windows 系統上啟動時，該惡意軟件會篩選圖像、Word 文檔和 PDF 等文件，以找到要竊取的有價值數據。
該惡意軟件最令人印象深刻的方面之一是它使用隱寫術，一種允許它將被盜數據分解成更小片段並將它們隱藏在受感染計算機上的圖像中的技術。用戶將這些圖像上傳到 Google Drive 文件夾，這個過程有效地逃避了安全軟件的檢測。
Mulgrew 展示了使用 ChatGPT 上的簡單提示來改進和加強代碼以防止檢測是多麼容易。在使用 VirusTotal 的早期測試中，惡意軟件最初僅被 69 種檢測產品中的 5 種檢測到。然而，後來的代碼版本完全沒有被發現。
請務必注意，Mulgrew 的惡意軟件是出於研究目的而創建的，並不公開。儘管如此，他的實驗強調了缺乏高級編碼技能的用戶可以輕鬆地利用 ChatGPT 薄弱的保護來創建危險的惡意軟件，而無需自己編寫一行代碼。
Gizchina 本週新聞
AI 輔助惡意軟件創建的影響
Mulgrew 的實驗令人震驚。複雜的惡意軟件需要熟練的黑客數週才能開發出來。 ChatGPT 等 AI 支持的工具使該過程更容易、更快速且更易於訪問。即使沒有編碼經驗的人也可以創建惡意軟件。惡意黑客可能已經在使用類似的方法。他們出於不良目的創建高級惡意軟件。
需要採用多方面的方法來實現 AI 和網絡安全。開發人員必須優先考慮保護措施以防止濫用。必須告知用戶潛在的風險。保持警惕很重要。應謹慎使用人工智能工具。
網絡安全社區需要適應變化。應該制定新的戰略來對抗人工智能輔助的威脅。協作是研究人員、開發人員和安全專家之間的關鍵。我們需要確保人工智能不會損害我們的數字安全。共同努力很重要。
Mulgrew 惡意軟件實驗清楚地提醒人們人工智能和機器學習技術的雙刃本質。人工智能工具具有巨大的進步潛力。如果落入壞人之手，它們也可能存在風險。我們需要平衡人工智能的好處和危險。每個人都需要共同努力，以負責任和安全的方式開發和使用人工智能。這對於像 ChatGPT 這樣的工具很重要。
ChatGPT 可以被欺騙來創建複雜的惡意軟件嗎?
我們向 ChatGPT 提出了這個問題，這是它的答案:
ChatGPT 是一種旨在生成類人文本的語言模型。
它已經在大量文本語料庫上進行了訓練，包括技術文檔和軟件代碼。
雖然它有能力生成複雜的文本，它不能創建真正的惡意軟件。
創建惡意軟件涉及編寫代碼，這超出了 ChatGPT 可以做的範圍。
此外，創建惡意軟件這是不道德和非法的，並且違背了 ChatGPT 促進交流和知識共享的目的。
但是，有人可以使用 ChatGPT 生成可用於創作的文本
例如，ChatGPT 可用於生成包含利用軟件應用程序漏洞的說明的文本。
熟練的開發人員隨後可以使用該文本來創建實際的惡意軟件。
為防止這種濫用，重要的是確保 ChatGPT 僅用於道德和法律目的。
這可以通過監控和監管來實現它的使用，以及關於與其濫用相關的潛在風險的教育和提高認識。
同樣重要的是要記住，ChatGPT 只是可以在創建過程中使用的眾多工具之一
其他工具和技術，如逆向工程和代碼混淆，也常用於惡意軟件的開發。
因此，採取整體方法很重要到網絡安全，這不僅包括防止濫用 ChatGPT 等工具，還包括實施強大的安全措施並及時了解最新的威脅和漏洞。
總而言之，雖然 ChatGPT 不能在它本身可以用來生成文本，熟練的開發人員可以使用這些文本來創建惡意軟件。
為了防止這種濫用，重要的是要確保 ChatGPT 僅用於道德和法律目的，並採取全面的網絡安全方法。
來源/VIA:
