一位法學教授同事告知喬治華盛頓大學法學教授喬納森·特利，OpenAI 的 ChatGPT 錯誤地指控他性侵犯。
加州大學洛杉磯分校法學教授 Eugene Volokh 對 OpenAI 的 ChatGPT 進行研究，並發現當被要求描述涉及教授同事的醜聞並提供引用的媒體資源時，人工智能驅動的聊天機器人將開始用製作的-上信息。在 Turley 的例子中，ChatGPT 的 3.5 模型獲取了 2018 年華盛頓郵報的一篇虛假文章，該文章錯誤地指控法學教授在阿拉斯加學校旅行期間對學生進行性行為不端。
根據 Turley 的說法，他在 今日美國，他從未去過阿拉斯加，引用的 WAPO 消息來源甚至不存在，而且他從未被指控性行為不端、攻擊或騷擾。在WAPO 採訪，法學教授表示，他發現 AI 聊天機器人的指控“相當令人不寒而栗”，並表示這種級別的指控“極其有害”，尤其是考慮到當前的風氣，批評者願意在不經過二次考慮或進一步分析的情況下採取任何看起來可信的信息。
如果這些批評者受到激勵破壞他們不同意的同事的職業生涯。
現在，一位哥倫比亞大學法律學者引用了加州大學洛杉磯分校法學教授尤金·沃洛克 (Eugene Volokh) 進行的實驗，就 ChatGPT 的虛假指控和法律責任提出了警告一般的錯誤信息。根據哥倫比亞大學的 Tim Wu 的說法，這項有爭議的技術存在嚴重的“誹謗責任問題”，將屬於“本身誹謗”。
p>法學教授繼續爭辯說，ChatGPT 是一個“誹謗機器”，並且當 ChatGPT 發出虛假指控時會出現許多法律問題，例如誰應該受到懲罰。吳爭辯說，在誹謗語境中，一旦說出名譽就造成了損害，並且鑑於聊天機器人的力量，無論是否來自真人，都不合法。
值得注意的是，Wu 並不是第一個指出 ChatGPT 等人工智能聊天機器人明顯錯誤的人，因為位於澳大利亞墨爾本附近的赫本郡市長 Brian Hood 現在正在起訴 OpenAI，因為 ChatGPT 錯誤地指控他2000 年代初期涉及澳大利亞儲備銀行一家子公司的外國賄賂醜聞。胡德確實為儲備銀行的子公司 Note Printing Australia 工作，但他是向當局通報向外國官員行賄的人。他是舉報人。
