Konuşmalı yapay zeka sohbet robotlarının bu aşamadaki sorunlarından biri, halüsinasyon görme eğiliminde olmalarıdır. Yani kullanıcının isteğine uygun bilgiler oluşturuyorlar. ChatGPT, kullanıcıya bir soruya yanıt vermek için tasarlanmış bir dil modelidir ve bunu yaparken yapay zeka sohbet robotu, bulduğu doğru olmasa bile tüm boşlukları dolduracak bilgilerle gelir.
The New York Times (Mashable) Levidow’dan Steven Schwartz adlı bir avukat hakkında rapor verdi, 30 yıldır avukat olarak çalışan Levidow & Oberman. Ancak ChatGPT sayesinde Schwartz kendini yeni bir meslek ararken bulabildi. Görüyorsunuz, Schwartz, bir uçuş sırasında servis arabasının kendisine çarpması sonucu dizini inciten Kolombiya merkezli Avianca havayolu şirketine dava açan Roberto Mata adlı bir müşteriyi temsil ediyordu.
Schwartz’ın ChatGPT kullanma kararı, Avianca, 30 yıllık hukuk kariyerine mal oldu
Avianca, davayı reddetmesi için bir yargıç sağlamaya çalıştı ve Mata’nın avukatları-Schwartz da dahil olmak üzere-mahkemede görülen benzer davaları içeren bir tutanak sundu. davanın reddedilmemesi gerektiğini hakime kanıtlamak için. Ancak ChatGPT ve Schwartz’ın işleri batırdığı yer burasıdır. Schwartz, dava Eyalet mahkemesine ilk geldiğinde dava açtı ve Manhattan’daki Federal Mahkemeye havale edildiğinde yasal araştırmayı sağladı. bir dosyalama ve şu anda yargıçla başı büyük belada pic.twitter.com/AJSE7Ts7W7
— Daniel Feldman (@d_feldman) 27 Mayıs 2023
Dosyalama sürecini iyileştirmek isteyen Schwartz, mahkemeye taşınan benzer davaları bulmasına yardımcı olması için ChatGPT’ye başvurdu. ChatGPT şu davaların bir listesini çıkardı: Varghese-China Southern Airlines, Shaboon-Egyptair, Petersen-Iran Air, Martinez-Delta Airlines, Estate of Durden-KLM Royal Dutch Airlines ve Miller-United Airlines.”Bu, yargıca atıfta bulunulacak davaların makul bir listesi gibi görünüyor. Ufacık bir sorun vardı; bu davaların hiçbiri gerçek değildi! Hepsi ChatGPT tarafından uyduruldu.
Avukat hiçbir zaman yapay zeka sohbet robotunun kendisine sahte bilgiler verebileceğini düşündü
Avianca’nın hukuk ekibi ve yargıç, Schwartz’ın dosyasında belirtilen davalardan hiçbirini bulamadıklarını hemen anladı. Mahkemeye sunulan Schwartz, ChatGPT ile etkileşiminin bir ekran görüntüsünü ekledi ve konuşmalı AI chatbot söz konusu olduğunda,”içeriğinin yanlış olma ihtimalinin farkında olmadığını”söyledi. Schwartz için”potansiyel yaptırımları tartışmak”için bir ay.
Bu, işlerinin bir kısmını yapay zekaya yaptırmayı planlayan herkes için bir uyarı olsun. Zamandan tasarruf ettiğinizi düşünebilirsiniz, ancak kendi sıkı çalışmanızı bir yapay zeka sohbet robotunun sonuçlarıyla değiştirirseniz başınız daha fazla belaya girebilir. Makalelerimin yapay zeka tarafından yazılmasını asla istemem ve yalnızca yapay zekayı kullanarak kendinize zarar vermekle kalmıyorsunuz, ya yazmadığınız bir şeyin yazarlığını iddia ederek ya da muhtemelen izleyicilerinize yapay zeka sağladığınızdan izleyicilerinize yalan söylüyorsunuz.-up bilgileri.
Yazmanız gereken bir makale konusunda size yardımcı olması için bir yapay zeka sohbet robotu kullanmayı planlayan bir öğrenci veya davalardan alıntı yapmak isteyen bir avukat olmanız fark etmez. AI sohbet botları halüsinasyon görebilir ve size sahte bilgiler verebilir. Bu, yararlı olamayacakları ve sizi doğru yöne yönlendirebilecekleri anlamına gelmez. Ancak işaretleme yapıldıktan sonra, elde ettiğiniz bilgilerin meşru olduğundan emin olmak size kalmıştır.
