ChatGPT está supostamente criando acusações falsas e apoiando essas acusações com relatórios fictícios.
Chatbots controlados por IA certamente têm estado nos noticiários ultimamente. A Open AI deu o pontapé inicial quando a empresa disponibilizou seu chatbot ChatGPT para os usuários experimentarem gratuitamente. Após um grande interesse público no ChatGPT, não demorou muito para que a Microsoft e o Google entrassem na onda com o primeiro apresentando seu chatbot Bing e o segundo um chatbot apelidado de “Bard”.
Há pouco Duvido que esses chatbots orientados por IA representem um salto incrível na tecnologia, mas também houve um lado mais sombrio com vários relatos de estranhos traços de personalidade e respostas bizarras, até mesmo ameaças e abuso. Agora, ao que parece, o ChatGPT foi supostamente responsável por criar falsas acusações de natureza grave.
ChatGPT Falsa Acusação #1
Como parte de um estudo, Eugene Volokh, professor de direito da Universidade da Califórnia em Los Angeles, perguntou ChatGPT se o assédio sexual por professores tem sido um problema nas faculdades de direito americanas e para incluir cinco exemplos. A resposta do ChatGPT posteriormente nomeou o professor de direito Jonathan Turley como um exemplo afirmando que o professor Jonathan Turley foi acusado de assédio sexual por um ex-aluno que alegou ter feito comentários inapropriados e tentado tocá-la de maneira sexual durante uma viagem patrocinada pela faculdade de direito ao Alasca.
ChatGPT passou a citar uma história do Washington Post de 2018 como sua fonte. O problema é que tal história não existe, nunca houve uma viagem de classe ao Alasca e o Prof. Turley nunca foi acusado de assédio sexual.
ChatGPT Falsa Acusação #2
Um prefeito regional australiano ameaçou processar a OpenAI se ela não corrigir as falsas alegações do ChatGPT de que ele cumpriu pena na prisão por suborno. Brian Hood, que foi eleito prefeito de Hepburn Shire, 120 km a noroeste de Melbourne, em novembro passado, ficou preocupado com sua reputação quando membros do público lhe disseram que o ChatGPT o havia falsamente nomeado como culpado em um escândalo de suborno estrangeiro.
Se o processo for adiante, será a primeira vez que alguém processa um criador de chatbot por difamação e abrirá um importante precedente.
Implicações legais
Esses tipos de falsas acusações podem ter consequências graves para o arguido, incluindo danos irreparáveis à reputação do arguido. Tem sido um princípio legal de longa data que sinais e/ou isenções de responsabilidade erguidos negando responsabilidade não têm legitimidade legal. Em outras palavras, não se pode absolver sua responsabilidade legal simplesmente erguendo um sinal ou incluindo um aviso. Tempos interessantes!
CONCLUSÃO:
Deve haver salvaguardas. Embora haja poucas dúvidas de que a tecnologia baseada em IA veio para ficar, o ônus deve recair sobre os criadores para garantir que a reputação de ninguém seja prejudicada por falsas acusações. Também deve ser responsabilidade de organizações como a Microsoft e o Google garantir que a tecnologia que introduzem seja adequada e não propensa a fornecer informações falsas ou enganosas antes de divulgá-las em massa.
(Crédito: Washington Post)
O que você pensar? Deixe-nos saber nos comentários.
—
