Desde o lançamento do ChatGPT, tem havido uma preponderância de AI Chatbots como o ChatGPT. No entanto, a disseminação desses chatbots também significa que os problemas estão surgindo. Na verdade, a OpenAI surpreendeu o mundo com a capacidade do ChatGPT. Por esta razão, tem havido muitas objeções ao seu uso e algumas até envolvem batalhas legais. No entanto, nos EUA, o país de origem do ChatGPT, a lei pode apenas proteger o ChatGPT. O Artigo 230 da Lei de Decência nas Comunicações dos EUA, promulgada em 1996, diz que uma empresa não precisa assumir responsabilidade legal pelo conteúdo publicado por terceiros ou usuários em sua plataforma (Artigo 230).
No entanto, a Suprema Corte dos EUA decidirá nos próximos meses se enfraquece essa proteção. Isso também pode ter um impacto nos chatbots de IA, como o ChatGPT. Espera-se que os juízes decidam até o final de junho se o YouTube, de propriedade da Alphabet, pode ser processado por recomendar vídeos aos usuários. Embora as plataformas estejam isentas de responsabilidade por vídeos enviados por usuários, as proteções da Seção 230 ainda se aplicam quando elas usam algoritmos para recomendar conteúdo aos usuários?
Tecnologia e especialistas jurídicos dizem que o caso tem implicações além das plataformas de mídia social. Eles acreditam que o veredicto pode desencadear um novo debate sobre se empresas como a OpenAI e o Google, que desenvolvem chatbots de IA, podem ser imune a reivindicações legais, como difamação ou invasão de privacidade. Os especialistas apontam que isso ocorre porque o algoritmo usado pelo ChatGPT e outros são semelhantes à maneira como ele recomenda vídeos aos usuários do YouTube.
O que os chatbots AI fazem?
Os chatbots AI são treinados para gerar grandes quantidades de conteúdo original, e a Seção 230 geralmente se aplica a conteúdo de terceiros. Os tribunais ainda precisam considerar se as respostas do chatbot de IA seriam protegidas. Um senador democrata disse que o direito à imunidade não pode ser aplicado a ferramentas generativas de IA porque essas ferramentas “criam conteúdo”. “A Seção 230 trata da proteção de usuários e sites que hospedam e organizam a fala do usuário. Não deve isolar as empresas das consequências de suas próprias ações e produtos”, disse ele.
A indústria de tecnologia tem pressionado para manter a Seção 230. Algumas pessoas pensam que ferramentas como o ChatGPT são como mecanismos de busca, servindo conteúdo existente para usuários com base em consultas. “IA realmente não cria nada. Ele apenas apresenta o conteúdo existente de uma maneira diferente ou em um formato diferente”, disse Carl Szabo, vice-presidente e conselheiro geral do grupo comercial da indústria de tecnologia, NetChoice.
Szabo disse que se a Seção 230 fosse enfraquecida, seria criaria uma tarefa impossível para desenvolvedores de IA. Isso também os exporá a uma enxurrada de ações judiciais que podem sufocar a inovação. Alguns especialistas especulam que os tribunais podem adotar uma postura neutra e examinar o contexto em que os modelos de IA geram respostas potencialmente prejudiciais.
Gizchina News of the week
Os benefícios de isenção ainda podem ser aplicados nos casos em que o modelo de IA parece ser capaz de explicar as fontes existentes. Mas chatbots como o ChatGPT são conhecidos por gerar respostas falsas, que os especialistas dizem que podem não ser protegidas.
Hanny Farid, tecnólogo e professor da Univ. da Califórnia, Berkeley, disse que é absurdo pensar que os desenvolvedores de IA devem ser imunes a ações judiciais sobre os modelos que “programam, treinam e implantam”.
“Se as empresas podem ser responsabilizadas em processos civis, elas produtos mais seguros; se forem isentos, os produtos tendem a ser menos seguros”, disse Farid.
Problemas com ferramentas de IA como ChatGPT
Os chatbots de IA agora são muito populares no mundo de hoje. Isso se deve ao fato de que eles fornecem uma maneira eficiente e conveniente para as pessoas interagirem. Esses chatbots são capazes de processar linguagem natural e fornecer respostas relevantes às consultas. Isso os torna uma ferramenta útil para atendimento ao cliente, vendas e suporte. No entanto, foram levantadas preocupações sobre a segurança do uso de chatbots de IA, principalmente em termos de privacidade e segurança.
Uma das principais preocupações com os chatbots de IA pode ser uma lacuna para violações de dados e ataques cibernéticos. Como os chatbots geralmente exigem que os usuários forneçam informações pessoais, como nome, endereço e detalhes de pagamento, existe o risco de que essas informações sejam roubadas. Para reduzir esse risco, as empresas devem garantir que seus chatbots sejam seguros e usem métodos de criptografia para proteger os dados do usuário.
Outro problema com os chatbots de IA é a possibilidade de o sistema ceder a vieses. Como esses chatbots são programados por humanos, podem ser preconceitos e estereótipos que existem na sociedade. Por exemplo, um chatbot projetado para rastrear candidatos a emprego pode discriminar certos grupos com base em sua raça, gênero ou etnia. Para evitar isso, os desenvolvedores do chatbot devem garantir que seus algoritmos sejam quase perfeitos e sem viés.
Além disso, existe o risco de que os chatbots de IA não sejam capazes de lidar com consultas complexas. Isso inclui aqueles relacionados à saúde mental ou violência doméstica. Nesses casos, os usuários podem não receber o suporte de que precisam. Claro, esta é uma das áreas onde as pessoas querem que esses chatbots sejam responsáveis. Se eles derem uma resposta errada em determinados cenários, o resultado pode ser muito ruim.
Palavras Finais
Apesar dessas preocupações, os chatbots de IA podem ser seguros se usados corretamente. Algumas pessoas querem usar chatbots de IA para substituir médicos e outros especialistas. Esses não são os usos ideais dessa ferramenta. Por parte dos desenvolvedores, eles devem evitar preconceitos a todo custo e garantir que o sistema seja inclusivo. Além disso, os chatbots não devem funcionar sem a presença humana. Periodicamente, eles devem ser verificados e atualizados, se necessário. Para garantir que sejam seguros de usar, os desenvolvedores devem abordar as questões de segurança, privacidade, preconceito e os limites dos chatbots. Com as ferramentas certas, os chatbots de IA podem fazer a busca de informações com muita facilidade. Também pode ser um assistente bastante decente para muitas pessoas que precisam de algum tipo de ajuda com informações.
Fonte/VIA:
