A polícia da China reprimiu uma gangue que usou o ChatGPT para criar vídeos falsos. O ChatGPT é um chatbot de IA desenvolvido pela OpenAI, apoiado pela Microsoft, que permite aos usuários gerar respostas com base em solicitações e perguntas do usuário. A gangue comprou ilegalmente um lote de contas de vídeo desde maio de 2023 para usar o ChatGPT para criar vídeos falsos.
Proibição da China ao ChatGPT
Os reguladores chineses supostamente restringiu o acesso ao ChatGPT. No entanto, as empresas e escolas de tecnologia chinesas avançam no desenvolvimento de bots domésticos de IA. O ChatGPT não está oficialmente disponível na China, onde o governo opera um firewall detalhado e censura estrita na Internet. Mas muitos o acessavam via VPNs. Além disso, alguns desenvolvedores terceirizados produziram programas que davam algum acesso ao serviço. As pesquisas por ChatGPT em plataformas chinesas não retornam mais resultados. No entanto, os programas alternativos foram desativados ou substituídos por um aviso dizendo que foram suspensos por “violar leis e regulamentos relevantes”.
A proibição do ChatGPT na China não é uma surpresa, pois o país asiático é bastante rigoroso com suas leis. O governo chinês tem reprimido a propaganda política e a desinformação. Segundo relatos, ele vê a capacidade do ChatGPT de gerar texto como uma ameaça ao seu controle sobre o fluxo de informações.
O caso da fraude de vídeo do ChatGPT
Após uma investigação, a polícia de Shaoxing descobriu que a gangue comprou ilegalmente um lote de contas de vídeo desde maio de 2023 para usar ChatGPT para criar vídeos falsos. A polícia não forneceu detalhes sobre o conteúdo dos vídeos falsos ou como eles foram usados. No entanto, esta não é a primeira vez que o ChatGPT é usado para criar notícias falsas na China. Em maio de 2023, a polícia chinesa prendeu um homem que usou o ChatGPT para criar notícias falsas sobre um acidente de trem. Esta é uma das primeiras ações de aplicação sob uma lei chinesa recentemente promulgada que regula “deep fakes” geradas por IA — imagens digitais, vídeos ou outras mídias aparentemente realistas, mas fabricadas.
De acordo com um relatório policial do noroeste Na província chinesa de Gansu, um homem identificado apenas pelo sobrenome, Hong, usou o ChatGPT para criar uma notícia falsa sobre um acidente que supostamente levou à morte de nove trabalhadores da construção civil em Gansu. Esta história se tornou viral e até fontes de notícias legítimas foram enganadas pela história falsa.
A unidade local da polícia de segurança cibernética foi alertada sobre o artigo sobre o acidente de trem-publicado em 25 de abril. matéria. Hong então admitiu que usou o ChatGPT para criar notícias falsas sobre os acidentes de trem antes de publicá-las online. A prisão de Hong é a primeira detenção desde que o novo regulamento da China sobre deep fake tech entrou em vigor em janeiro. A lei visa impedir o uso indevido de tecnologia que pode alterar os dados faciais e de voz. E embora o ChatGPT seja proibido na China, existem soluções alternativas, como redes privadas virtuais.
Gizchina News of the week
A polícia da China desmantelou uma quadrilha de rumores
Além disso, em 2 de junho, a polícia de Shangyu descobriu durante uma investigação online que um usuário de aplicativo chamado “Explicação de Shangyi ” divulgou um vídeo sobre um incêndio no Parque Industrial Shangyu. O número de visualizações do vídeo aumentou rapidamente em um curto período de tempo. A polícia verificou novamente o vídeo e descobriu que era uma notícia falsa. A polícia de Shangyu também localizou um grupo de tecnologia em outra província ligado ao crime. Em 5 de junho, a polícia foi a outras províncias e prendeu três suspeitos.
Após investigação, o grupo de relações públicas de gangues adquiriu ilegalmente várias contas de vídeo da Internet desde maio. Ele uniu os vídeos e produziu vídeos falsos por meio da tecnologia ChatGPT para publicar na rede para obter tráfego. O tráfico gerou lucros para o grupo. Até agora, a gangue comprou ilegalmente mais de 1.500 contas de vídeo e divulgou mais de 3.000 vídeos falsos. O suspeito preso já confessou o crime, mas a polícia ainda está investigando mais suspeitos.
Debate sobre a regulamentação da IA
A proibição do ChatGPT na China e as preocupações sobre a autenticidade provocaram um debate sobre a regulamentação da IA. Em janeiro de 2023, a Administração do Ciberespaço da China promulgou novos regulamentos para controlar o uso da tecnologia de IA. A autoridade italiana de proteção de dados, Garante, impôs uma proibição temporária do ChatGPT, um chatbot que usa IA para gerar textos que parecem ter sido criados por humanos e jogos de computador.
O cão de guarda estava menos preocupado com o uso de IA do que por violações da legislação de proteção de dados. Garante então disse à empresa apoiada pela Microsoft Corp por trás do ChatGPT, OpenAI, que teria que ser mais transparente com seus usuários sobre como seus dados foram processados. Ele também disse que a empresa dos EUA teve que obter permissão de usuários para determinados usuários. Se os dados do usuário forem usados para desenvolver o software, será necessária a permissão dos usuários. Além disso, diz que o OpenAi deve filtrar o acesso a esse recurso para menores.
Palavras Finais
O caso da fraude de vídeo ChatGPT revela a necessidade de regulamentação e controle da tecnologia de IA na China. Embora o ChatGPT possa ser uma ferramenta útil para criar bate-papos com base em solicitações e perguntas do usuário, ele também pode ser usado para criar notícias e vídeos falsos. O governo chinês tem trabalhado para regular e controlar o uso da tecnologia AI, incluindo o ChatGPT, à medida que a tecnologia se torna mais avançada. A repressão à gangue que usou o ChatGPT para criar vídeos falsos é um passo na direção certa para garantir que a tecnologia de IA seja usada de forma responsável e ética.
Sempre existe o perigo de falsificações profundas criadas por IA, portanto, há uma necessidade de regulamentar o uso da tecnologia de IA. À medida que a popularidade do ChatGPT continua a crescer, é provável que vejamos mais casos de fraude e uso indevido. Esses deep fakes podem passar facilmente um áudio, vídeo ou imagem real. Assim, é muito importante que os usuários estejam atentos e denunciem qualquer atividade suspeita às autoridades competentes.
Fonte/VIA: