La police chinoise a réprimé un gang qui utilisait ChatGPT pour créer de fausses vidéos. ChatGPT est un chatbot AI développé par Microsoft-soutenu par OpenAI qui permet aux utilisateurs de générer des réponses basées sur les invites et les questions des utilisateurs. Le gang avait illégalement acheté un lot de comptes vidéo depuis mai 2023 pour utiliser ChatGPT afin de créer de fausses vidéos.
L’interdiction de ChatGPT par la Chine
Les régulateurs chinois auraient bloqué l’accès à ChatGPT. Cependant, les entreprises technologiques et les écoles chinoises vont de l’avant avec le développement de robots d’IA nationaux. ChatGPT n’est pas officiellement disponible en Chine, où le gouvernement applique un pare-feu détaillé et une censure Internet stricte. Mais beaucoup y avaient accédé via des VPN. De plus, certains développeurs tiers avaient produit des programmes qui donnaient un accès au service. Les recherches de ChatGPT sur les plateformes chinoises ne renvoient plus de résultats. Cependant, les programmes de contournement avaient été désactivés ou remplacés par un avis indiquant qu’ils avaient été suspendus pour”violation des lois et réglementations applicables”.
L’interdiction de ChatGPT en Chine n’est pas une surprise car la nation asiatique est assez stricte avec ses lois. Le gouvernement chinois a réprimé la propagande politique et la désinformation. Selon des rapports, il considère la capacité de ChatGPT à générer du texte comme une menace pour son contrôle sur le flux d’informations.
Le cas de la fraude vidéo ChatGPT
Après une enquête, la police de Shaoxing a découvert que le gang avait illégalement acheté un lot de comptes vidéo depuis mai 2023 pour utiliser ChatGPT pour créer de fausses vidéos. La police n’a pas fourni de détails sur le contenu des fausses vidéos ni sur la manière dont elles ont été utilisées. Cependant, ce n’est pas la première fois que ChatGPT est utilisé pour créer de fausses nouvelles en Chine. En mai 2023, la police chinoise a arrêté un homme qui utilisait ChatGPT pour créer de fausses informations sur un accident de train. Il s’agit de l’une des premières mesures d’exécution en vertu d’une loi chinoise récemment promulguée réglementant les”deep fakes”générés par l’IA-des images numériques, des vidéos ou d’autres médias apparemment réalistes mais fabriqués.
Selon un rapport de police du nord-ouest Province chinoise de Gansu, un homme identifié uniquement par son nom de famille, Hong, a utilisé ChatGPT pour créer un faux article sur un accident qui aurait entraîné la mort de neuf ouvriers du bâtiment dans le Gansu. Cette histoire est devenue virale et même des sources d’information légitimes ont été trompées par la fausse histoire.
L’unité locale de la police de la cybersécurité a été alertée de l’article sur l’accident de train-publié le 25 avril. Elle a ensuite lancé une enquête sur le matière. Hong a ensuite admis avoir utilisé ChatGPT pour créer de fausses informations sur les accidents de train avant de les publier en ligne. L’arrestation de Hong est la première détention depuis l’entrée en vigueur en janvier de la nouvelle réglementation chinoise sur les fausses technologies profondes. La loi vise à empêcher l’utilisation abusive de technologies susceptibles d’altérer les données faciales et vocales. Et bien que ChatGPT soit interdit en Chine, il existe des solutions de contournement telles que les réseaux privés virtuels.
Gizchina News of the week
La police chinoise démantèle un gang de rumeurs
En outre, le 2 juin, la police de Shangyu a découvert lors d’une enquête en ligne qu’un utilisateur de l’application nommé”Shangyi Explanation ” a publié une vidéo sur un incendie dans le parc industriel de Shangyu. Le nombre de vues de la vidéo a augmenté rapidement en peu de temps. La police a revérifié la vidéo et a découvert qu’il s’agissait de fausses nouvelles. La police de Shangyu a également repéré un groupe technologique dans une autre province lié au crime. Le 5 juin, la police s’est précipitée dans d’autres provinces et a arrêté trois suspects.
Après enquête, le groupe de relations publiques du gang a acquis illégalement un certain nombre de comptes vidéo sur Internet depuis mai. Il a fusionné les vidéos et produit de fausses vidéos via la technologie ChatGPT pour publier le réseau afin de gagner du trafic. Le trafic a généré des bénéfices pour le groupe. Jusqu’à présent, le gang a acheté illégalement plus de 1 500 comptes vidéo et publié plus de 3 000 fausses vidéos. Le suspect arrêté a depuis avoué le crime, mais la police continue d’enquêter pour trouver d’autres suspects.
Débat sur la réglementation de l’IA
L’interdiction de ChatGPT en Chine et les inquiétudes concernant l’authenticité ont suscité un débat sur la réglementation de l’IA. En janvier 2023, l’Administration du cyberespace de Chine a promulgué de nouvelles réglementations pour limiter l’utilisation de la technologie de l’IA. L’autorité italienne de protection des données, Garante, a imposé une interdiction temporaire de ChatGPT, un chatbot qui utilise l’IA pour générer des textes qui semblent avoir été créés par des humains et des jeux informatiques.
Le chien de garde était moins préoccupé par le l’utilisation de l’IA que par des violations de la législation sur la protection des données. Garante a ensuite déclaré à la société soutenue par Microsoft Corp derrière ChatGPT, OpenAI, qu’elle devrait être plus transparente avec ses utilisateurs sur la façon dont leurs données étaient traitées. Il a également déclaré que la société américaine devait obtenir l’autorisation des utilisateurs pour certains utilisateurs. Si les données des utilisateurs devaient être utilisées pour développer davantage le logiciel, il faudra alors l’autorisation des utilisateurs. En outre, il indique qu’OpenAi doit filtrer l’accès à cette fonctionnalité pour les mineurs.
Derniers mots
Le cas de la fraude vidéo ChatGPT révèle la nécessité d’une réglementation et d’un contrôle de la technologie de l’IA en Chine. Bien que ChatGPT puisse être un outil utile pour créer des discussions basées sur les invites et les questions des utilisateurs, il peut également être utilisé pour créer de fausses nouvelles et vidéos. Le gouvernement chinois s’est efforcé de réglementer et de contrôler l’utilisation de la technologie de l’IA, y compris ChatGPT, à mesure que la technologie devient plus avancée. La répression contre le gang qui a utilisé ChatGPT pour créer de fausses vidéos est un pas dans la bonne direction pour garantir que la technologie de l’IA est utilisée de manière responsable et éthique.
Il existe donc toujours un danger de contrefaçons profondes créées par l’IA, il est nécessaire de réglementer l’utilisation de la technologie de l’IA. Alors que la popularité de ChatGPT continue de croître, il est probable que nous verrons davantage de cas de fraude et d’abus. Ces contrefaçons profondes peuvent facilement passer un véritable audio, vidéo ou image. Ainsi, il est très important pour les utilisateurs d’être vigilants et de signaler toute activité suspecte aux autorités compétentes.
Source/VIA: