La policía de China ha tomado medidas enérgicas contra dos pandillas diferentes que usaron ChatGPT para crear videos falsos . Uno de los estallidos tuvo lugar en mayo y el otro en junio. ChatGPT es un chatbot de IA desarrollado por OpenAI respaldado por Microsoft que permite a los usuarios generar respuestas basadas en las indicaciones y preguntas de los usuarios. La pandilla había comprado ilegalmente un lote de cuentas de video desde mayo de 2023 para usar ChatGPT para crear videos falsos.
Prohibición de ChatGPT en China
Según los informes, los reguladores chinos han restringió el acceso a ChatGPT. Sin embargo, las empresas y escuelas tecnológicas chinas siguen adelante con el desarrollo de bots domésticos de IA. ChatGPT no está oficialmente disponible en China, donde el gobierno opera un firewall detallado y una estricta censura en Internet. Pero muchos habían accedido a él a través de VPN. Además, algunos desarrolladores externos habían producido programas que daban acceso al servicio. Las búsquedas de ChatGPT en plataformas chinas ya no arrojan resultados. Sin embargo, los programas de solución habían sido deshabilitados o reemplazados con un aviso que decía que habían sido suspendidos por”violar leyes y regulaciones relevantes”.
La prohibición de ChatGPT en China no es una sorpresa, ya que la nación asiática es bastante estricta con sus leyes. El gobierno chino ha estado tomando medidas enérgicas contra la propaganda política y la desinformación. Según los informes, considera que la capacidad de ChatGPT para generar texto es una amenaza para su control sobre el flujo de información.
Ráfaga de mayo de 2023: el caso del fraude de video de ChatGPT
Un policía informe de la provincia de Gansu, en el noroeste de China, menciona a un sospechoso que forma parte de una pandilla. Identificado solo por su apellido, Hong, usó ChatGPT para crear un artículo de noticias falsas sobre un accidente que supuestamente provocó la muerte de nueve trabajadores de la construcción en Gansu. Esta historia se volvió viral e incluso las fuentes de noticias legítimas fueron engañadas por la historia falsa.
En mayo, la policía de Shaoxing descubrió que la misma pandilla había comprado ilegalmente un lote de cuentas de video y las usó para crear videos falsos usando ChatGPT. La policía arrestó a un hombre que usó ChatGPT para crear noticias falsas sobre un accidente de tren. Esta es una de las primeras acciones de cumplimiento bajo una ley china promulgada recientemente que regula las”falsificaciones profundas”generadas por IA. Según la policía, los trabajos de la pandilla son aparentemente realistas, pero son imágenes digitales, videos u otros medios inventados.
La unidad de policía de ciberseguridad local fue alertada sobre el artículo sobre el accidente de tren, publicado el 25 de abril. Luego lanzó una investigación sobre el asunto. Luego, Hong admitió que usó ChatGPT para crear noticias falsas sobre los choques de trenes antes de publicarlas en línea. El arresto de Hong es la primera detención desde que entró en vigor la nueva regulación de China sobre tecnología falsa profunda en enero. La ley tiene como objetivo evitar el mal uso de la tecnología que puede alterar los datos faciales y de voz. Y aunque ChatGPT está prohibido en China, existen soluciones alternativas, como las redes privadas virtuales.
Noticias de la semana de Gizchina
Ráfaga de junio: la policía de China desmantela una pandilla de rumores
La segunda gran ráfaga ocurrió en junio de 2023. El 2 de junio, la policía de Shangyu encontró durante una investigación en línea que un usuario de la aplicación llamado”Explicación de Shangyi”publicó un video sobre un incendio en el Parque Industrial de Shangyu. La cantidad de vistas del video aumentó rápidamente en un corto período de tiempo. La policía revisó dos veces el video y descubrió que se trataba de una noticia falsa. La policía de Shangyu también vio a un grupo tecnológico en otra provincia vinculado con el crimen. El 5 de junio, la policía corrió a otras provincias y arrestó a tres sospechosos.
Después de una investigación, el grupo de relaciones públicas de pandillas ha adquirido ilegalmente varias cuentas de video de Internet desde mayo. Empalmó los videos y produjo videos falsos a través de la tecnología ChatGPT para publicar la red y ganar tráfico. El tráfico generó ganancias para el grupo. Hasta el momento, la pandilla ha comprado ilegalmente más de 1500 cuentas de video y ha publicado más de 3000 videos falsos. Desde entonces, el sospechoso arrestado ha confesado el crimen, pero la policía sigue investigando en busca de más sospechosos.
Debate sobre la regulación de la IA
La prohibición de ChatGPT en China y las preocupaciones sobre la autenticidad han provocado un debate sobre la regulación de la IA. En enero de 2023, la Administración del Ciberespacio de China promulgó nuevas regulaciones para controlar el uso de la tecnología de IA. La autoridad italiana de protección de datos, Garante, impuso una prohibición temporal a ChatGPT, un chatbot que usa IA para generar textos que parecen creados por humanos y juegos de computadora.
El organismo de control estaba menos preocupado por el uso de IA que por incumplimientos de la legislación de protección de datos. Luego, Garante le dijo a la empresa respaldada por Microsoft Corp detrás de ChatGPT, OpenAI, que tendría que ser más transparente con sus usuarios sobre cómo se procesan sus datos. También dijo que la empresa estadounidense tenía que obtener el permiso de los usuarios para ciertos usuarios. Si los datos del usuario se usaran para desarrollar aún más el software, entonces necesitará el permiso de los usuarios. Además, dice que OpenAi tiene que filtrar el acceso a esta función para menores.
Palabras finales
El caso del fraude de video ChatGPT revela la necesidad de regulación y control de la tecnología de IA en China.. Si bien ChatGPT puede ser una herramienta útil para crear chats en función de las indicaciones y preguntas de los usuarios, también se puede usar para crear noticias y videos falsos. El gobierno chino ha estado trabajando para regular y controlar el uso de la tecnología de inteligencia artificial, incluido ChatGPT, a medida que la tecnología avanza. La represión de la pandilla que usó ChatGPT para crear videos falsos es un paso en la dirección correcta para garantizar que la tecnología de IA se use de manera responsable y ética.
Siempre existe el peligro de falsificaciones profundas creadas por IA, por lo tanto, es necesario regular el uso de la tecnología de IA. A medida que la popularidad de ChatGPT continúa creciendo, es probable que veamos más casos de fraude y uso indebido. Estas falsificaciones profundas pueden pasar fácilmente un audio, video o imagen real. Por lo tanto, es muy importante que los usuarios estén atentos e informen cualquier actividad sospechosa a las autoridades correspondientes.
Fuente/VIA:
