中国による ChatGPT の禁止
中国の規制当局は、 ChatGPT へのアクセスは取り締まられています。しかし、中国のハイテク企業や学校は国産AIボットの開発を進めている。 ChatGPT は、政府が詳細なファイアウォールと厳格なインターネット検閲を運用している中国では正式に利用できません。しかし、多くは VPN 経由でアクセスしていました。また、一部のサードパーティ開発者は、サービスへのアクセスを許可するプログラムを作成していました。中国のプラットフォームで ChatGPT を検索すると、結果が返されなくなりました。ただし、回避策プログラムは無効化されるか、「関連法規制への違反」により停止されたという通知に置き換えられました。
中国は法律に非常に厳しいため、中国での ChatGPT の禁止は驚くことではありません。中国政府は政治的プロパガンダや誤った情報を取り締まっている。報道によると、ChatGPT のテキスト生成機能は、情報の流れの制御に対する脅威であると考えられています。
ChatGPT ビデオ詐欺事件
調査の結果、紹興警察はギャングが 2023 年 5 月以降、使用するために一連のビデオ アカウントを違法に購入していたことが判明しました ChatGPT を使用して偽ビデオを作成します。警察は偽ビデオの内容や使用方法について詳細を明らかにしていない。ただし、中国でChatGPTがフェイクニュースの作成に使用されるのはこれが初めてではない。 2023年5月、中国警察はChatGPTを利用して列車事故に関するフェイクニュースを作成した男を逮捕した。これは、AI によって生成された、一見現実的だが捏造されたデジタル画像、ビデオ、その他のメディアである「ディープ フェイク」を規制する最近制定された中国の法律に基づく最初の執行措置の 1 つです。
北西部の警察の報告によると、中国甘粛省のホンという姓のみで特定された男性は、ChatGPT を使用して甘粛省の建設作業員 9 名が死亡したとされる墜落事故に関するフェイクニュース記事を作成しました。この記事は急速に広まり、正規のニュースソースさえも偽の記事に騙されました。
地元のサイバーセキュリティ警察部隊は、4 月 25 日に公開された列車事故に関する記事について通報を受けました。その後、捜査を開始しました。案件。その後、ホン氏はオンラインに投稿する前に、ChatGPT を使用して列車事故に関するフェイクニュースを作成したことを認めた。ホン氏の逮捕は、ディープフェイク技術に対する中国の新たな規制が1月に施行されて以来、初めての拘束となる。この法律は、顔や音声のデータを改ざんする可能性のあるテクノロジーの悪用を防ぐことを目的としています。 ChatGPT は中国では禁止されていますが、仮想プライベート ネットワークなどの回避策はあります。
今週のギズ中国ニュース
中国警察、デマ集団を解体
また、6月2日、上虞警察はオンライン捜査で「上虞説明」という名前のアプリユーザーがいることを発見した。 」は上虞工業団地の火災に関する動画を公開した。動画の再生回数は短期間で急増した。警察はビデオを再確認したところ、それがフェイクニュースであることが判明した。上虞市警察はまた、この犯罪に関連した別の省のハイテクグループも発見した。 6 月 5 日、警察は他の州に急行し、容疑者 3 人を逮捕しました。
捜査の結果、ギャング pr グループは 5 月以降、インターネットから多数のビデオ アカウントを違法に取得していました。ビデオをつなぎ合わせ、ChatGPT 技術を通じて偽のビデオを作成し、ネットワークを公開してトラフィックを獲得しました。この交通はグループの利益につながりました。これまでに、このギャングは 1,500 以上のビデオ アカウントを違法に購入し、3,000 以上の偽ビデオを公開しました。逮捕された容疑者はその後犯罪を自白したが、警察はさらに多くの容疑者について捜査を続けている。
AI 規制に関する議論
中国での ChatGPT の禁止と信憑性に対する懸念が引き起こされているAI規制に関する議論。 2023 年 1 月、中国サイバースペース局は AI テクノロジーの使用を抑制するための新しい規制を制定しました。イタリアのデータ保護当局ガランテは、AI を使用して人間やコンピューター ゲームによって作成されたかのようなテキストを生成するチャットボットである ChatGPT を一時的に禁止しました。
監視機関は、このことについてあまり懸念していませんでした。データ保護法の違反によるものではなく、AI の使用の可能性があります。その後、Garante 氏は、ChatGPT の背後にある Microsoft Corp が支援する企業である OpenAI に対し、データがどのように処理されるかについてユーザーに対してより透明性を持たせる必要があると語った。また、米国企業は特定のユーザーについてユーザーから許可を得る必要があるとも述べた。ユーザーデータを使用してソフトウェアをさらに開発する場合は、ユーザーの許可が必要になります。また、OpenAi は未成年者のこの機能へのアクセスをフィルタリングする必要があるとも述べています。
最後の言葉
ChatGPT ビデオ詐欺事件は、中国における AI 技術の規制と管理の必要性を明らかにしています。 。 ChatGPT は、ユーザーのプロンプトや質問に基づいてチャットを作成するのに便利なツールですが、フェイク ニュースやビデオの作成にも使用できます。中国政府は、ChatGPTを含むAI技術の進歩に伴い、その使用を規制し、管理することに取り組んでいる。 ChatGPT を使用してフェイクビデオを作成したギャングの取り締まりは、AI テクノロジーが責任を持って倫理的に使用されることを保証するための正しい方向への一歩です。
したがって、AI によって作成されたディープ フェイクには常に危険が伴います。 AI技術の使用を規制する必要がある。 ChatGPT の人気が高まるにつれ、詐欺や悪用の事例がさらに増える可能性があります。これらのディープフェイクは、実際の音声、ビデオ、または画像を簡単に渡すことができます。したがって、ユーザーが警戒し、不審なアクティビティを適切な当局に報告することが非常に重要です。
出典/VIA: