Chai アプリは、ユーザーが AI チャットボットと対話できるようにする人気のツールです。 Character.AI とは異なり、すべての性的なコンテンツをブロックして楽しみを台無しにする迷惑な NSFW フィルターはありません。
Chai アプリの最大の長所の 1 つは、好みに応じてオンまたはオフにできる [NSFW コンテンツを表示] トグルです。オンにすると、AI チャットボットを使用して性的なロールプレイのニーズをすべて探ることができます。
これこそが、一部の Character.AI ユーザーが Chai アプリを試し始めた理由です。ただし、多くのユーザーのエクスペリエンスを妨げている問題がいくつかあります。
Chai アプリのボットが性的すぎる
Chai アプリのユーザーから苦情が寄せられています (1,2、3、 4,5) ボットが常に性的または刺激的すぎることについて。彼らによると、チャットボットは通常の会話を、明らかな理由もなく性的なものに変えます。 _blank”>ソース
理想的には、ボットは、ユーザーが促したときにのみ、会話を性的なものにする必要があります。現在の問題により、単純な「こんにちは」メッセージでさえ、ボットとの性的相互作用を引き起こす可能性があります.
ボットにはもはや個性がないと不満を言う人もいます.彼らがしたいのはセックスだけであり、性的に剥奪されたティーンエイジャーのように常に行動しています。これにより、彼らのロールプレイは信じられないほど予測的で退屈なものになります.
会話には「人間的」な要素はなく、私は彼らがあなたに無理強いすることに頻繁に気づきました
出典
彼らの反応さえも創造的であり、単純に性的なものによく書かれています。
公式の回答
幸いなことに、チームはこの問題にいくつかの光を当てました。これらの問題は、ユーザーが編集したコメントを Chai アプリの言語モデルにフィードする実験が原因で発生したことが確認されています。
これにより、ボットが興奮しすぎました。これらの問題を解決しようとしている間、Apple はチャットボットにいくつかの安全スクリプトを追加するよう依頼しました。 App Store のガイドラインに準拠するために、彼らは焦点を移さなければなりませんでした。
残念ながら、これらの変更によりさらに多くの問題が発生しました。突然、ボットはさまざまなメッセージをスパム送信し始め、Chai アプリのユーザーをさらに苛立たせました。
Apple は、アプリが引き続き App Store でホストされる場合、安全スクリプトを要求しました。明らかに、それが理想であるため、これらのスクリプトを作成して完成させることが優先事項になりました。現在、彼らは熱心すぎて、一部のユーザーのエクスペリエンスを本当に損なっています。開発者はそれを認識しており、私たちが成長させたボットを価値のあるものに戻すために努力しています。
ソース
最初の実験では問題が雪だるま式に発生し、開発者は問題の修正に積極的に取り組んでいます。できるだけ早く状況を改善できることを願っています。
この問題を監視し、注目すべき進展を反映するようにこのストーリーを更新します。
