Bukan rahasia lagi bahwa upaya Microsoft untuk mengintegrasikan ChatGPT ke dalam berbagai layanannya tidak diragukan lagi merupakan langkah strategis yang memungkinkan perusahaan untuk melampaui para pesaingnya. Namun, keputusan ini bukannya tanpa konsekuensi, karena chatbot AI Bing memiliki beberapa masalah, termasuk bahasa manipulatif dan jawaban yang salah secara faktual. Sekarang, menurut laporan dari The Wall Street Journal, sepertinya OpenAI telah memperingatkan Microsoft tentang risiko menggabungkan GPT-4 yang belum dirilis, tetapi perusahaan masih melanjutkan peluncuran.
Laporan ini muncul setelah banyak pengguna mulai mengalami perilaku tidak menentu dari Bing AI chatbot segera setelah peluncurannya, termasuk insiden chatbot yang membuat komentar menghina, berbohong, merajuk, dan bahkan menghina pengguna. Akibatnya, Microsoft harus segera menerapkan batasan, yang membatasi kemampuan chatbot hanya untuk beberapa permintaan per obrolan. Dan sementara pekerjaan ekstensif telah dilakukan untuk memulihkan stabilitas chatbot selama beberapa bulan, perilaku buruk sesekali masih terjadi.
Permintaan regulasi
Meskipun Microsoft dan OpenAI sebagian besar telah memperbaiki bug , kejadian ini menyoroti pentingnya implementasi yang cermat dan pengujian yang ketat sebelum merilis layanan yang didukung AI, karena Microsoft seharusnya memperhatikan peringatan OpenAI terkait rilis prematur. Selain itu, insiden tersebut juga menyoroti kompleksitas kemitraan Microsoft-OpenAI, di mana kolaborasi dan kompetisi berjalan berdampingan.
“Saya merasa OpenAI mengejar hal yang sama seperti kami. Jadi daripada mencoba melatih lima model dasar yang berbeda, saya menginginkan satu dasar, menjadikannya dasar untuk efek platform. Jadi kami bermitra. Mereka bertaruh pada kami, kami bertaruh pada mereka,” kata CEO Microsoft Satya Nadella.
Namun, ini adalah skenario persis yang membuat para pemimpin industri dan pemerintah khawatir. Ini karena perusahaan yang berlomba membangun sistem AI paling canggih sering mengabaikan pentingnya pengujian menyeluruh sebelum rilis produk. Oleh karena itu, sekarang menjadi lebih penting dari sebelumnya untuk menetapkan langkah-langkah ketat untuk mengatur perkembangan AI yang merajalela ini.
