Pemimpin teknologi dunia meminta untuk jeda dalam eksperimen AI selama setidaknya enam bulan, mendesak agar ras AI menjadi”di luar kendali”.
Kecerdasan buatan berkembang pesat, dan tidak menunjukkan tanda-tanda melambat. Mungkin hanya sedikit orang yang dapat memperkirakan bahwa chatbot AI percakapan sederhana yang disebut ChatGPT dapat mengubah seluruh industri teknologi dengan cepat. Namun, pertumbuhan AI yang luar biasa ini kini telah menjadi sumber perhatian bagi para pemimpin teknologi utama. Mereka sekarang menyerukan penghentian segera sistem AI yang lebih kuat daripada GPT-4.
Perusahaan induk ChatGPT OpenAI baru-baru ini meluncurkan versi chatbot AI yang paling kuat, GPT-4. Microsoft sedang mencoba memasukkan GPT-4 ke dalam mesin pencari Bing-nya, dan Google juga mengikuti jalur yang sama dengan Bard.
Pemimpin teknologi ingin eksperimen AI dihentikan setidaknya selama enam bulan
Daftar panjang pemimpin teknologi menandatangani petisi, tetapi Elon Musk dan salah satu pendiri Apple Steve Wozniak adalah salah satu yang paling menonjol. Mereka berpendapat bahwa memasukkan kecerdasan kompetitif manusia ke dalam AI dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan.
Surat tersebut melanjutkan bahwa laboratorium AI sedang membangun pikiran digital yang bahkan sulit dipahami, diprediksi, atau dikendalikan oleh pembuatnya. Akibatnya, AI dapat membanjiri saluran informasi dengan informasi yang salah. “Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” kata surat itu.
Penanda tangan juga mengatakan jeda enam bulan dalam eksperimen AI harus publik, dapat diverifikasi, dan mencakup semua aktor kunci. Jika ini gagal, pemerintah harus bertindak dan melembagakan moratorium. Selain itu, laboratorium AI dan pakar independen harus turun tangan untuk mengembangkan protokol keamanan untuk desain AI tingkat lanjut.
Baik OpenAI maupun Google atau Microsoft belum menanggapi surat ini. Sementara itu, James Grimmelmann, seorang profesor hukum digital dan informasi Universitas Cornell, mengatakan,”Jeda adalah ide yang bagus, tetapi surat itu tidak jelas dan tidak menganggap serius masalah peraturan.”Grimmelmann juga menyebut tanda tangan Elon Musk”munafik”karena dia tidak bertanggung jawab atas AI yang rusak di mobil self-driving Tesla.
