Sejak penubuhan AI generatif seperti ChatGPT, pakar dan kerajaan mempunyai kebimbangan mereka mengenai pembangunan tidak terkawal dalam bidang tersebut. Kini, dalam usaha untuk menangani kebimbangan ini, OpenAI sedang membentuk pasukan khusus yang bertujuan untuk mengurus potensi risiko yang dikaitkan dengan AI superintelligent.
Pasukan, yang diketuai oleh Ilya Sutskever, pengasas bersama OpenAI, bersama-sama dengan Jan Leike, ahli terkemuka pasukan penjajaran OpenAI, akan membangunkan kaedah untuk mengendalikan senario hipotetikal di mana sistem AI superintelligent mengatasi kecerdasan manusia dan mula beroperasi secara autonomi. Walaupun senario ini mungkin kelihatan tidak masuk akal, pakar berpendapat bahawa AI superintelligent boleh menjadi kenyataan dalam dekad akan datang, menekankan kepentingan membangunkan perlindungan hari ini.
“Pada masa ini, kami tidak mempunyai penyelesaian untuk mengemudi atau mengawal AI yang berpotensi superintelligent dan menghalangnya daripada menjadi penyangak,”baca catatan blog yang mengumumkan keputusan itu.
Pasukan Superalignment
Pasukan Superalignment, yang ditubuhkan oleh OpenAI, akan mempunyai akses kepada kira-kira 20% daripada sumber pengiraan semasa, bersama-sama dengan saintis dan jurutera dari OpenAI sebelumnya bahagian penjajaran untuk membangunkan”penyelidik penjajaran automatik peringkat manusia”, yang terutamanya akan membantu dalam menilai sistem AI lain dan menjalankan penyelidikan penjajaran.
“Semasa kami membuat kemajuan dalam hal ini, sistem AI kami boleh mengambil alih lebih banyak lagi dan lebih banyak lagi penjajaran kami berfungsi dan akhirnya memikirkan, melaksana, mengkaji dan membangunkan teknik penjajaran yang lebih baik daripada yang kami ada sekarang,” baca satu lagi catatan blog.
Sistem AI untuk menyemak AI lain
Walaupun cadangan membangunkan sistem AI untuk menyemak AI lain mungkin kelihatan luar biasa, OpenAI berpendapat bahawa sistem AI boleh membuat kemajuan lebih pantas dalam penyelidikan penjajaran berbanding manusia. Pendekatan ini bukan sahaja menjimatkan masa untuk penyelidik manusia tetapi juga membolehkan mereka menumpukan pada menyemak penyelidikan penjajaran yang dijalankan oleh AI dan bukannya menjananya sendiri.
Walau bagaimanapun, adalah penting untuk ambil perhatian bahawa OpenAI mengakui potensi risiko dan bahaya yang berkaitan dengan pendekatan ini. Selain itu, syarikat itu merancang untuk mengeluarkan peta jalan yang menggariskan hala tuju penyelidikannya pada masa hadapan.
