Dr. Hinton bimbang tentang ChatGPT dan teknologi AI lain
Dr. Geoffrey Hinton telah meletak jawatan daripada jawatannya di Google untuk meningkatkan kesedaran tentang bahaya kecerdasan buatan dan menyokong peraturan antarabangsa.
OpenAI, yang mencipta ChatGPT dan alatan AI yang lain, telah mendapat banyak perhatian sejak kebelakangan ini. Lebih berkuasa daripada chatbot lama daripada syarikat lain, orang boleh menggunakan ChatGPT untuk menjana artikel, membantu penyelidikan, menjawab soalan dan juga bertindak secara autonomi.
Bercakap kepada The New York Times, dia berkata dia telah meletak jawatan daripada Google untuk memberi amaran kepada orang ramai tentang risiko AI dan sebahagian daripadanya menyesali kerja hidupnya.
“Saya menghiburkan diri saya dengan alasan biasa: Jika saya tidak melakukannya, orang lain akan melakukannya,”kata Dr. Hinton.”Sukar untuk melihat bagaimana anda boleh menghalang pelakon jahat daripada menggunakannya untuk perkara yang buruk.”
Hinton tidak menyertai orang terkemuka lain dalam menandatangani surat terbuka untuk menghentikan pendahuluan AI buat sementara waktu. Sebaliknya, dia mahu mengelak daripada mengkritik Google dan syarikat lain secara terbuka sehingga dia berhenti kerja.
Beliau memberi notis kepada Google tentang peletakan jawatannya pada bulan April, dan pada hari Khamis, beliau bercakap melalui telefon dengan Sundar Pichai, Ketua Pegawai Eksekutif syarikat induk Google, Alphabet.
Penyelidikan asas dalam AI
Dr. Hinton ialah perintis dalam kecerdasan buatan yang mencipta teknologi yang menjadi asas kepada banyak sistem AI hari ini, seperti alat untuk mengenal pasti objek dalam imej. Pada tahun 1972 beliau memacu penyelidikan ke dalam rangkaian saraf.
Ia adalah sistem yang mempelajari kemahiran dengan menganalisis data, dan walaupun penyelidik lain ragu-ragu dengan idea itu, Hinton menjadikan rangkaian saraf sebagai kerja hidupnya.
Pada 2012 dia dan dua pelajarnya membina rangkaian saraf yang boleh menganalisis beribu-ribu foto dan mengajar dirinya sendiri untuk mengenal pasti objek harian seperti anjing, kereta dan bunga. Google memperoleh syarikat yang dimulakan oleh Dr. Hinton dan pelajarnya, dan sistem mereka membawa kepada teknologi yang lebih berkuasa, termasuk ChatGPT.
Salah seorang pelajar ini, Ilya Sutskever, menjadi ketua saintis di OpenAI.
Hinton pada mulanya ragu-ragu terhadap rangkaian saraf yang belajar daripada teks digital untuk memahami dan menjana bahasa, tetapi pandangannya berubah dari semasa ke semasa.”Mungkin apa yang berlaku dalam sistem ini,”katanya,”sebenarnya jauh lebih baik daripada apa yang berlaku di dalam otak.”
Sistem AI semasa tidak sekuat otak manusia dalam beberapa aspek, tetapi dengan cara lain ia boleh mengatasi kecerdasan manusia.
“Kami adalah sistem biologi dan ini adalah sistem digital. Dan perbezaan besar ialah dengan sistem digital, anda mempunyai banyak salinan set pemberat yang sama, model dunia yang sama,”dia memberitahu BBC.”Dan semua salinan ini boleh belajar secara berasingan tetapi berkongsi pengetahuan mereka serta-merta.”
“Jadi seolah-olah anda mempunyai 10,000 orang dan apabila seseorang mempelajari sesuatu, semua orang secara automatik mengetahuinya,”sambung Hinton.”Dan begitulah cara chatbots ini boleh mengetahui lebih banyak daripada mana-mana orang.”
Apabila syarikat meningkatkan teknologi AI mereka, mereka boleh menjadi lebih berbahaya.”Lihatlah bagaimana ia lima tahun lalu dan bagaimana keadaannya sekarang,”kata Hinton.”Ambil perbezaan dan sebarkan ke hadapan. Itu menakutkan.”
Dr. Hinton bimbang bahawa Internet tidak lama lagi akan dibanjiri dengan foto, video dan teks palsu, dan kebanyakan orang tidak akan dapat membezakan kebenaran. Dia juga prihatin dengan kesan AI ke atas pasaran kerja dan ia boleh menghilangkan lebih daripada sekadar”kerja membosankan.”
Persaingan antara Google, Microsoft dan syarikat lain boleh menjadi semakin sengit menjadi perlumbaan di seluruh dunia, yang akan berterusan sehingga wujudnya beberapa bentuk peraturan global. Tetapi itu mungkin mustahil, kata Hinton.
Beliau percaya harapan terbaik manusia adalah untuk saintis terkemuka dunia bekerjasama mengawal teknologi.”Saya tidak fikir mereka perlu meningkatkan lagi perkara ini sehingga mereka memahami sama ada mereka boleh mengawalnya,”katanya.
Bagi Google,”Kami tetap komited terhadap pendekatan yang bertanggungjawab terhadap AI,”kata ketua saintis syarikat Jeff Dean dalam satu kenyataan.”Kami terus belajar untuk memahami risiko yang muncul sambil berinovasi dengan berani.”
