ChatGPT, model bahasa AI yang dibangunkan oleh OpenAI, telah membuat gelombang dalam dunia teknologi. Di seluruh dunia, orang kagum dengan keupayaannya menjana respons seperti manusia kepada gesaan teks. Walau bagaimanapun, pengembangan pesat model itu telah menimbulkan kebimbangan tentang potensi kekurangan unit pemprosesan grafik (GPU). Ini penting untuk melatih dan menjalankan model bahasa besar seperti ChatGPT.
Menurut majalah Fortune, Ketua Pegawai Eksekutif OpenAI Sam Altman mendedahkan dalam mesyuarat peribadi bahawa kekurangan GPU yang teruk menghalang kemajuan ChatGPT. Menurut laporan itu, Altman bertemu dengan beberapa pembangun Aplikasi dan pengurus syarikat permulaan pada bulan Mei. Raza Habib, Ketua Pegawai Eksekutif pemula AI yang berpangkalan di London, Humanloop, berkata dalam tweet bahawa Altman percaya bahawa OpenAI kekurangan GPU yang mencukupi, yang telah menangguhkan banyak usaha untuk mengoptimumkan ChatGPT.
Mengapa ChatGPT mempunyai masalah kelajuan dan kebolehpercayaan
Menurut minit mesyuarat Habib, aduan terbesar pengguna tentang ChatGPT ialah kelajuan dan kebolehpercayaan antara muka API. Altman memahami perkara ini dan menjelaskan bahawa sebab utamanya ialah GPU tidak mencukupi. Sejurus selepas minit mesyuarat didedahkan kepada umum, OpenAI menghubungi Habib untuk mengatakan bahawa acara itu bukan untuk siaran umum.
Walaupun Habib kemudiannya memadamkan tweet itu, ia cukup lama untuk orang ramai melihat butiran yang menonjol. Menurut laporan, Altman mengadu bahawa kekurangan GPU menyebabkan kuasa pengkomputeran rendah, dan OpenAI tidak dapat mengembangkan senarai sembang ChatGPT. Ini menjejaskan jumlah maklumat yang boleh diproses oleh ChatGPT semasa menjawab soalan pengguna. Ia juga mengehadkan”ingatan”ChatGPT dan mungkin sukar untuk mengendalikan rekod soalan lalu. Di samping itu, ChatGPT tidak dapat menyelesaikan tugas yang lebih membosankan kerana kuasa pengkomputeran yang rendah. Sebagai contoh, alat AI mungkin merasa sukar untuk menulis kod program yang kompleks kerana GPU tidak mencukupi.
Menurut IT Home, OpenAI ialah salah satu daripada banyak jenama yang dibelenggu oleh kekurangan GPU. Penyedia perkhidmatan pengkomputeran awan seperti Google, Amazon, dan Microsoft semuanya menghadapi kekurangan GPU yang serius. Ini juga menyebabkan harga saham pembekal utama Nvidia melambung tinggi, menjadi syarikat semikonduktor pertama dengan nilai pasaran lebih daripada satu trilion. Harga saham syarikat itu telah melonjak hampir dua kali tahun ini.
Berita Gizchina minggu ini
Sejarah Kekurangan GPU
Kekurangan GPU bukanlah masalah baharu bagi industri teknologi. Pada tahun 2017, pasaran menghadapi kekurangan yang sama disebabkan peningkatan permintaan untuk kad grafik yang disebabkan oleh kenaikan harga Ethereum. Walau bagaimanapun, kekurangan semasa adalah berbeza kerana pelbagai faktor telah berlanjutan dan menjadikannya lebih teruk. Penyebab utama adalah isu dengan rantaian bekalan GPU, yang telah dilanjutkan dengan peningkatan permintaan di rantau ini. Pandemik juga telah mengganggu rantaian bekalan dan mengembangkan keseluruhan industri semikonduktor. Ini menyukarkan firma untuk mengakses komponen yang diperlukan untuk menghasilkan GPU.
Kesan Kekurangan GPU pada ChatGPT
Ledakan populariti ChatGPT telah menimbulkan kebimbangan bahawa kekurangan GPU lain berada di kaki langit. Seorang penganalisis mendakwa bahawa sekitar 10,000 GPU Nvidia digunakan untuk melatih ChatGPT. Selain itu, terdapat laporan bahawa apabila perkhidmatan terus berkembang, begitu juga dengan keperluan untuk GPU.
Kekurangan GPU telah menyukarkan OpenAI untuk membenarkan pengguna menolak lebih banyak data melalui model bahasa besar yang menyokong perisiannya, seperti ChatGPT. Ini memperlahankan pelancaran rancangan syarikat untuk lebih banyak ciri dan perkhidmatan. Ia juga telah menjadikan perkhidmatan sedia ada OpenAI lebih perlahan dan kurang dipercayai. Ini merupakan isu besar bagi ramai pengguna dan ia membuatkan mereka enggan membina apl perusahaan di atas teknologi OpenAI.
Walau bagaimanapun, adalah penting untuk ambil perhatian bahawa status sebenar kekurangan GPU tidak begitu jelas. Menurut artikel Fierce Electronics dari Mac 2023, terdapat kekurangan bekalan GPU yang”besar”disebabkan oleh keperluan AI. Sebaliknya, pada Augustm laporan Ars Technica mendakwa bahawa kekurangan GPU secara rasmi telah berakhir dan kami kini berada dalam lebihan GPU. The Verge juga melaporkan pada Julai 2022 bahawa kekurangan GPU telah berakhir. Oleh itu, status sebenar kekurangan GPU masih agak tidak jelas. Ia mungkin bergantung pada pelbagai faktor seperti lokasi, permintaan dan gangguan rantaian bekalan.
Potensi Penyelesaian kepada Kekurangan GPU
Satu penyelesaian berpotensi untuk kekurangan GPU adalah untuk firma semikonduktor meningkat kapasiti pengeluaran mereka. Walau bagaimanapun, ini lebih mudah dikatakan daripada dilakukan, kerana wabak itu telah mengganggu rantaian bekalan dan menyukarkan firma untuk mengakses komponen yang diperlukan untuk menghasilkan GPU.
Satu lagi penyelesaian yang berpotensi adalah untuk syarikat mencari cara alternatif untuk melatih dan jalankan model bahasa yang besar seperti ChatGPT. Contohnya, OpenAI telah menahan model bahasa baharunya yang berkuasa, GPT-4, daripada versi percuma ChatGPT, yang masih menjalankan model GPT-3.5 yang lebih lemah, disebabkan kos yang tinggi untuk menjalankan GPT-4.
Ketua Pegawai Eksekutif OpenAI Sam Altman secara tidak langsung telah mengakui masalah itu, menyatakan bahawa syarikat sedang berusaha untuk menjadikan model AInya lebih cekap dan kurang intensif sumber.
Kata Akhir
Kekurangan GPU merupakan halangan besar untuk ChatGPT dan model bahasa besar yang lain. Pandemik dan peningkatan permintaan untuk GPU telah menyukarkan jenama untuk mengakses bahagian yang diperlukan untuk menghasilkan GPU, yang telah memperlahankan pelancaran ciri dan perkhidmatan baharu untuk ChatGPT.
Walau bagaimanapun, terdapat potensi penyelesaian untuk masalah ini, seperti meningkatkan kapasiti pengeluaran dan mencari cara alternatif untuk melatih dan menjalankan model bahasa yang besar. Memandangkan industri teknologi terus berkembang, adalah menarik untuk melihat cara syarikat seperti OpenAI mengharungi cabaran yang ditimbulkan oleh kekurangan GPU dan terus berinovasi dalam bidang AI.
Source/VIA:
