ChatGPT, model bahasa AI yang dikembangkan oleh OpenAI, telah menggemparkan dunia teknologi. Di seluruh dunia, orang-orang terkesan dengan kemampuannya menghasilkan tanggapan seperti manusia terhadap permintaan teks. Namun, perluasan model yang cepat telah menimbulkan kekhawatiran tentang potensi kekurangan unit pemrosesan grafis (GPU). Ini penting untuk melatih dan menjalankan model bahasa besar seperti ChatGPT.
Menurut majalah Fortune, CEO OpenAI Sam Altman mengungkapkan dalam pertemuan pribadi bahwa kekurangan GPU yang parah menghambat kemajuan ChatGPT. Menurut laporan tersebut, Altman bertemu dengan sejumlah pengembang aplikasi dan manajer perusahaan start-up pada bulan Mei. Raza Habib, CEO startup AI Humanloop yang berbasis di London, mengatakan dalam sebuah tweet bahwa Altman percaya bahwa OpenAI kekurangan cukup GPU, yang telah menunda banyak upaya untuk mengoptimalkan ChatGPT.
Mengapa ChatGPT memiliki masalah kecepatan dan keandalan
Menurut risalah pertemuan Habib, keluhan terbesar pengguna tentang ChatGPT adalah kecepatan dan keandalan antarmuka API. Altman memahami hal ini dan menjelaskan bahwa alasan utamanya adalah GPU tidak cukup serius. Tak lama setelah risalah rapat dipublikasikan, OpenAI menghubungi Habib untuk mengatakan bahwa acara tersebut tidak untuk dirilis ke publik.
Meskipun Habib kemudian menghapus tweet tersebut, itu sudah cukup lama bagi orang untuk melihat sekilas detail yang menonjol. Menurut laporan, Altman mengeluh bahwa kekurangan GPU menyebabkan daya komputasi rendah, dan OpenAI tidak dapat memperluas daftar obrolan ChatGPT. Ini memengaruhi jumlah info yang dapat diproses ChatGPT saat menjawab pertanyaan pengguna. Itu juga membatasi”memori”ChatGPT dan mungkin sulit menangani catatan pertanyaan sebelumnya. Selain itu, ChatGPT tidak dapat menyelesaikan tugas yang lebih membosankan karena daya komputasi yang rendah. Misalnya, alat AI mungkin kesulitan menulis kode program yang rumit karena GPU yang tidak mencukupi.
Menurut IT Home, OpenAI adalah salah satu dari banyak merek yang dilanda kekurangan GPU. Penyedia layanan komputasi awan seperti Google, Amazon, dan Microsoft semuanya menghadapi kekurangan GPU yang serius. Hal itu pula yang menyebabkan harga saham pemasok utama Nvidia melambung tinggi, menjadi perusahaan semikonduktor pertama dengan nilai pasar lebih dari satu triliun. Harga saham perusahaan melonjak hampir dua kali lipat tahun ini.
Gizchina News of the week
Sejarah Kekurangan GPU
Kekurangan GPU bukanlah masalah baru bagi industri teknologi. Pada 2017, pasar menghadapi kekurangan serupa karena meningkatnya permintaan kartu grafis yang disebabkan oleh kenaikan harga Ethereum. Namun, kekurangan saat ini berbeda karena berbagai faktor telah meluas dan memperburuknya. Penyebab utamanya adalah masalah rantai pasokan GPU, yang diperparah dengan meningkatnya permintaan di wilayah tersebut. Pandemi juga telah mengganggu rantai pasokan dan menumbuhkan seluruh industri semikonduktor. Hal ini mempersulit perusahaan untuk mengakses komponen yang diperlukan untuk memproduksi GPU.
Dampak Kekurangan GPU pada ChatGPT
Ledakan popularitas ChatGPT telah menimbulkan beberapa kekhawatiran bahwa kekurangan GPU lainnya ada di cakrawala. Seorang analis mengklaim bahwa sekitar 10.000 GPU Nvidia digunakan untuk melatih ChatGPT. Selain itu, ada laporan bahwa seiring berkembangnya layanan, begitu pula kebutuhan akan GPU.
Kekurangan GPU mempersulit OpenAI untuk membiarkan pengguna mendorong lebih banyak data melalui model bahasa besar yang mendukung perangkat lunaknya, seperti ChatGPT. Ini memperlambat peluncuran lebih banyak fitur dan layanan yang direncanakan perusahaan. Itu juga membuat layanan OpenAI yang ada menjadi lebih lambat dan kurang dapat diandalkan. Ini adalah masalah besar bagi banyak pengguna dan membuat mereka enggan untuk membangun aplikasi perusahaan di atas teknologi OpenAI.
Namun, penting untuk dicatat bahwa status pasti kekurangan GPU tidak terlalu jelas. Menurut artikel Fierce Electronics dari Maret 2023, ada kekurangan pasokan GPU yang “sangat besar” karena kebutuhan AI. Di sisi lain, pada bulan Agustus, sebuah laporan Ars Technica mengklaim bahwa kekurangan GPU secara resmi telah berakhir dan kita sekarang berada dalam surplus GPU. The Verge juga melaporkan pada Juli 2022 bahwa kekurangan GPU telah berakhir. Dengan demikian, status pasti kekurangan GPU masih belum jelas. Ini mungkin bergantung pada berbagai faktor seperti lokasi, permintaan, dan gangguan rantai pasokan.
Solusi Potensial untuk Kekurangan GPU
Salah satu solusi potensial untuk kekurangan GPU adalah meningkatkan perusahaan semikonduktor kapasitas produksi mereka. Namun, ini lebih mudah diucapkan daripada dilakukan, karena pandemi telah mengganggu rantai pasokan dan mempersulit perusahaan untuk mengakses komponen yang diperlukan untuk memproduksi GPU.
Solusi potensial lainnya adalah bagi perusahaan untuk menemukan cara alternatif untuk melatih dan jalankan model bahasa besar seperti ChatGPT. Misalnya, OpenAI telah menahan model bahasa barunya yang canggih, GPT-4, dari versi gratis ChatGPT, yang masih menjalankan model GPT-3.5 yang lebih lemah, karena tingginya biaya menjalankan GPT-4.
CEO OpenAI Sam Altman secara tidak langsung telah mengakui masalah tersebut, menyatakan bahwa perusahaan sedang berupaya membuat model AI-nya lebih efisien dan tidak terlalu intensif sumber daya.
Final Words
Kekurangan GPU merupakan kendala besar bagi ChatGPT dan model bahasa besar lainnya. Pandemi dan peningkatan permintaan GPU mempersulit merek untuk mengakses komponen yang diperlukan untuk memproduksi GPU, yang memperlambat peluncuran fitur dan layanan baru untuk ChatGPT.
Namun, ada solusi potensial untuk masalah ini, seperti meningkatkan kapasitas produksi dan menemukan cara alternatif untuk melatih dan menjalankan model bahasa besar. Seiring dengan perkembangan industri teknologi, akan menarik untuk melihat bagaimana perusahaan seperti OpenAI mengatasi tantangan yang ditimbulkan oleh kekurangan GPU dan terus berinovasi di bidang AI.
Sumber/VIA:
