ChatGPT, o modelo de linguagem AI desenvolvido pela OpenAI, tem feito sucesso no mundo da tecnologia. Em todo o mundo, as pessoas estão impressionadas com sua capacidade de gerar respostas humanas a prompts de texto. No entanto, a rápida expansão do modelo levantou preocupações sobre uma possível escassez de unidades de processamento gráfico (GPUs). Eles são essenciais para treinar e executar grandes modelos de linguagem como o ChatGPT.
De acordo com a revista Fortune, o CEO da OpenAI, Sam Altman, revelou em uma reunião privada que a grave escassez de GPUs atrapalhou o progresso do ChatGPT. De acordo com o relatório, Altman se reuniu com vários desenvolvedores de aplicativos e gerentes de empresas iniciantes em maio. Raza Habib, CEO da startup de IA Humanloop, com sede em Londres, disse em um tweet que Altman acredita que OpenAI carece de GPUs suficientes, o que atrasou muitos esforços para otimizar o ChatGPT.
Por que o ChatGPT tem problemas de velocidade e confiabilidade
De acordo com a ata da reunião de Habib, as maiores reclamações dos usuários sobre o ChatGPT eram a velocidade e a confiabilidade da interface da API. Altman entendeu isso e explicou que o principal motivo é que a GPU não é suficiente. Logo após a divulgação da ata da reunião, a OpenAI entrou em contato com Habib para informar que o evento não era para divulgação pública.
Embora Habib posteriormente tenha deletado o tweet, ele durou tempo suficiente para que as pessoas tivessem um vislumbre dos detalhes mais importantes. Segundo relatos, Altman reclamou que a falta de GPUs levou a um baixo poder de computação e o OpenAI não conseguiu expandir a lista de bate-papo do ChatGPT. Isso afeta a quantidade de informações que o ChatGPT pode processar ao responder às perguntas do usuário. Também limita a “memória” do ChatGPT e pode ser difícil lidar com registros de perguntas anteriores. Além disso, o ChatGPT não pode concluir tarefas mais tediosas devido ao baixo poder de computação. Por exemplo, a ferramenta AI pode achar difícil escrever códigos de programas complexos devido a GPUs insuficientes.
De acordo com a IT Home, a OpenAI é uma das muitas marcas afetadas pela escassez de GPUs. Os provedores de serviços de computação em nuvem, como Google, Amazon e Microsoft, estão enfrentando uma séria escassez de GPUs. Isso também fez com que o preço das ações do principal fornecedor Nvidia subisse, tornando-se a primeira empresa de semicondutores com um valor de mercado de mais de um trilhão. O preço das ações da empresa disparou quase duas vezes este ano.
Gizchina Notícias da semana
Histórico da escassez de GPU
A escassez de GPU não é um problema novo para a indústria de tecnologia. Em 2017, o mercado enfrentou uma escassez semelhante devido ao aumento da demanda por placas gráficas causada pelo aumento dos preços do Ethereum. No entanto, a escassez atual é diferente, pois vários fatores se estenderam e a agravaram. O principal culpado é um problema com as cadeias de suprimentos de GPU, que foi agravado pelo aumento da demanda na região. A pandemia também interrompeu as cadeias de suprimentos e fez crescer toda a indústria de semicondutores. Isso torna mais difícil para as empresas acessar os componentes necessários para produzir GPUs.
O impacto da escassez de GPU no ChatGPT
A explosão de popularidade do ChatGPT despertou alguns temores de que outra escassez de GPU está no horizonte. Um analista afirma que cerca de 10.000 GPUs Nvidia foram usadas para treinar o ChatGPT. Além disso, há relatos de que, à medida que o serviço continua a se expandir, aumenta também a necessidade de GPUs.
A escassez de GPUs tornou mais difícil para a OpenAI permitir que os usuários enviem mais dados por meio dos grandes modelos de linguagem que sustentam seu software, como o ChatGPT. Isso retardou o lançamento planejado da empresa de mais recursos e serviços. Também tornou os serviços existentes da OpenAI mais lentos e menos confiáveis. Esse é um grande problema para muitos usuários e os torna relutantes em criar aplicativos corporativos com base na tecnologia da OpenAI.
No entanto, é importante observar que o status exato da escassez de GPU não é muito claro. De acordo com um artigo da Fierce Electronics de março de 2023, há uma “enorme” escassez de suprimentos de GPU devido às necessidades de IA. Por outro lado, em agosto, um relatório da Ars Technica afirma que a escassez de GPU oficialmente acabou e que agora estamos com um excedente de GPU. The Verge também relatou em julho de 2022 que a escassez de GPU acabou. Portanto, o status exato da falta de GPU ainda não está claro. Pode depender de vários fatores, como localização, demanda e interrupções na cadeia de suprimentos.
Possíveis soluções para a escassez de GPU
Uma possível solução para a escassez de GPU é o aumento das empresas de semicondutores sua capacidade de produção. No entanto, é mais fácil falar do que fazer, pois a pandemia interrompeu as cadeias de suprimentos e dificultou o acesso das empresas aos componentes necessários para produzir GPUs.
Outra solução potencial é que as empresas encontrem maneiras alternativas de treinar e executar grandes modelos de linguagem como ChatGPT. Por exemplo, OpenAI reteve seu novo e poderoso modelo de linguagem, GPT-4, da versão gratuita do ChatGPT, que ainda está executando um modelo GPT-3.5 mais fraco, devido ao alto custo de execução do GPT-4.
O CEO da OpenAI, Sam Altman, reconheceu indiretamente o problema, afirmando que a empresa está trabalhando para tornar seus modelos de IA mais eficientes e menos intensivos em recursos.
Palavras Finais
A escassez de GPUs é um grande obstáculo para o ChatGPT e outros grandes modelos de linguagem. A pandemia e o aumento da demanda por GPUs dificultaram o acesso das marcas às peças necessárias para produzir GPUs, o que retardou o lançamento de novos recursos e serviços para o ChatGPT.
No entanto, existem possíveis soluções para esse problema, como aumentar a capacidade de produção e encontrar formas alternativas de treinar e executar grandes modelos de linguagem. À medida que a indústria de tecnologia continua a evoluir, será interessante ver como empresas como a OpenAI lidam com os desafios impostos pela escassez de GPU e continuam inovando no campo da IA.
Fonte/VIA:
