Líderes mundiais de tecnologia pediu uma pausa nos experimentos de IA por pelo menos seis meses, afirmando que a corrida da IA ficou”fora de controle”.
Inteligência artificial está crescendo rapidamente e não mostra nenhum sinal de desaceleração. Talvez poucas pessoas pudessem prever que um simples chatbot de IA chamado ChatGPT poderia remodelar toda a indústria de tecnologia rapidamente. Esse tremendo crescimento da IA, no entanto, agora se tornou uma fonte de preocupação para os principais líderes de tecnologia. Eles agora estão pedindo uma pausa imediata dos sistemas de IA mais poderosos que o GPT-4.
A empresa controladora do ChatGPT, OpenAI, revelou recentemente sua versão mais poderosa do chatbot de IA, o GPT-4. A Microsoft está tentando incorporar o GPT-4 em seu mecanismo de busca Bing, e o Google também está seguindo um caminho semelhante com o Bard.
Os líderes de tecnologia querem que os experimentos de IA sejam interrompidos por pelo menos seis meses
Uma longa lista de líderes de tecnologia assinou a petição, mas Elon Musk e o cofundador da Apple, Steve Wozniak, estão entre os mais proeminentes. Eles argumentam que incorporar a inteligência humana competitiva à IA pode representar riscos profundos para a sociedade e a humanidade.
A carta continua dizendo que os laboratórios de IA estão construindo mentes digitais que até mesmo os criadores mal conseguem entender, prever ou controlar de forma confiável. Como resultado, a IA pode inundar os canais de informação com desinformação. “Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”, diz a carta.
Os signatários também dizem que a pausa de seis meses nos experimentos de IA deve ser público, verificável e inclui todos os atores-chave. Se isso falhar, os governos devem agir e instituir uma moratória. Além disso, laboratórios de IA e especialistas independentes devem intervir para desenvolver protocolos de segurança para projetos avançados de IA.
Nem a OpenAI, nem o Google ou a Microsoft responderam a esta carta. Enquanto isso, James Grimmelmann, professor de direito digital e da informação da Cornell University, diz: “Uma pausa é uma boa ideia, mas a carta é vaga e não leva a sério os problemas regulatórios”. Grimmelmann também chamou a assinatura de Elon Musk de”hipócrita”, já que ele não era responsável pela IA defeituosa nos carros autônomos da Tesla.
