Um número crescente de especialistas está alertando sobre os riscos que a IA representa para a sociedade.
A IA (Inteligência Artificial) certamente tem estado nos noticiários ultimamente. Embora as habilidades e o escopo absoluto da IA sejam claramente incríveis, houve alguns obstáculos na estrada. Relatos de traços bizarros de comportamento de chatbots com inteligência artificial, e até mesmo insultos e ameaças, também surgiram. Agora, ao que parece, o consenso entre os especialistas é que uma IA sem restrições e sem regulamentação representa um sério risco para a humanidade.
“Padrinho da IA” lamenta o trabalho de sua vida
Dr. Geoffrey Hinton, um renomado cientista da computação que é amplamente creditado por estabelecer as bases da IA que eventualmente levaram à criação de chatbots populares como o ChatGPT e outros sistemas avançados, renunciou recentemente ao seu cargo no Google dizendo que agora pode falar abertamente sobre os riscos do desenvolvimento irrestrito da IA.
Em uma entrevista recente, o Dr. Hinton disse que teme que a IA se torne mais perigosa no futuro, com”maus atores”potencialmente explorando sistemas avançados”para coisas ruins”que irão ser difícil de prevenir. Dr. Hinton continuou dizendo… “Eu me consolo com a desculpa normal: Se eu não tivesse feito isso, outra pessoa teria feito” ~ <fonte>
Elon Musk pede protocolos de segurança de IA
Elon Musk está pedindo uma pausa de seis meses no treinamento de modelos avançados de inteligência artificial após a ascensão do ChatGPT, argumentando que os sistemas podem representar”riscos profundos para a sociedade e a humanidade”. Musk juntou-se a um grupo de mais de mil especialistas ao assinar uma carta aberta pedindo uma moratória no desenvolvimento da IA:
“Os sistemas de IA com inteligência humana competitiva podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. Conforme declarado nos amplamente endossados Princípios de IA de Asilomar, a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais” ~ <fonte>
Steve Wozniac expressa suas preocupações
O famoso cofundador da Apple, Steve Wozniak, também está entre os que assinaram a carta aberta pedindo mais supervisão do desenvolvimento da IA. Em entrevista à BBC, “Woz” expressou sua preocupação de que a tecnologia possa ser sequestrada e usada para fins maliciosos se cair em mãos erradas. Ele argumentou que A.I. agora é tão inteligente que tornará mais fácil para os “maus atores” enganar os outros sobre quem eles são.
“Um ser humano realmente precisa assumir a responsabilidade pelo que é gerado pela IA. Não podemos parar a tecnologia, mas a regulamentação é necessária para responsabilizar a Big Tech no que diz respeito ao que suas ferramentas de inteligência artificial são capazes de fazer. Essas empresas sentem que podem se safar de qualquer coisa.” ~ <fonte>
Você leu primeiro no DCT!
Em um artigo publicado aqui no DCT no início deste ano, eu disse o seguinte:
“Deve haver salvaguardas. Embora haja poucas dúvidas de que a tecnologia orientada por IA veio para ficar, também deve ser responsabilidade de organizações como Microsoft e Google garantir que a tecnologia que eles introduzem seja adequada e não propensa a fornecer informações falsas ou enganosas antes de liberar it en masse“.
Sim, estou me dando um tapinha nas costas. 🙂
—
