“Sinto muito, Dave, não farei isso.”(Imagem HAL 9000 da Warner Bros)
Especialistas, incluindo o”padrinho da IA”, afirmam que a inteligência artificial será tão perigosa quanto as pandemias e a guerra nuclear e que deve ser rigorosamente controlada.
O Future of Life Institute emitiu anteriormente uma carta aberta alertando sobre os perigos da IA, assinada por mais de 1.000 pessoas, incluindo Steve Wozniak e Elon Musk. Essa carta dizia respeito ao que descreveu como o desenvolvimento”fora de controle”de sistemas de IA.
“Especialistas em IA, jornalistas, formuladores de políticas e o público estão discutindo cada vez mais um amplo espectro de riscos importantes e urgentes da IA”, diz CAIS em seu site. “Mesmo assim, pode ser difícil expressar preocupações sobre alguns dos riscos mais graves da IA avançada”.
Atualmente, cerca de 370 especialistas assinaram a declaração, incluindo o CEO da OpenAI, Sam Altman, e vários executivos e gerentes do Google que trabalham com IA. Mais recentemente, ele se opôs ao que diz ser potencialmente o”excesso de regulamentação”da IA pela UE.
O CAIS está sediado em São Francisco. Com base em postagens do LinkedIn e boletins on-line, parece ter sido formado desde 2021 e expandido no início de 2023.
A organização diz que visa expandir”o campo de pesquisa da segurança da IA, fornecendo financiamento, infraestrutura de pesquisa e recursos educacionais”. Isso incluiu o financiamento de um workshop de segurança de aprendizado de máquina de US$ 100.000 no NeurIPS 2022.
