O modelo GPT-4 lançado pela OpenAI supostamente violava as leis de proteção ao consumidor, de acordo com uma organização de política de IA com sede nos EUA. Este grupo solicita que a Federal Trade Commission (FTC) dos EUA proíba imediatamente a OpenAI de lançar um novo modelo GPT. O grupo afirma que isso é necessário para que o sistema possa ser verificado. O Centro de IA e Política Digital (CAIDP) apresentou uma reclamação hoje. Ele afirma que a ferramenta de saída de texto AI da OpenAI é”tendenciosa, enganosa e prejudicial à segurança pública”. O grupo também afirma que o GPT-4 também desrespeita as leis de proteção ao consumidor.
Alguns dias atrás, houve relatos de uma carta aberta solicitando que o desenvolvimento do GPT-4 fosse parar. Juntamente com especialistas em IA e co-fundador da Tesla, Elon Musk, os signatários da carta também incluem o presidente do CAIDP, Mark Rotenberg. O processo, como a carta, exige um desenvolvimento mais lento do modelo de IA generativa e maior regulamentação governamental.
O modelo de texto generativo GPT-4, lançado pela OpenAI em meados de março, foi sinalizado pelo CAIDP como uma ameaça. Esses perigos incluem a capacidade do GPT-4 de produzir códigos falsos, bem como dados de treinamento tendenciosos. Isso pode resultar em estereótipos ou preconceitos raciais e de gênero injustos no processo de contratação. A alegação também destaca problemas de privacidade significativos com a interface do produto OpenAI, como um defeito recém-descoberto que permite que outros usuários visualizem o histórico de bate-papo e talvez detalhes financeiros do OpenAI ChatGPT.
Gizchina News of the week
OpenAI está ciente dos perigos dos textos GPT-4 AI
OpenAI já expressou preocupação sobre o perigo potencial dos textos de IA. Mas o CAIDP acha que o GPT-4 foi longe demais para prejudicar os usuários e deve solicitar uma ação regulatória. A Seção 5 da Lei FTC, que proíbe práticas comerciais desleais e enganosas, é o motivo pelo qual o CAIDP está processando a OpenAI. “A OpenAI disponibilizou o GPT-4 ao público para fins comerciais com plena consciência desses riscos”, afirma o processo.
No processo, o CAIDP pede à FTC que interrompa qualquer lançamento do modelo comercial GPT e que exija uma revisão honesta antes que quaisquer novos modelos sejam lançados. Também exige o desenvolvimento de um sistema de relatórios aberto ao público e que imite o local onde os usuários podem registrar reclamações de fraude. Além da pesquisa e avaliação contínua da FTC, embora ainda amplamente informal, de ferramentas de IA, você também deve pedir à agência clareza sobre as leis que regulam os sistemas de IA generativos.
Em um evento esta semana com a Justiça Dept., A presidente da FTC, Lena Khan, disse que a agência estaria atenta a sinais de que grandes empresas de tecnologia estão tentando eliminar a concorrência. A FTC expressou seu desejo de regular as ferramentas de IA. Ele também adverte que sistemas de IA tendenciosos podem resultar em ações de aplicação da lei. Os grupos de IA agora têm sérias preocupações sobre os possíveis lados ruins dos textos de IA. Todos nós conhecemos os lados bons, mas alguns lados ruins devem ser o centro do foco agora.
Fonte/VIA:
