A IA está trazendo muitas mudanças na forma como fazemos as coisas. Esta ferramenta tem sido um assistente em telefones celulares e outros dispositivos. No entanto, o desenvolvimento da IA generativa segue um novo caminho. Os usuários podem simplesmente relaxar e deixar a IA fazer “tudo” por eles. Em novembro de 2022, a OpenAI lançou o chatbot AI, ChatGPT. Após seu lançamento, esta ferramenta se tornou muito popular no campo da tecnologia. Mas, embora seja uma ótima ferramenta de assistência para muitos, também é uma “ameaça” para algumas pessoas e marcas. A Amazon é uma daquelas marcas que não estão tão felizes com o ChatGPT. A empresa está muito vigilante e alertou severamente sua equipe para não interagir com o ChatGPT. Ele avisa a equipe para não usar o ChatGPT para escrever códigos ou compartilhar códigos já escritos com o ChatGPT para conclusão.
O canal Slack interno da Amazon tem muitas perguntas da equipe sobre como usar o ChatGPT. Alguns funcionários perguntaram à Amazon se havia diretrizes oficiais para usar o ChatGPT em dispositivos de trabalho. Outros se perguntam se foram autorizados a trabalhar com ferramentas de IA. Uma equipe está pedindo à divisão de computação em nuvem da Amazon, AWS, que esclareça sua posição sobre o uso de “ferramentas generativas de IA (AIGC)”.
Logo, um advogado corporativo da Amazon entrou na discussão. Capturas de tela de comunicações internas no canal Slack mostram o advogado alertando a equipe para não fornecer ao ChatGPT “nenhuma informação confidencial da Amazon”. Esta informação inclui o código da Amazon sendo escrito. Ele também aconselha a equipe a seguir a política de não divulgação existente da empresa, já que algumas das respostas do ChatGPT são muito semelhantes à situação interna da Amazon.
“Isso é crítico porque sua entrada pode ser usada como dados iterativos de treinamento para o ChatGPT. Não queremos que sua saída contenha ou se pareça com nossas informações confidenciais”, escreveu o advogado. Essas trocas sugerem que o súbito surgimento do ChatGPT levantou muitas novas questões éticas.
O que é ChatGPT?
ChatGPT é uma ferramenta de IA de conversação que responde a consultas com respostas mais claras e, às vezes, muito inteligentes. A rápida disseminação do ChatGPT tem o potencial de interromper vários setores. Isso inclui a mídia, a academia e a saúde. Desde então, isso levou a esforços para encontrar novos casos de uso para chatbots e seu possível impacto.
Como os funcionários da empresa compartilham informações confidenciais com o ChatGPT e o que seu desenvolvedor, OpenAI, faz com isso pode se tornar um problema espinhoso. Isso é muito importante para a Amazon, já que sua arquirrival Microsoft investiu pesadamente na OpenAI. Lembre-se de que o investimento da Microsoft na OpenAI chega a US$ 10 bilhões.
Emily Bender, que ensina linguística computacional na Univ. de Washington, disse: “A OpenAI está longe de ser transparente sobre como usa os dados. Mas se esses dados forem usados para treinamento, espero que as empresas pensem. Após vários meses de uso generalizado do ChatGPT, é possível obter informações confidenciais de uma empresa privada por meio de prompts cuidadosamente elaborados?”
A Amazon rastreia a equipe para ver quem usa o ChatGPT
A Amazon tem uma série de proteções internas em vigor para a equipe que usa o ChatGPT. Por exemplo, capturas de tela da troca mostram que, quando a equipe usa dispositivos de trabalho para acessar o site ChatGPT, uma mensagem de aviso é exibida informando que eles estão prestes a acessar um serviço de terceiros que “pode não ser aprovado para uso pela Amazon Security”./p>
Gizchina Notícias da semana
Equipe participando do Slack o chat do canal disse que poderia ignorar a mensagem simplesmente clicando na guia”Reconhecer”. A equipe especula que o pop-up de aviso era para impedi-los de colar informações confidenciais no ChatGPT, especialmente porque eles não tinham visto a política da empresa sobre uso interno.
Funcionários compartilham suas opiniões
Ainda assim , alguns funcionários da Amazon já estão usando ferramentas de IA como “assistentes de codificação” de software para ajudar a melhorar as linhas internas de código. “Acho que seria ótimo ter essa funcionalidade pronta para uso agora, eu acho! Portanto, qualquer orientação seria ótima”, escreveu um funcionário da Amazon em um canal do Slack.
Outra equipe disse que compartilhou as perguntas da entrevista da Amazon para uma vaga de programação aberta no ChatGPT. De acordo com a postagem da equipe no Slack, o modelo de IA fornece soluções corretas para vários problemas técnicos. “Estou preocupado e animado para ver o impacto que isso terá na maneira como conduzimos as entrevistas de codificação”, disse ele.
No geral, a equipe da Amazon que participa dos bate-papos do canal Slack ficou entusiasmada com o potencial do ChatGPT. Eles até se perguntam se a Amazon está desenvolvendo um produto concorrente. O advogado da empresa que alertou os funcionários contra o uso do ChatGPT disse que a Amazon estava acelerando o desenvolvimento de “tecnologia semelhante” citando a assistente de voz Alexa e o serviço de recomendação de código CodeWhisperer como exemplos.
Um funcionário da AWS escreveu que a equipe de suporte empresarial formou recentemente um pequeno grupo de trabalho interno para “entender o impacto da IA de bate-papo avançada em nossos negócios”. A pesquisa mostra que o ChatGPT é “muito bom” em responder a perguntas de suporte da AWS, incluindo resolver problemas de banco de dados do Aurora, entre outros. Ao mesmo tempo, também é bom para criar materiais de treinamento para o exame AWS Certified Cloud Architect, abordando os objetivos da empresa do cliente.
Longe de ser transparente
O uso crescente do ChatGPT no trabalho levanta sérias questões sobre como a OpenAI planeja usar o material compartilhado com ferramentas de IA, disse Bender da UW. Os termos de serviço da OpenAI exigem que os usuários concordem que podem usar todas as entradas e saídas geradas pelos usuários e pelo ChatGPT. Ele também disse que a OpenAI removeu todas as informações de identificação pessoal (PII) dos dados usados.
Mas Bender diz que é difícil ver como OpenAI poderia identificar e excluir todas as PIIs, dada a escala crescente do ChatGPT. O ChatGPT tinha mais de 1 milhão de usuários apenas uma semana após seu lançamento. Além disso, a propriedade intelectual de uma empresa pode não fazer parte da definição de PII.
Para a equipe da Amazon, a privacidade dos dados parece ser a menor de suas preocupações. O uso de chatbots no trabalho aumentou a produtividade em um fator de 10, dizem eles. Muitos esperam ingressar em uma equipe interna que desenvolve um serviço semelhante.
“Se houver planos para criar um serviço semelhante agora, adoraria fazer parte e contribuir um pouco, se necessário, ” um dos funcionários escreveu no Slack.
Fonte/VIA: