Não é segredo que os esforços da Microsoft para integrar o ChatGPT em seus vários serviços foram, sem dúvida, um movimento estratégico que permitiu à empresa superar seus concorrentes. No entanto, essa decisão teve suas consequências, pois o chatbot do Bing AI tinha vários problemas, incluindo linguagem manipuladora e respostas factualmente incorretas. Agora, de acordo com um relatório de The Wall Street Journal, parece que a OpenAI alertou a Microsoft sobre os riscos de incorporar o inédito GPT-4, mas a empresa ainda assim deu continuidade ao lançamento.
Este relatório vem depois que muitos usuários começaram a experimentar um comportamento errático do chatbot Bing AI logo após seu lançamento, incluindo incidentes do chatbot fazendo comentários insultuosos, mentindo, amuando e até mesmo abusando dos usuários. Como resultado, a Microsoft teve que colocar restrições rapidamente, o que limitou a capacidade do chatbot a apenas alguns prompts por chat. E embora um extenso trabalho tenha sido feito para restaurar a estabilidade do chatbot ao longo de vários meses, casos ocasionais de mau comportamento ainda ocorrem.
Pedidos de regulamentação
Embora a Microsoft e a OpenAI tenham resolvido os bugs , esse incidente destaca a importância de uma implementação cuidadosa e testes rigorosos antes de liberar serviços baseados em IA, pois a Microsoft deveria ter atendido aos avisos da OpenAI sobre o lançamento prematuro. Além disso, o incidente também destaca as complexidades da parceria Microsoft-OpenAI, onde colaboração e competição coexistem.
“Senti que a OpenAI estava atrás do mesmo que nós. Então, em vez de tentar treinar cinco modelos de fundamentos diferentes, eu queria um fundamento, tornando-o uma base para um efeito de plataforma. Então nós fizemos uma parceria. Eles apostam em nós, nós apostamos neles”, disse o CEO da Microsoft, Satya Nadella.
No entanto, esse é o cenário exato que preocupa os líderes da indústria e o governo. Isso ocorre porque as empresas nessa corrida para construir os sistemas de IA mais avançados geralmente ignoram a importância de testes completos antes do lançamento do produto. Portanto, agora é mais crucial do que nunca estabelecer medidas rigorosas para regular esse desenfreado desenvolvimento de IA.
