Según Arstechnica (a través de Platformer), Microsoft acaba de despedir a un equipo de ética de IA luego de los despidos masivos dentro de la empresa que afectaron a 10,000 empleados. El equipo fue responsable de monitorear y reducir los daños sociales causados por los productos de inteligencia artificial de Microsoft.
Microsoft ha estado en los titulares en los últimos meses por su inversión inicial en la empresa matriz de ChatGPT, OpenAI, y por integrarla en su motor de búsqueda Bing.. Si bien todas las empresas que incorporan IA en sus productos y servicios tienen un equipo para examinar los posibles peligros asociados, Microsoft acaba de despedir a los miembros de su equipo de ética de IA.
Según se informa, el equipo desarrolló un”conjunto de herramientas de innovación responsable”para Microsoft que ayudó a los ingenieros de la empresa a predecir y eliminar los riesgos generados por la IA. Los ex miembros del equipo dicen que tuvieron un papel clave en la mitigación de los riesgos de IA en los productos de Microsoft.
El equipo de ética de IA de Microsoft dejó la empresa luego de despidos recientes
En respuesta a la noticia, Microsoft anunció que sigue”comprometido con el desarrollo de productos y experiencias de IA de manera segura y responsable, y lo hace invirtiendo en personas, procesos y asociaciones que prioricen esto”.
La compañía también dice que se ha centrado en construir su Oficina de IA responsable en los últimos seis años. Este equipo permanece en su lugar y trabaja con el Comité Aether y la Estrategia de IA Responsable en Ingeniería para mitigar los riesgos de IA.
La decisión de Microsoft de despedir a un equipo de ética de IA coincide con el lanzamiento del modelo de IA más avanzado de OpenAI, GPT-4. Este modelo se agrega a Microsoft Bing, lo que puede despertar aún más interés en el rival de Google.
Microsoft comenzó a formar su equipo de ética de IA en 2017 y, según se informa, el equipo tenía 30 miembros. The Platformer informa que la compañía luego dispersó a los miembros en diferentes departamentos a medida que la competencia de IA con Google se estaba calentando. Finalmente, Microsoft redujo el tamaño del equipo a solo siete personas.
Los ex empleados también afirman que Microsoft no escuchó sus recomendaciones sobre herramientas impulsadas por IA como Bing Image Creator que copiaba el trabajo de los artistas. Los empleados despedidos ahora están preocupados por los posibles peligros que la IA puede exponer a los usuarios cuando no hay nadie en la empresa que diga”no”a los diseños potencialmente irresponsables.
