Selon Arstechnica (via Platformer), Microsoft vient de supprimer une équipe d’éthique de l’IA suite aux licenciements massifs au sein de l’entreprise qui ont touché 10 000 employés. L’équipe était chargée de surveiller et de réduire les dommages sociaux causés par les produits Microsoft AI.
Microsoft a fait la une des journaux ces derniers mois pour son investissement initial dans la société mère ChatGPT OpenAI et son intégration dans son moteur de recherche Bing. Alors que toutes les entreprises qui intègrent l’IA dans leurs produits et services ont une équipe chargée d’examiner les éventuels dangers associés, Microsoft vient de licencier les membres de son équipe d’éthique en matière d’IA.
L’équipe aurait développé une”boîte à outils d’innovation responsable”pour Microsoft qui a aidé les ingénieurs de l’entreprise à prévoir et à éliminer les risques générés par l’IA. Les anciens membres de l’équipe affirment avoir joué un rôle clé dans l’atténuation des risques liés à l’IA dans les produits Microsoft.
L’équipe d’éthique de l’IA de Microsoft a quitté l’entreprise à la suite de récents licenciements
En réponse à la nouvelle, Microsoft a annoncé qu’il restait”engagé à développer des produits et des expériences d’IA de manière sûre et responsable, et le fait en investissant dans des personnes, des processus et des partenariats qui accordent la priorité à cela. »
La société affirme également qu’elle s’est concentrée sur la création de son bureau d’IA responsable au cours des six dernières années. Cette équipe reste en place et travaille avec le comité Aether et la stratégie d’IA responsable en ingénierie pour atténuer les risques liés à l’IA.
La décision de Microsoft de licencier une équipe d’éthique de l’IA coïncide avec le lancement du modèle d’IA le plus avancé d’OpenAI, GPT-4. Ce modèle est ajouté à Microsoft Bing, ce qui peut susciter encore plus d’intérêt pour le rival de Google.
Microsoft a commencé à former son équipe d’éthique de l’IA en 2017, et l’équipe aurait compté 30 membres. Le Platformer rapporte que la société a ensuite dispersé les membres dans différents départements alors que la concurrence entre l’IA et Google s’intensifiait. Enfin, Microsoft a réduit l’équipe à seulement sept personnes.
Les anciens employés affirment également que Microsoft n’a pas écouté leurs recommandations pour des outils basés sur l’IA comme Bing Image Creator qui copient le travail des artistes. Les employés licenciés s’inquiètent désormais des dangers potentiels que l’IA peut exposer aux utilisateurs lorsqu’il n’y a personne dans l’entreprise pour dire”non”aux conceptions potentiellement irresponsables.
