Google est génial, non ? Il fabrique certains des meilleurs téléphones Android et dévoile constamment de nouvelles façons, visant à faciliter la vie des gens. Mais que se passerait-il si même avec un tel objectif, l’effet inverse était atteint ?
Rencontrez Geoffrey Hinton. Il a 75 ans maintenant et il en a passé 50 dans le domaine de l’IA. Il a fondé une entreprise technologique, avec deux de ses étudiants : Ilya Sutskever et Alex Krishevsky, que Google a acquise plus tard, en 2012.
Après l’acquisition, Hinton a continué à travailler pour Google. Sutskever, cependant, est passé à un projet différent. Il a fondé une autre société, dont vous avez peut-être entendu parler. Il s’appelle OpenAI et est le moteur de ChatGPT et de Bard – l’« expérience » d’IA propre à Google.
Mais si Geoffrey Hinton, un informaticien renommé avec de nombreux prix et distinctions, souvent surnommé « le parrain de l’IA », a créé un choix d’aller avec Google, pourquoi quitte-t-il maintenant l’entreprise afin d’avertir les gens des dangers de l’IA ?
Dans le NYT aujourd’hui, Cade Metz sous-entend que j’ai quitté Google pour que je puisse critiquer Google. En fait, je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact que cela a sur Google. Google a agi de manière très responsable.
— Geoffrey Hinton (@geoffreyhinton) 1er mai , 2023
Hinton approfondit le sujet avec le New York Times. Eh bien, aussi en profondeur qu’il peut aller. Le scientifique a eu une réunion avec le PDG de Google, Sundar Pichai, le 4 mai. Bien que nous ne sachions pas ce qui a été discuté lors de la réunion, nous connaissons le résultat : Hinton a quitté Google après une décennie de travail avec le géant.
Dr. Hinton pense que l’IA est sur le point d’atteindre des niveaux dangereux et à une course beaucoup plus rapide qu’il aurait prédit il y a cinq ans. Son rôle direct dans le développement de la technologie, qui alimente désormais l’IA moderne, l’a accablé de culpabilité et de regrets pour le travail de sa vie.
Cela étant dit, le scientifique ne blâme pas Google pour quoi que ce soit. Au contraire, il affirme que Google a été très responsable avec l’IA. Mais il ne faut pas grand-chose pour se rendre compte de la réalité de la situation :
Si Microsoft n’avait pas dévoilé Bing AI si tôt, Google n’aurait pas été obligé de rivaliser via Bard dans cette IA-désormais existante et menaçante course.
Bien que cela ait accéléré la vitesse de développement de l’IA, cela a également introduit de nouveaux dangers dans le mélange, comme le sujet de l’éthique, la menace de perte d’emploi et la propagation possible de la désinformation. En tant que tel, le Dr Hinton a décidé d’aider à prévenir cela par tous les moyens possibles.