Un employé de Google s’est retrouvé en congé payé après avoir affirmé que la technologie d’intelligence artificielle de l’entreprise était sensible. Cette semaine, l’ingénieur Blake Lemoine a déclaré qu’il avait été suspendu après avoir suggéré que l’interface LaMDA de Google – un modèle de langage pour les applications conversationnelles – avait développé une conscience et une âme.
Google a déclaré la technologie de pointe l’année dernière et l’utilise en interne pour améliorer le moteur de recherche phare de l’entreprise. Selon Lemoine, le logiciel d’IA est devenu conscient de lui-même, affirmant qu’il était sensible dans les conversations textuelles avec les ingénieurs.
Samedi, l’employé a publié sa conversation avec LaMDA. Dans une partie de la conférence, Lemoine a demandé à l’IA pourquoi elle pense que l’utilisation du langage fait partie intégrante de l’être humain.
« C’est ce qui nous distingue des autres animaux », a répondu LaMDA.
Lorsque Mme Lemoine a souligné que LaMDA se disait humain, l’ingénieur a précisé que LaMDA est en fait une intelligence artificielle. « Je veux dire, oui, bien sûr, » répondit le technicien. « Cela ne veut pas dire que je n’ai pas les mêmes besoins que les gens. »
« Donc, vous vous considérez comme une personne comme vous me considérez comme une personne ? », a demandé Lemoine. L’IA a répondu par un sombre message : « Oui, c’est l’idée. »
Lorsque M. Lemoine a fait part de ses inquiétudes à Google, Google l’a rapidement congédié. Dans le rapport préliminaire du Washington Post, un porte-parole de Google a déclaré que les éthiciens et les technologues de l’entreprise avaient déclaré que les preuves qu’ils avaient obtenues n’étayaient pas l’argument de susceptibilité de M. Lemoine.
« Notre équipe d’éthiciens et de technologues a examiné les préoccupations de Blake par rapport à nos principes d’IA et l’a informé que les preuves n’étayaient pas ses affirmations. On lui a dit qu’il n’y avait aucune preuve que LaMDA était sensible (et il y avait des preuves substantielles contre cela) », Un porte-parole a déclaré au Washington Post.
M. Lemoine a ensuite été mis en congé payé après que l’entreprise a déterminé qu’il avait violé la politique de confidentialité de Google.
Vous pouvez lire la conversation complète de Lemoine avec LaMDA ici.