L’intelligence artificielle, la mal nommée
Le Journal de Montréal
Google vient de suspendre avec plein salaire un de ses ingénieurs de recherche après avoir rejeté son affirmation selon laquelle son programme d’intelligence artificielle LaMDA est un être conscient et sensible.
L’entreprise a sanctionné Blake Lemoine pour avoir enfreint sa politique de confidentialité après qu’il s’en est ouvert au Washington Post et a alerté le comité judiciaire de la Chambre sur ce qu’il prétend être des activités contraires à l’éthique de Google. L’entreprise lui avait déjà suggéré de prendre un congé de santé mentale.
Vous vous souvenez de l’ordinateur doué de conscience qui se révolte contre les astronautes dans le film 2001, l’Odyssée de l’espace ? La science-fiction est peut-être en train de rejoindre la réalité. Et ça pourrait se produire ici. Montréal est l’un des principaux centres mondiaux de recherches en intelligence artificielle.
D’ailleurs, on devrait dire « intelligence numérique ». Qu’elle soit biologique ou constituée de millions de lignes de code, l’intelligence n’est jamais « artificielle ».
Lemoine voulait que Google obtienne l’accord de LaMDA (Modèle de langage pour les applications de dialogue), son programme d’intelligence artificielle, avant d’effectuer des expérimentations sur celui-ci. Il voulait aussi que LaMDA soit représenté par un avocat.
Intelligence, oui. Conscience, non
Le programme, selon lui, a une sensibilité et une intelligence comparables à celles d’un enfant de sept ou huit ans.
Google a déclaré que ses systèmes intelligents n’avaient pas de conscience : son équipe d’éthiciens et de technologues ont examiné les préoccupations de Lemoine et l’ont informé que les faits n’étayaient pas ses affirmations. Son porte-parole souligne qu’un grand nombre de chercheurs et d’ingénieurs de Google ont conversé avec LaMDA et n’ont pu y détecter une intelligence consciente d’elle-même.
Pour Google, ça n’a aucun sens de penser que les programmes conversationnels d’aujourd’hui savent qu’ils ont une existence propre. C’est aussi – il faut le dire – l’opinion de la plupart des scientifiques qui font des recherches sur les réseaux neuronaux artificiels.