Métiers du numérique

Intelligence artificielle : vers une domination programmée ? Ce que les machines font vraiment, et ce qu’elles ne feront pas

Chloé Dubois 5 min de lecture
intelligence artificielle vers une domination programmee : faits vs fantasmes

Les ordinateurs sont désormais présents dans presque toutes nos activités quotidiennes, et une machine a vaincu le champion du monde du jeu de go. Il n’en faut pas plus pour que la question surgisse : l’intelligence artificielle prépare-t-elle une domination programmée des machines sur les humains ? C’est la question que pose Jean-Gabriel Ganascia dans son livre « Intelligence artificielle : vers une domination programmée ? ». Voici ce qu’il faut en retenir, en séparant les faits scientifiques des fantasmes.

Intelligence artificielle : de quoi parle-t-on exactement ?

Une discipline avant d’être une menace

L’intelligence artificielle n’est pas un objet unique, mais un champ de recherche qui cherche à faire accomplir par des machines des tâches associées à l’intelligence : reconnaître la parole articulée, comprendre des textes écrits en langage naturel, jouer, raisonner ou apprendre. Beaucoup d’idées reçues naissent d’une confusion entre ces réalisations précises et une intelligence générale qui ressemblerait à la nôtre.

Quiz : distinguer les faits des fantasmes sur l’intelligence artificielle

Répondez aux 6 questions, puis validez vos réponses pour découvrir votre score. Les corrections détaillées sont disponibles après la validation.

0 / 6 questions répondues Score : –

IA faible et IA forte : la distinction qui change tout

L’IA faible désigne des systèmes conçus pour une tâche donnée : battre un humain au go, transcrire une conversation, classer des images. L’IA forte désignerait une machine dotée d’une intelligence générale, voire d’une conscience. Toute la difficulté est de savoir si l’on passera de l’une à l’autre. Le test de Turing, qui consiste à juger si un interlocuteur humain peut distinguer une machine d’un humain lors d’un échange, est souvent invoqué à ce propos. Pourtant, réussir une conversation ne prouve ni compréhension ni esprit : cela mesure une performance, pas une expérience vécue.

Comment fonctionne l’intelligence artificielle ?

Des données, des calculs, des connaissances construites automatiquement

Les progrès récents reposent largement sur la construction automatique de connaissances à partir d’immenses masses de données, ce que l’on appelle le Big Data. Plutôt que d’écrire à la main toutes les règles, on laisse des algorithmes d’apprentissage automatique en extraire des régularités. Le Deep Learning, ou apprentissage profond, prolonge cette logique avec des réseaux neuronaux à plusieurs couches et a renouvelé les performances du domaine.

Schéma de la chaîne données, entraînement, modèle, prédiction expliquant le fonctionnement de l'intelligence artificielle et sa possible domination programmée
Schéma de la chaîne données, entraînement, modèle, prédiction expliquant le fonctionnement de l’intelligence artificielle et sa possible domination programmée

Un angle rarement évoqué éclaire bien ce fonctionnement : celui d’une chaîne de transmission. Les données alimentent l’entraînement, l’entraînement produit un modèle, le modèle fournit une prédiction. Comme dans toute chaîne, la solidité de l’ensemble dépend de son maillon le plus faible. Des données incomplètes ou biaisées, et c’est le modèle qui hérite du biais ; un modèle opaque, et c’est l’explication de la décision qui disparaît. Chercher qui a choisi les données et qui contrôle chaque étape permet de déplacer la question de la « volonté » de la machine vers la responsabilité de ceux qui la conçoivent.

Un raisonnement binaire qui n’exclut pas l’erreur

Les ordinateurs manipulent des symboles binaires, mais cela ne les rend pas infaillibles. Un programme peut se tromper parce qu’il a été mal spécifié, mal entraîné ou utilisé hors du cadre pour lequel il a été conçu. L’idée selon laquelle « les ordinateurs ne se trompent jamais » fait partie des affirmations que le livre examine pour les nuancer.

Les machines sont-elles réellement intelligentes ?

Cerveau, esprit, conscience : trois choses différentes

Dire que l’IA reproduit l’activité du cerveau est une simplification. Les réseaux neuronaux artificiels s’inspirent librement de neurones, mais ils restent des modèles mathématiques. Quant à la conscience, aux émotions ou à l’intuition, rien ne démontre aujourd’hui que les machines en possèdent d’équivalentes à celles des humains. Gagner au go ou aux échecs atteste une compétence très pointue, pas un esprit.

Créativité et intuition : où placer la frontière ?

Une machine peut produire des combinaisons inattendues, et c’est ce qui trouble. Mais l’intention, le sens donné à ce qui est produit et la capacité de s’en étonner restent du côté de l’humain. Distinguer intelligence, compétence, autonomie et conscience est sans doute l’exercice le plus utile pour ne pas se laisser impressionner par une démonstration spectaculaire.

Machines et humains : où sont les vrais risques ?

Emploi, démocratie, armes et voitures autonomes

Les débats les plus concrets portent sur l’automatisation et le chômage, sur la menace que le Big Data ferait peser sur la démocratie, sur les robots militaires dits « robots tueurs » et sur les voitures autonomes confrontées à des dilemmes éthiques. Ces sujets relèvent de choix politiques, juridiques et économiques : qui déploie, qui décide, qui répond d’une erreur. Ils sont bien plus tangibles que la révolte d’une machine consciente.

Faits établis, hypothèses, science-fiction

AffirmationStatut
Une machine peut battre un champion de goFait établi
L’automatisation transforme des métiersEnjeu réel, à nuancer selon les secteurs
Les robots militaires posent des questions éthiquesDébat actuel
Une machine consciente nous asserviraScénario de science-fiction
Télécharger nos consciences pour devenir immortelsFantasme, aucune base établie

Le livre de Jean-Gabriel Ganascia : thèse et plan

Un auteur issu de la recherche

Jean-Gabriel Ganascia est professeur à l’université Pierre et Marie Curie et a dirigé une équipe de recherche spécialisée dans les agents cognitifs et l’apprentissage symbolique automatique (équipe ACASA, au laboratoire d’informatique de Paris-VI). Il a aussi été invité dans de nombreux médias, dont Le Monde, France Culture, RFI, Europe 1 et C dans l’air.

Une démarche par idées reçues

Le livre s’organise en quatre grandes parties : l’intelligence artificielle, qui et quoi ; son fonctionnement ; les rapports entre machines et hommes ; son avenir. Chaque partie examine des affirmations courantes, comme « les robots nous mettront tous au chômage » ou « demain, nous serons les esclaves des machines », pour les confronter à ce que la science permet de dire. La thèse n’est pas de rassurer à tout prix ni d’alarmer, mais de distinguer les potentialités réelles, les limites techniques et le pur fantasme. Pour qui cherche à comprendre l’IA sans jargon, c’est une porte d’entrée solide, à compléter par la lecture de l’ouvrage lui-même.

Chloé Dubois

Partager cet article

Retour en haut