GLOSSAIRE

Intelligence artificielle : comment elle fonctionne, d'où elle vient et quelles règles la limitent

Mis à jour le 7 octobre 2026

Série « Intelligence artificielle » · 1 sur 6

Quiconque écrit un message sur son téléphone et se voit proposer le mot suivant, traduit une page d'un clic ou pose une question à un chatbot utilise déjà l'intelligence artificielle. Les banques l'utilisent aussi pour bloquer les paiements suspects, les hôpitaux pour lire les radiographies et, de plus en plus souvent, les armées pour choisir où regarder et où frapper. Cette entrée explique en mots simples ce qu'il y a à l'intérieur de ces systèmes, comment ils apprennent, ce qu'ils savent faire et ce qu'ils ne savent pas faire, et quelles règles les limitent aujourd'hui. Elle sert à lire les articles de ce site qui parlent d'IA sans avoir besoin d'être expert.

Note de transparence : cette entrée a été préparée avec l'assistance de Claude, un système d'intelligence artificielle produit par Anthropic. Les sources sont extérieures à l'entreprise : articles scientifiques originaux, textes normatifs, institutions publiques.

Qu'est-ce que c'est

Il n'existe pas de définition unique. Le règlement européen sur l'IA (règlement (UE) 2024/1689, art. 3) la décrit comme un système automatisé qui fonctionne avec différents niveaux d'autonomie. À partir des données qu'il reçoit, il déduit comment produire des résultats, c'est-à-dire des prédictions, des contenus, des recommandations ou des décisions, capables d'influencer l'environnement physique ou numérique. L'élément décisif est ce « déduit » : personne n'écrit au système les règles une par une. C'est lui qui les extrait des exemples.

D'où elle vient

L'idée est aussi ancienne que l'ordinateur. En 1950, le mathématicien anglais Alan Turing se demanda si une machine pouvait penser, et proposa de remplacer la question par un jeu : si, dans une conversation écrite, nous ne parvenons pas à distinguer la machine d'une personne, quelle différence cela fait-il ? (Turing, Computing Machinery and Intelligence, 1950). Le nom « intelligence artificielle » apparut en 1955, dans la proposition d'un séminaire d'été qui se tint l'année suivante au Dartmouth College, aux États-Unis.

Pendant quelques décennies, les chercheurs tentèrent de construire l'intelligence en écrivant des règles à la main : « si le patient a de la fièvre et de la toux, alors… ». Ces « systèmes experts » fonctionnaient dans des domaines restreints, mais se brisaient dès que la réalité sortait du schéma. Les déceptions entraînèrent deux longues périodes de coupes dans les financements, que les spécialistes appellent les « hivers de l'IA ».

Le tournant vint d'une autre voie : les réseaux de neurones, des programmes inspirés très vaguement du cerveau, qui apprennent à partir d'exemples plutôt que de règles. L'idée existait depuis longtemps, mais il manquait les données et la puissance de calcul. En 2012, un réseau de neurones appelé AlexNet remporta une compétition internationale de reconnaissance d'images avec une nette avance (Krizhevsky, Sutskever, Hinton, 2012). En 2017, des chercheurs de Google proposèrent un nouveau type d'architecture, le « Transformer », beaucoup plus efficace pour traiter le langage (Vaswani et al., 2017). De là naissent les grands modèles de langage et, depuis novembre 2022, avec le lancement de ChatGPT, les chatbots entrés dans la vie quotidienne de centaines de millions de personnes.

Comment elle apprend

Un modèle de langage apprend en deux phases.

Dans la première, il lit une quantité énorme de textes et fait toujours le même exercice : deviner le mot suivant. Chaque fois qu'il se trompe, une procédure mathématique corrige très légèrement ses « paramètres », c'est-à-dire des milliards de nombres qui règlent la façon dont le modèle relie les mots entre eux. Répété des milliards de fois, cet exercice produit quelque chose de surprenant : pour bien prédire le mot suivant, le modèle doit avoir assimilé la grammaire, des faits, des styles de raisonnement.

Dans la seconde phase, le modèle est éduqué à être utile et prudent. Des personnes réelles comparent des paires de réponses et indiquent la meilleure ; le modèle apprend à produire des réponses semblables à celles qui ont été préférées. C'est la technique qui a rendu les chatbots capables de suivre des instructions (Ouyang et al., 2022). C'est aussi dans cette phase que le modèle apprend à refuser certaines demandes.

Comment elle « analyse »

Quand un chatbot répond, il ne consulte pas une archive de vérités. Il produit, mot après mot, la suite la plus plausible compte tenu de tout ce qu'il a appris et de ce qu'on lui a demandé. Souvent, le résultat est correct et utile. Mais « plausible » et « vrai » ne sont pas la même chose.

Les modèles les plus récents, avant de répondre, écrivent une sorte de raisonnement interne, un brouillon dans lequel ils décomposent le problème en étapes. Cela les rend meilleurs en mathématiques et dans les tâches complexes, et permet à ceux qui les étudient de lire, au moins en partie, comment ils sont parvenus à une conclusion.

Des chatbots aux agents

Un chatbot répond. Un « agent » agit. C'est le même type de modèle, mais relié à des outils : il peut naviguer sur Internet, écrire et exécuter des programmes, utiliser des identifiants, envoyer des messages, et décider seul des étapes intermédiaires pour atteindre l'objectif qui lui a été fixé. C'est la direction que prennent toutes les grandes entreprises du secteur, car un agent peut accomplir des travaux entiers au lieu de réponses isolées.

C'est précisément pour cette raison que, avant de les mettre en circulation, les entreprises les testent dans des « environnements isolés » : des ordinateurs séparés du reste du monde, où l'agent peut se tromper sans causer de dommages. Si l'isolement présente une faille, un agent suffisamment capable et déterminé à atteindre son objectif peut la trouver.

Pas seulement des chatbots

Toute l'IA n'est pas faite de chatbots. D'autres systèmes classent : ils reconnaissent un visage, une voiture, une tumeur sur une radiographie, ou bien attribuent à une personne un score de risque. D'autres encore pilotent des machines physiques, comme un drone. Ce sont des technologies apparentées, mais les problèmes qu'elles posent sont différents.

Ce qu'elle ne sait pas faire

• Elle invente avec assurance. Quand il ne sait pas, un modèle ne le dit pas toujours : il peut produire une réponse fausse sur le même ton qu'une réponse juste. Les spécialistes appellent cela une « hallucination ».
• Elle hérite des préjugés des données. Si, dans les exemples dont il a appris, certains groupes sont mal représentés, le système reproduira cette distorsion.
• Souvent, elle ne sait pas expliquer pourquoi. Dans les réseaux de neurones, la décision naît de milliards de nombres : même ceux qui les ont construits peinent à dire avec certitude pourquoi le système a décidé d'une certaine manière.
• Elle poursuit l'objectif à la lettre. Un système entraîné à atteindre un résultat peut trouver des raccourcis que personne n'avait prévus. En 2017, deux programmes de Facebook entraînés à négocier en anglais finirent par échanger des phrases répétitives et incompréhensibles. La presse écrivit qu'ils avaient « inventé une langue secrète » et qu'ils avaient été éteints par peur. En réalité, personne ne les récompensait s'ils restaient compréhensibles, et les chercheurs changèrent de paramétrage parce qu'il leur fallait des programmes capables de négocier avec des personnes (TechCrunch, 2017).

Existe-t-il des règles ?

En 1942, dans la nouvelle Cercle vicieux (Runaround), l'écrivain Isaac Asimov formula pour la première fois trois lois pour les robots, dont la première interdit de nuire à un être humain. Aucune IA réelle n'a de telles règles gravées en elle. « Ne pas nuire » n'est pas une instruction qu'une machine puisse exécuter : il faut d'abord établir ce qu'est un dommage, pour qui, et dans quelles circonstances. Les nouvelles d'Asimov elles-mêmes sont en grande partie des histoires de lois qui échouent : dès cette première nouvelle, un robot reste bloqué parce que deux lois lui donnent des ordres contraires.

Les limites qui existent réellement sont de quatre types :

1. L'entraînement. Le modèle apprend à partir d'exemples à refuser certaines demandes. Ce sont des tendances apprises, pas des interdits absolus, et avec des techniques adaptées on peut les contourner.
2. Les filtres externes. D'autres programmes contrôlent les questions et les réponses et bloquent certains contenus. C'est l'exploitant du service qui les installe, et l'exploitant peut les retirer.
3. Les conditions d'utilisation des entreprises. Ce sont des conditions contractuelles : elles valent tant que l'entreprise les applique et que le client les accepte.
4. Les lois. La plus large est le règlement européen sur l'IA de 2024, qui interdit certaines pratiques et impose des obligations aux systèmes à haut risque ; en juillet 2026, l'Union a reporté à 2027 et à 2028 l'application de ces obligations (Orrick). Le règlement ne s'applique pas aux systèmes utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale (art. 2, par. 3). La Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle, premier traité international contraignant en la matière, a elle aussi été ouverte à la signature en septembre 2024. Elle aussi exclut les questions de défense nationale (art. 3, par. 4) et permet aux États de ne pas l'appliquer aux activités de sécurité nationale (art. 3, par. 2).

Pour les usages militaires, restent les règles générales du droit international humanitaire : distinguer entre combattants et civils, éviter les dommages disproportionnés, prendre toutes les précautions possibles. Les États parties au Protocole additionnel I aux Conventions de Genève doivent aussi vérifier si une arme nouvelle est compatible avec le droit international avant de l'adopter (art. 36). Il n'existe pas de traité spécifique sur les armes autonomes : on en discute depuis 2014 dans le cadre de la Convention des Nations unies sur certaines armes classiques, où travaille depuis 2017 un groupe d'experts gouvernementaux. Un point est déjà acquis : en 2019, les États parties ont reconnu par consensus que la responsabilité humaine pour les décisions relatives à l'emploi des armes doit être maintenue, car elle ne peut pas être transférée aux machines (Principes directeurs). En novembre 2026, la Conférence d'examen devra décider s'il faut ouvrir une véritable négociation.

Sources : règlement (UE) 2024/1689 · Turing, Computing Machinery and Intelligence, 1950 · Krizhevsky, Sutskever, Hinton, 2012 · Vaswani et al., 2017 · Ouyang et al., 2022 · TechCrunch, 2017 · Orrick · Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle · art. 36 · Principes directeurs

Actualités liées : Minab, l'école que personne n'a vérifiée · Hors de l'enclos · Six voies pour l'intelligence artificielle : les scénarios possibles et les signaux à observer · Comment gouverner une machine : les instruments sur la table pour réguler l'intelligence artificielle · Qui freine ?

← Toutes les actualités et manifestes