En 1997, le champion du monde d’échecs Garry Kasparov perd pour la première fois de l’histoire un match face à un ordinateur, Deep Blue. Cet événement historique pour le jeu comme pour l’informatique est aujourd’hui porté à l’écran dans une minisérie d’Arte, Remacth. 27 ans plus tard, qu’est-ce que la défaite de l’humain contre la machine nous a appris, et ces leçons peuvent-elles éclairer l’arrivée massive de l’IA dans nos vies ?

Les récents progrès de l’intelligence artificielle (IA), comme le développement des IA génératives avec l’apparition de ChatGPT en novembre 2022, ont soulevé beaucoup d’interrogations, d’espoirs, et de craintes. Courant printemps 2023, le Congrès américain a auditionné OpenAI, la société ayant développé ChatGPT et l’Union européenne vient d’adopter son premier texte législatif au sujet de l’IA.

Dans les parlements comme sur les réseaux sociaux, les rapides progrès de l’IA animent les discussions. À l’avenir, à quels impacts faut-il s’attendre sur notre société ? Pour tenter de répondre à cette question de manière dépassionnée, nous proposons de regarder ce qui s’est passé dans un secteur qui a déjà connu l’arrivée et la victoire de l’IA sur les capacités humaines : les échecs. La machine y a en effet un niveau supérieur à celui des humains depuis maintenant plus d’un quart de siècle.

Pourquoi le jeu d’échecs comme indicateur ?

Depuis les débuts de l’informatique, les échecs ont été utilisés comme un indicateur des progrès logiciels et matériels. C’est un jeu intéressant à de multiples niveaux pour étudier les impacts des IA sur la société :

• C’est une activité intellectuelle qui demande différentes compétences : visualisation spatiale, mémoire, calcul mental, créativité, capacité d’adaptation, etc., compétences sur lesquelles l’IA vient concurrencer l’esprit humain.
• Le jeu n’a pas changé depuis des siècles. Les règles sont bien établies et cela donne une base stable pour étudier l’évolution des joueurs.
• Il est possible de mesurer la force des machines de manière objective et de comparer ce niveau à celui des humains avec le classement Elo.
• Le champ d’études est restreint : il est clair que les échecs ne sont qu’un tout petit aspect de la vie, mais c’est justement le but. Cette étroitesse du sujet permet de mieux cibler les impacts des IA sur la vie courante.
• Les IA ont dépassé le niveau des meilleurs joueurs humains depuis plus de 20 ans. Il est donc possible de voir quels ont été les impacts concrets sur le jeu d’échecs et la vie de sa communauté, qui peut être vue comme un microcosme de la société. On peut également étudier ces impacts en regard de la progression des IA au cours du temps.

Explorons quelles ont été les évolutions dans le monde des échecs depuis que Garry Kasparov, alors champion du monde en titre, a perdu une partie contre Deep Blue en 1996, puis le match revanche joué en 1997. Nous allons passer en revue plusieurs thèmes qui reviennent dans la discussion sur les risques liés aux IA et voir ce qu’il en a été de ces spéculations dans le domaine particulier des échecs.

Les performances de l’IA vont-elles continuer à augmenter toujours plus vite ?

Il existe deux grandes écoles pour programmer un logiciel d’échecs : pendant longtemps, seule la force brute fonctionnait. Il s’agissait essentiellement de calculer le plus vite possible pour avoir un arbre de coups plus profonds, c’est-à-dire capable d’anticiper la partie plus loin dans le futur.

À partir d’une position initiale, l’ordinateur calcule un ensemble de possibilités, à une certaine profondeur, c’est-à-dire un nombre de coups futurs dans la partie. | ©BY-SA Chris Butner

En 1947 déjà, Michel Debré déclarait dans son ouvrage La mort de l’état républicain :

« Nous considérons volontiers, en France, le mode de scrutin comme un mécanisme secondaire. C’est une erreur, une erreur grave[…]. Le mode de scrutin fait le pouvoir, c’est-à-dire qu’il fait la démocratie ou la tue. »

Nous ne pouvons qu’être d’accord avec M. Debré, l’un des rédacteurs de notre constitution et chacun pressent qu’effectivement le mode du scrutin est tout sauf neutre dans la détermination de qui est élu.

En tant que chercheurs, nous nous efforçons de comprendre les propriétés, au sens mathématique, des différents modes de scrutins. En tant que citoyens, nous sommes persuadés d’un réel débat autour de cette question pourrait permettre de remobiliser nos concitoyennes et concitoyens autour de la question électorale, fondamentale à notre démocratie.

Le scrutin majoritaire à deux tours : cet outil archaïque

S’il permet de dégager un ou une gagnante à chaque fois, le « scrutin majoritaire uninominal à deux tours », ne présente pas que des propriétés positives.

La grande qualité de ce scrutin est, comme son nom l’indique, de dégager une majorité de votants en faveur du vainqueur. Majorité absolue dans le cas de l’élection présidentielle, éventuellement majorité relative dans le cadre de triangulaire lors des législatives, mais à chaque fois majorité tout de même.

Mais cette majorité ne tient pas compte de la minorité : avec ce système un candidat peut être élu à la majorité absolue même si son programme est jugé très négativement par 49,9 % des électeurs. En ce sens, cette « tyrannie de la majorité », comme le dit Alexis de Tocqueville, peut mener à l’élection de candidats très clivants : convaincre une moitié des électeurs (plus un) suffit, quitte à se faire détester par l’autre moitié.

Cette caractéristique forte se double de plusieurs défauts : le premier d’entre eux est qu’il peut nous pousser à « voter utile » plutôt que de voter pour notre candidat favori : à quoi sert de voter pour un candidat qui ne sera pas au deuxième tour ? A rien ! Donc autant voter dès le premier tour pour son meilleur choix parmi les candidats qui ont des chances de se qualifier.

Souhaite-t-on vraiment un moyen d’expression démocratique qui incite fortement les votants à ne pas être sincères ? Un autre défaut bien connu est que le résultat du scrutin majoritaire à deux tours peut dépendre de la présence ou non de « petits » candidats. Par exemple, lors de l’élection présidentielle de 2002, la présence de plusieurs autres candidats de gauche au premier tour a vraisemblablement fait qu’il a manqué à Lionel Jospin les quelques centaines de milliers de voix qui lui auraient permis d’être qualifié au deuxième tour et, peut-être, de gagner l’élection. Souhaite-t-on vraiment un mode de scrutin qui soit si sensible aux manœuvres politiques ?

Et ce ne sont pas les seuls défauts du scrutin majoritaire à deux tours. D’autres peuvent être trouvés dans notre ouvrage « Comment être élu à tous les coups ? » publié chez EDP Sciences.

Mais c’est une chose de dire que le scrutin majoritaire à deux tours n’est pas un bon mode de scrutin, c’est autre chose de trouver le « meilleur » mode de scrutin. Depuis les travaux de Borda et Condorcet au XVIII^e, de nombreux chercheurs se sont penchés sur ce problème en proposant de non moins nombreux modes de scrutin, tous imparfaits. En 1951, l’économiste américain Kenneth Arrow semble mettre un terme à tout espoir en démontrant un théorème (dit d’impossibilité) indiquant que tout mode de scrutin ne pourra jamais vérifier de manière simultanée un petit ensemble de propriétés pourtant souhaitables. En ce milieu de XX^e siècle, il semble que le mode de scrutin parfait n’existe pas et que les mathématiques ont tué la démocratie.

Les modes de scrutin basés sur des évaluations : nouvel eldorado ?

Cependant, Arrow ne parlait que des modes de scrutins utilisant des ordres de préférence, c’est-à-dire les modes de scrutin basés sur les classements des candidats (du plus apprécié au moins apprécié) par chaque électeur. Mais il existe une autre catégorie de modes de scrutin, qui utilise des évaluations : chaque votant peut donner une « note » ou une appréciation à chacun des candidats. L’avantage de ce mode de scrutin ? Disposer d’une information plus complète et souvent plus nuancée des votants sur les candidats.

Deux familles de modes de scrutin basés sur les évaluations se distinguaient jusqu’à présent :

• les modes de scrutin « à la moyenne » (le « range voting », le vote par approbation) : le candidat élu est celui dont la moyenne des évaluations est la plus élevée.
• Les modes de scrutin « à la médiane » (le « jugement majoritaire » et autres variantes) : le candidat élu est celui dont la médiane des évaluations est la plus élevée.

Le plus simple d’entre eux est le vote par approbation, chaque votant donne une voix à tous les candidats qu’il juge acceptables (l’échelle des évaluations est alors réduite au minimum : 0 : inacceptable, 1 : acceptable). Le candidat élu est celui qui reçoit au total le plus de voix. C’est exactement ce qui se passe lorsque l’on participe à un « doodle » : parmi des dates proposées, les votants choisissent celles leur convenant et la date la plus choisie l’emporte ! Ça serait très simple à mettre en pratique dans notre vie politique : il suffirait de permettre aux votants de glisser autant de bulletins différents qu’ils le désirent dans leur enveloppe (ou en d’autres termes de prévoir un « doodle » à 40 millions de lignes…).

Notons que ces modes de scrutin utilisant des évaluations ne sont plus sensibles au vote utile et que le vainqueur ne dépend plus de la présence ou de l’absence d’un autre candidat proche de lui dans l’élection. Ils vérifient en outre l’ensemble des propriétés souhaitables défini par Arrow !

Nous avons récemment proposé, avec Irène Gannaz et Samuela Leoni, un formalisme unificateur pour ces modes de scrutin, soit une manière de voir chacune de ces méthodes comme une variante particulière d’une unique méthode de vote.

Dans une configuration où chaque votant donne une note à chaque candidat, chaque votant peut être représenté dans l’espace par un point dont les coordonnées sont ses évaluations données aux candidats. Un exemple pour une élection avec trois candidats est illustré dans la figure suivante : chaque axe représentant un candidat et chaque point un votant, les évaluations entre -2 et 2 ont été générées au hasard pour cette figure :

Représentation graphique d’un système de vote par note pour 3 candidats. | ©Antoine Rolland

L’idée sous-jacente commune à tous ces derniers modes de scrutin est de repérer le point le plus « au centre » du nuage de points des évaluations (en rouge sur la figure), de le considérer comme le votant « type », et de déclarer élu son candidat préféré.

Ce formalisme permet de proposer un modèle général pour les modes de scrutin utilisant les évaluations (range voting, vote par approbation, jugement majoritaire, etc.), mais aussi d’ouvrir la voie à de nombreux autres modes de scrutin, inconnus jusqu’alors. À chaque définition de point le plus « au centre » du nuage (et il y en a beaucoup !) est alors associé un mode de scrutin différent.

Les modes de scrutin par évaluations sont bien meilleurs d’un point de vue logico-mathématique. Sociétalement parlant, ils permettraient de privilégier les candidats plus consensuels.

À nous, société civile et citoyenne, de nous saisir de cette question pour redevenir acteur/actrice de notre destinée démocratique commune. Comme disait G. Bernanos : « On n’attend pas l’avenir comme on attend un train, l’avenir, on le fait. »

Cet article est republié sous licence Creative Commons.

>>  Lire l’article original :

The Conversation

Depuis que les intelligences artificielles (IA) génératives, telles que ChatGPT pour le texte ou Stable Diffusion pour les images, sont entrées dans nos vies, elles ne laissent personne indifférent et suscitent fascination et crainte. Une machine peut en effet accomplir certaines tâches mieux qu’un humain, mais aussi commettre des erreurs. Entre les mains d’acteurs malintentionnés, une IA peut aussi servir à réaliser des deepfakes (contenus trompeurs) ou à influencer un résultat électoral.

Si laisser une machine résumer un texte semble peu risqué, la prise de décision automatisée par IA dans des contextes plus ou moins sensibles nécessite d’évaluer les risques et de les encadrer. Alors que le secteur de l’IA connaît une expansion fulgurante, la question de la réglementation de l’IA devient un sujet de préoccupation majeur pour les États. C’est donc dans ce contexte de course à l’encadrement que l’Union européenne (UE) entend promouvoir sa vision de la réglementation sur l’IA avec l’AI Act.

Pourquoi l’AI Act ?

Si l’UE manque encore de fleurons qui pourraient lui permettre de concurrencer les États-Unis et la Chine, il est un terrain où elle peut véritablement s’affirmer : celui de la régulation. En effet, au travers de l’AI Act, l’UE se met ainsi en capacité d’imposer ses règles aux autres acteurs en conditionnant l’accès au marché européen au respect de ses valeurs. C’est une étape décisive vers son objectif d’incarner un modèle de réglementation.

L’approche européenne s’articule autour du concept d’« IA digne de confiance » (ou trustworthy AI) et vise à faire de l’UE la pionnière des IA « légales », « éthiques » et « robustes ». Selon Carme Artigas, secrétaire d’État espagnole à la numérisation et à l’intelligence artificielle, il s’agit de « stimuler l’innovation et l’adoption de l’intelligence artificielle dans toute l’Europe tout en respectant pleinement les droits fondamentaux de nos citoyens. » Le défi est de taille, tant les enjeux politiques, économiques, et sociaux sont considérables. Le 13 mars dernier, les ambitions de l’UE se sont concrétisées avec l’adoption par le Parlement européen de l’AI Act au terme d’une longue procédure.

L’AI Act dans sa version préfinale prévoit des obligations variables en fonction du système ou du modèle d’IA et de son impact. L’étendue des obligations s’imposant aux fournisseurs et utilisateurs est proportionnelle aux risques d’atteinte aux droits fondamentaux posés par ces derniers. Ce faisant, il distingue entre les dispositifs d’IA posant des risques inacceptables pour les Européens, ceux posant des risques systémiques, ceux à haut risque, et enfin les dispositifs à risques faibles ou limités.

Une réglementation qui distingue différents niveaux de risque

Le règlement interdit d’abord les pratiques posant des risques inacceptables. Il s’agit des systèmes les plus intrusifs dont les usages peuvent avoir des conséquences néfastes démesurées sur les droits des usagers, comme l’utilisation de systèmes d’IA à des fins de manipulation pour influencer le comportement des individus (scandale Cambridge Analytica, analyse des données personnelles d’électeurs afin d’influencer leurs intentions de vote), les systèmes d’IA permettant de mettre en place un crédit social, et, sauf exception, les dispositifs d’identification à distance des personnes sur la base de caractéristiques personnelles comme la reconnaissance faciale algorithmique.

Ajoutés tardivement dans le règlement, les modèles de fondation (ou general-purpose AI models), de grands modèles d’intelligence artificielle exploitant de larges quantités de données et pouvant être adaptés pour effectuer plusieurs types de tâches, font l’objet d’un régime distinct. En fonction de leurs capacités, ils pourront être considérés comme posant un « risque systémique ». Cette catégorie concerne notamment ChatGPT dans sa version actuelle. Les fournisseurs de modèles posant un risque systémique seront soumis à des obligations renforcées par rapport aux autres modèles de fondation (entre autres, obligation de notification d’incidents de cybersécurité auprès de la Commission).

La catégorie des systèmes d’IA à haut risque s’applique aux systèmes susceptibles d’engendrer des conséquences néfastes importantes sur la santé, la sécurité et les droits fondamentaux des individus. L’utilisation de systèmes d’IA dans les procédures de recrutement, la détermination de l’obtention de droits sociaux ou de l’octroi de l’asile… relèvent de cette catégorie. Cette classification se traduit par des obligations variées allant de l’établissement d’un système de gestion des risques robuste, au maintien d’une documentation technique exhaustive, en passant par le respect des exigences en matière de gouvernance des données, de supervision humaine et de cybersécurité.

Les dispositifs à risques faibles ou limités restent quant à eux soumis à l’obligation de transparence commune à tout système destiné à interagir directement avec les personnes. Cette catégorie concerne surtout les systèmes d’IA ayant une influence minime sur la prise de décision et inclut les systèmes cantonnés à des tâches très spécifiques comme la classification de dossier ou la correction orthographique.

Un texte bienvenu mais imparfait

La gouvernance de ce cadre sera assurée par un nombre conséquent d’institutions européennes et nationales, à l’image du Comité européen de l’intelligence artificielle et du Bureau européen de l’IA, questionnant la lisibilité du dispositif. En France, la Commission nationale de l’informatique et des libertés (CNIL) s’est déjà positionnée en renforçant son expertise sur l’IA, laquelle se traduit notamment par la publication de fiches de recommandation pour le développement et le déploiement des systèmes d’IA.

Cartographie des fiches de recommandations pour le développement et le déploiement des systèmes d’IA de la CNIL | ©CC BY-NC

Le texte était largement attendu, notamment par les acteurs de l’industrie créative, mais aussi par des juristes et organismes indépendants. Pourtant, l’adoption du texte n’a pas été simple, la France, l’Allemagne et l’Italie se montrant particulièrement réticentes à l’égard des dispositions portant sur les modèles de fondation, y voyant un frein potentiel au développement de l’IA en Europe. Dans ce domaine, le règlement ne semble pas satisfaire toutes les parties.

Il est notamment reproché à l’AI Act de proposer une définition inadéquate des modèles de fondation « à risque systémique », une insuffisance à laquelle le Bureau européen de l’IA (chargé entre autres d’éclairer la mise en œuvre de l’AI Act) devra pallier rapidement. Par ailleurs, plusieurs compromis ont été critiqués comme pouvant donner lieu à des abus, comme la possibilité laissée aux États d’utiliser des dispositifs d’identification biométrique en temps réel pour des motifs de sécurité nationale.

Combiner l’AI Act et les textes déjà en vigueur

En outre, la mise en conformité au règlement, en particulier pour les systèmes à haut risque, est subordonnée au respect de standards techniques relatifs à la qualité des systèmes, à leur sécurité ou encore à la gouvernance des données qui reste encore à déterminer. Dans cette perspective, les efforts s’intensifient pour proposer des standards techniques pertinents.

L’AI Act fonctionnera en synergie avec d’autres textes européens. Antoine Boutet, Juliette Sénéchal, Margo Bernelin et William Letrone, Fourni par l’auteur

Enfin, l’AI Act n’épuise pas toutes les questions soulevées par l’IA ni les besoins d’encadrement. Il faudra donc combiner sa lecture avec d’autres textes comme le Règlement général sur la protection des données (RGPD) dans le cas d’IA impliquant un traitement de données personnelles, ou le Règlement sur les services numériques (ou Digital Services Act – DSA) et le Règlement sur les marchés numériques (ou Digital Market Act – DMA) dans le cas d’IA intégrées à des plates-formes de services.

Quoiqu’il en soit, en Europe comme ailleurs, il n’est plus question de laisser les grandes sociétés de l’IA s’autoréguler. Reste à espérer que la phase de mise en œuvre parvienne à réduire les zones d’ombres qui subsistent à ce stade.

Le projet IPoP est soutenu par l’Agence nationale de la recherche (ANR), qui finance en France la recherche sur projets. Elle a pour mission de soutenir et de promouvoir le développement de recherches fondamentales et finalisées dans toutes les disciplines, et de renforcer le dialogue entre science et société. Pour en savoir plus, consultez le site de l’ANR.

>> Les auteur.e.s

• Antoine Boutet, Maitre de conférence, Privacy, IA, au laboratoire CITI, Inria, INSA Lyon – Université de Lyon;
• Juliette Sénéchal, Professeur de droit privé, Université de Lille;
• Margo Bernelin, Chargée de recherche CNRS, Université de Nantes
• William Letrone, Chercheur post-doctorant en droit de la cybersécurité et droit de la protection des données personnelles, Université de Nantes

>> Cet article est republié sous licence Creative Commons, lire l’article original :

The Conversation