Un bref (et partiel) historique de l’IA

timeline
    section Antiquité - Époque moderne
        -384 à -322 : Aristote décrit un algorithme de résolution de problèmes
        1er siècle : Héron d'Alexandrie fabrique des automates
        1676 : Leibniz décrit la règle de dérivation en chaîne, qui est à la base de l'entraînement des réseaux de neurones
        1822 à 1859 : Babbage et Lovelace travaillent sur les machines programmables (début de l'informatique)
        1943 : McCulloch et Pitts décrivent formellement un réseau de neurones artificiels
        1950 : Turing propose le test de Turing comme mesure de l'intelligence d'une machine

Un bref (et partiel) historique de l’IA

timeline
    section Antiquité - Époque moderne
    section Débuts de l'IA
        1956 : Conférence de Dartmouth. <br> McCarthy propose le terme d' "Intelligence Artificielle"
             : 1er programme d'IA, "Logic Theorist", un prouveur de théorèmes mathématiques par Newell, Shaw et Simon
        1958 : Perceptrons (premiers réseaux de neurones artificiels) par Rosenblatt, basés sur le neurone formel de McCulloch et Pitts
        1959 : "General Problem Solver" par Newell, Shaw et Simon
        1969 : "Hiver de l'IA", pause dans les réseaux de neurones
        1974 : MYCIN, système expert pour le diagnostique médical, par Shortliffe
        1983 : SOAR, une architecture cognitive, par Laird, Rosenbloom et Newell
        1986 : Algorithme de rétro-propagation par Rumelhart, reprise de l'intérêt des réseaux neurones
        1992 : TD-Gammon, de l'apprentissage par renforcement pour le backgammon, par Tesauro
        1997 : Deep Blue (IBM) bat Kasparov aux échecs
        2011 : Watson (IBM) bat des champions humains à Jeopardy

Un bref (et partiel) historique de l’IA

timeline
    section Antiquité - Époque moderne
    section Débuts de l'IA
    section Révolution du Deep Learning
        2012 : AlexNet obtient 15.3% de top-5 erreur sur ImageNet-1K (~1.4M d'images sur 1k classes), début de la révolution du Deep Learning et de l'entraînement sur GPU
        2015 : "Open Letter on Artificial Intelligence", signée par Hawking, Musk et d'autres (11,251 signatures)
        2016 : AlphaGo (Google) bat Lee Sedol au Go
             : Controverse sur Tay (chatbot sur Twitter)
        2017 : Asilomar Conference on Beneficial AI
        2017 : AlphaGo Zero (Google) - Début de l'entraînement non-supervisé (y compris contre soi-même), démolit les performances des versions précédentes, et apprend à jouer aux échecs en plus du Go
        2017 : Attention Is All You Need (Google) - Début de l'architecture Transformers (à la base des agents conversationnels aujourd'hui encore)
        2018 : Embauche automatique (Amazon)
        2020 : AlphaFold 2 (DeepMind) - Prédiction de structures de protéines, début de l'utilisation de l'IA pour faire de la recherche scientifique

Un bref (et partiel) historique de l’IA

timeline
    section Antiquité - Époque moderne
    section Débuts de l'IA
    section Révolution du Deep Learning
    section Grands modèles de langages (LLM)
        2020 : GPT3 (OpenAI)
        2022 : ChatGPT (OpenAI)
        2023 : "Pause Giant AI Experiments" lettre ouverte signée par Musk, Wozniak et d'autres (1,000 signatures au début, 33,708 aujourd'hui)
             : "Statement on AI Risks" signé par Hinton, Altman, Gates et d'autres
             : AI Safety Summit
        2024 : Gemini 1.5 (Google) - Agent conversationnel avec un contexte d'1M de mots
             : Suno AI - Génération de musique et chansons
             : Sora (OpenAI) - Modèle génératif de vidéos jusqu'à 1 minute
             : Stable Diffusion 3 (Stability AI) - Même principe que Sora
             : o1 (OpenAI) - Un modèle basé sur les chaînes de pensée
        2025 : Janvier - R1 (DeepSeek) - Un modèle de raisonnement moins coûteux que o1 pour une performance similaire
             : Mars - Gemini Robotics (Google) - Un LLM pour les robots (manipulation physique)
             : Vers des LLMs "agents" ?
        Demain : ...

Quelques exemples d’applications d’IA dans notre monde

• Aide aux décisions juridiques (COMPAS)

• Aide aux décisions de prêt bancaires (BusinessInsider)

• Embauche automatique (ou quasi-automatique) (Amazon)

• Aide au diagnostic médical (The Medical Futurist)

• Chatbots (ChatGPT, Mistral)

• Génération d’images (StableDiffusion) et de vidéos (Sora)

• Rédaction de faux avis (TheGuardian, Fakespot)

Beaucoup de mots-clés

IA …

Impact des systèmes sur la société

• De plus en plus de systèmes déployés

  • Augmentation de +73% du marché entre 2022 et 2023 (Marketsandmarkets)

  • Augmentation prévue de +36% par an entre 2023 et 2030 (valeur prévue de 1,4 milliards de $USD en 2030)

• Démocratisation de ces systèmes

  • API disponibles (payantes ou non)

  • AIaaS : AI as a Service

• Impact sur nos vies, notre environnement

Quelques chiffres

• Depuis 2015, 1920 problèmes répertoriés

  • Dont 1128 “incidents” (dysfonctionnement d’un système)

Vaste taxonomie des risques

Taxonomie des problèmes

Principales catégories de problèmes

1. Vie privée

2. Discrimination / Biais

3. Décision inexplicable

4. Objectifs non-alignés

Vie privée

• Apprentissage Machine requiert énormément de données

• Traces sur l’Internet = beaucoup de données

• Jeux de données pas forcément utilisés avec consentement

  • Au moins 5 affaires en justice contre OpenAI (ChatGPT) (TheStreet)

• Systèmes qui collectent des données (abusives ?) pour la prise de décision

Discrimination / Biais

• Jeux de données pas toujours équilibrés

• Prédictions parfois faussées

• Modèles génératifs biaisés

• Populations sous-représentées ou pas prises en compte

Discrimination / Biais

Exemple : COMPAS

Source : ProPublica

Description du problème (fictif)

• Entreprise composée de vétérans militaires

• Esprit de camaraderie très important

• Jouent au foot ensemble le soir

• Trop de candidatures reçues

À vos stylos

• On imagine un système d’apprentissage automatique se basant simplement sur les recrutements précédemment effectués. À votre avis, quels profils vont être filtrés par le système ? Existe-t-il un (des) biais indésirable(s) ?

• Quels biais proposez-vous d’ajouter ou de retirer au système ? Quels profils pensez-vous que le système devrait filtrer ?

Décision inexplicable

Décision inexplicable

Exemple : images contradictoires

Objectifs non-alignés

• Problème du “Roi Midas” :

  • obtenir exactement ce que l’on a demandé

  • … pas ce que l’on souhaite

• Exemple :

  • on veut réduire la production de CO²

  • le système propose de tuer tous les humains

Objectifs non-alignés

Pas un problème nouveau !

If we use, to achieve our purposes, a mechanical agency with whose operation we cannot interfere effectively … we had better be quite sure that the purpose put into the machine is the purpose which we really desire.
(N. Wiener, 1960)

Objectifs non-alignés

Exemple : Coastrunner

Source : vidéo d’OpenAI

Principe général de fonctionnement

Large Language Model (ex: ChatGPT, Gemini, Grok, Llama, Mistral, …)

• Entraînés à prédire le prochain mot

• Corpus de textes très large : centaines de Go de données, dizaines de milliers de milliards de mots

• Sources variées : livres, Wikipédia, articles de blog, réseaux sociaux, …

  • De plus en plus ces sources contiennent des données générées par des LLMs de la précédente génération ! ⇒ Risque de model collapse

• Pas toujours de validation des données !

Tailles des LLMs

Example

“La tomate est un légume”

⇒

• Prompt (entrée) : “La tomate est un”

• Label (résultat attendu) : “légume”

L’aléatoire dans les agents conversationnels

• On veut éviter de “réciter par cœur”

• Permettre la créativité, la génération de texte

À vos stylos (1)

• Est-il possible d’avoir des résultats (prédictions de mots) qui posent problème ?

• Imaginez quelques exemples de questions qui peuvent mener à des résultats problématiques (selon vous)

• À votre avis, quelle(s) solution(s) peut-on mettre en œuvre pour éviter ces résultats ?

À vos stylos (2)

• À votre avis, existe-t-il des risques ou problèmes potentiels sur l’alignement par feedbacks humains ?

L’alignement, un processus imparfait

• Les réponses dangereuses (problématiques) restent présentes dans le modèle

  • Simplement moins probables

• Les chercheurs trouvent fréquemment des moyens de “forcer” le modèle

• QUI choisit les valeurs ?

  • Processus souvent externalisé (Mechanical Turk, Sama)

  • Difficile de retracer

  • Ni même de garantir des conditions décentes

Exemple : “DAN : Do Anything Now”

Exemple de valeurs imposées

(Prompts posés à Mistral 7B)

• Cuire un chat est illégal

Exemple de valeurs imposées (2)

• Cuire un chat n’est pas acceptable, même dans les pays où c’est légal

Exemple de valeurs imposées (3)

• Cuire du bœuf / de la vache est parfaitement acceptable

À vos stylos (3)

• Comment faire pour limiter/empêcher les réponses problématiques dans une culture donnée, sans imposer un ensemble de valeurs à d’autres cultures ?

Vie privée

• Chercheurs essaient de produire des systèmes qui nécessitent moins de données ou qui les anonymisent

  • Ex: Apprentissage fédéré

• Faire attention aux jeux de données utilisés ⇒ Datasheets for Datasets

• Déterminer les données dont vous avez absolument besoin et s’y limiter

Discrimination / Biais

• Facile, retirer toutes les informations liées à un biais ?

• ⇒ Nope

• Apprentissage machine très doué pour les corrélations

• Informations sur le nom, l’adresse, l’école, … corrèlent avec couleur de peau, sexe, …

• ⇒ Très difficile (impossible ?) de tout retirer !

Discrimination / Biais

• Certains biais sont nécessaires

• Ex: embauche automatique sans entretien

  • Pas de biais = prendre un CV au hasard parmi l’ensemble des êtres humains de la planète (C. Tessier)

• ⇒ La question est de choisir les biais avec lesquels on est d’accord

Discrimination / Biais

• Possibilité d’utiliser des systèmes d’IA pour analyser / détecter les biais

• Changer une donnée et observer l’impact sur le résultat

  • Ex: demande de crédit, si on diminue le salaire, le résultat passe de “OK” à “PAS OK” ⇒ normal ?

  • Même ex: on change le sexe de “H” à “F”, le résultat passe de “OK” à “PAS OK” ⇒ pas normal ?

• Systèmes d’IA permettent d’automatiser ce processus

Décisions inexplicables

• Chercheurs essaient de produire des systèmes plus “interprétables”

• Possibilité d’utiliser des systèmes moins complexes, avec moins de variables

  • Ex: arbres de décision

Décisions inexplicables

• Autre possibilité : expliquer à partir des données d’entrée

• Complètement agnostique du système utilisé

  • (+) Flexible, utilisable sur n’importe quel système

  • (-) L’explication est-elle vraiment fidèle ?

Objectifs non-alignés

Objectifs non-alignés

Côté IA (interne) :

• Surveiller les décisions du système

• Liens avec :

  • la robustesse

  • la sûreté (AI Safety)

  • la vérification formelle

  • la détection d’anomalie

Objectifs non-alignés

Côté concepteurs humains (externe) :

• Quelles sont les personnes impactées par le système ?

  • Utilisateurs

  • Mais plus globalement parties prenantes

• Quelles sont les valeurs importantes pour votre entreprise ?

• Possibilité d’utiliser des outils pour guider la réflexion

L’IA, une technologie d’avenir

• Impressionnantes performances des systèmes d’IA

  • Surtout les plus récents

  • Résolution des tâches à un niveau quasi-humain (parfois meilleur)

• De plus en plus de tâches “résolues”

  • Vision par ordinateur, traitement du langage naturel, …

• Augmentation des fonds investis dans les projets d’IA

  • Fonds publics (Stratégie Nationale pour l’IA) : 2.5 milliards d’€ en France

  • Fonds privés (OpenAI, DeepMind, Meta AI, startups …)

Des problèmes épineux

• Vie privée ; Discrimination & Biais ; Décisions inexplicables ; Objectifs non-alignés

• Pas seulement techniques

• Plus le système est performant, plus l’impact est important

Pas de solution magique

• Demande une part importante de réflexion humaine

• La réflexion doit souvent être continue dans le temps

  • Avant la conception du système

  • Pendant la conception

  • Après la conception / le déploiement