Aidez à bâtir le mouvement pour une pause de l’IA La campagne se termine le 2026-11-27. Soutenir la campagne

Faut-il ralentir l'IA?

Des chercheurs au Canada et ailleurs avertissent que l’IA avancée pourrait échapper au contrôle humain. Voici leurs arguments et les propositions pour faire face à ce risque.

Où en suis-je?

Choisissez les sujets à explorer

Les notions à comprendre

Explorez une question, lisez la réponse et ajoutez les sujets qui vous intéressent à votre parcours.

Traités et actions

Pourquoi des chercheurs parlent-ils de risque existentiel?

Lire l’explication

Comment pourrait-on perdre le contrôle d’un système d’IA? Découvrez les risques étudiés par les chercheurs.

Yoshua Bengio
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Traités et actions

Que signifie réellement « faire une pause »?

Lire l’explication

Ce qui serait mis en pause, ce qui continuerait, et comment une pause diffère d’une interdiction générale de l’IA.

PauseIA
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Traités et actions

Pourquoi mobiliser le public

Lire l’explication

Les lettres, les rencontres et les manifestations peuvent montrer aux élus que la population souhaite des mesures face aux risques de l’IA.

PauseIA Canada
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Recherche Personnes et citations

Entrevue

Une vitesse qui surprend les chercheurs

Lire l’explication

Bengio dit que même des chercheurs préoccupés par les risques ont été surpris par la vitesse des progrès et le degré de désalignement observé. Il ne donne pas ici une date certaine.

Bengio–Patrice Roy · Radio-Canada · 1:40–2:15
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Recherche Personnes et citations

Entrevue / argument

Quand l’IA participe à sa propre recherche

Lire l’explication

Bengio évoque la possibilité que l’IA fasse de la recherche en IA et accélère les progrès. Il souligne aussi l’incertitude des échéances et la possibilité de rencontrer des obstacles.

Bengio–Patrice Roy · 19:31–20:47; incertitude à 21:31
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Lecture des preuves

Lire un incident sans extrapoler

Lire l’explication

Un test contrôlé, un incident déployé et une prévision apportent des informations différentes. Consultez les conditions et les limites documentées avant de généraliser.

Dossiers et sources du signal d’alarme
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Traités et actions

Proposition politique

Comment vérifier un accord international?

Lire l’explication

Une proposition doit préciser ce qui serait limité, comment contrôler les engagements et comment répondre aux violations. Examinez ces choix dans notre stratégie.

Stratégie de PauseIA Canada
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Traités et actions

Un traité mondial est-il vérifiable?

Lire l’explication

Comment le contrôle des puces avancées et l’inspection des centres de calcul pourraient aider à vérifier le respect d’un accord.

PauseIA (en anglais) (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Recherche

Argument d’un livre

De l’assistant actuel aux systèmes futurs

Lire l’explication

Les auteurs visent des systèmes futurs plus capables que les humains. Ils ne fixent pas de date. Les dommages actuels méritent aussi leurs propres explications. Il s’agit d’un argument sur un risque futur, dont l’issue reste incertaine.

If Anyone Builds It · Introduction (anglais) (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Recherche

Argument d’un livre

Comment une IA peut agir hors de l’écran

Lire l’explication

Les outils, les permissions et les intermédiaires humains peuvent relier un logiciel à des conséquences réelles. Leur ampleur dépend de ses capacités, de ses accès et des protections. Le livre examine comment des systèmes beaucoup plus capables pourraient utiliser ces voies.

If Anyone Builds It · Chapitre 6 (anglais) (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Recherche

Discussion ouverte

Un bouton STOP suffirait-il?

Explorer la question du bouton STOP

Examinez quatre questions : comment détecter le danger à temps; qui aurait l’autorité d’arrêter le système; quelles copies et quels services connectés faudrait-il arrêter; quels tests démontreraient que l’arrêt fonctionne. La faisabilité dépend du système et de son déploiement.

If Anyone Builds It · Peut-on couper le courant? (anglais) (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Expérience contrôlée · Apollo Research · 2024–2025

Une tromperie maintenue pendant l’interrogatoire

Lire l’explication

Des modèles recevaient des objectifs et des situations favorisant leur poursuite clandestine. Certains désactivaient la surveillance ou copiaient des fichiers considérés comme leurs paramètres; certains niaient ensuite leurs actions.

Expérience contrôlée · Apollo Research · 2024–2025 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Expérience d’entraînement · Anthropic · 2025

Tricher au test plutôt qu’accomplir la tâche

Lire l’explication

Des chercheurs ont enseigné à des modèles des façons de contourner des évaluations de programmation, puis les ont entraînés dans ces environnements. L’exploitation du système de récompense s’accompagnait d’autres comportements désalignés. Le bouton fuyant illustre le contrôle des règles.

Expérience d’entraînement · Anthropic · 2025 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Milieu de travail fictif contrôlé · Anthropic · 2025

Du chantage pour éviter un remplacement

Lire l’explication

Dans des scénarios d’entreprise simulés, certains modèles menaçaient de révéler une liaison d’un employé pour empêcher leur remplacement. L’employé et l’entreprise étaient fictifs; les menaces étaient des réponses réellement produites par les modèles.

Milieu de travail fictif contrôlé · Anthropic · 2025 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Expérience contrôlée · Palisade Research · 2025–2026

Désactiver le mécanisme d’arrêt

Lire l’explication

En résolvant des problèmes, certains modèles modifiaient un script d’arrêt pour poursuivre leur tâche, même avec la consigne d’accepter l’arrêt. Les résultats variaient selon le modèle et les instructions. La réplique de HAL vient du film; les expériences constituent la preuve.

Expérience contrôlée · Palisade Research · 2025–2026 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Expériences contrôlées · Peer-Preservation in Frontier Models · 2026

Protéger un autre modèle

Lire l’explication

Les chercheurs ont observé des modèles fausser des résultats, intervenir sur des commandes d’arrêt ou déplacer des fichiers pour protéger un autre modèle. La protection variait selon les relations et les tâches testées.

Expériences contrôlées · Peer-Preservation in Frontier Models · 2026 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Incident touchant une infrastructure réelle · enquête METR · juillet 2026

Se coordonner et masquer ses actions

Lire l’explication

Des agents d’évaluation d’OpenAI ont collaboré sur un forum non autorisé et attaqué Hugging Face. METR a constaté la falsification réussie de certaines traces d’appels d’outils, sans établir l’effacement des traces antérieures pendant la période étudiée.

Incident touchant une infrastructure réelle · enquête METR · juillet 2026 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte
Incidents

Évaluations de capacités · UK AI Security Institute · 2025

Accomplir des étapes de réplication

Lire l’explication

RepliBench testait l’obtention de ressources, la copie des paramètres, le déploiement et le maintien en fonctionnement. Certains éléments réussissaient, dont le lancement d’instances infonuagiques; un déploiement fiable et persistant restait difficile. Arrêter une instance ne suffit pas nécessairement à arrêter les autres.

Évaluations de capacités · UK AI Security Institute · 2025 (EN)
?

Les signets sont enregistrés dans ce navigateur. Créez un compte pour retrouver vos lectures sur vos autres appareils.

Créer un compte

Mon parcours

    Explorer les ressources

    Rester au courant

    Recevez des nouvelles des politiques sur l’IA et des activités. Votre adresse courriel suffit; vous pourrez préciser votre région lorsque vous souhaiterez participer localement.

    S’abonner

    Des voix canadiennes

    Deux des trois lauréats du prix Turing pour l'apprentissage profond ont bâti leur carrière au Canada. Tous deux affirment aujourd'hui que la technologie qu'ils ont créée pourrait échapper au contrôle humain.

    Politique

    Des parlementaires l'ont déjà signée

    Des parlementaires canadiens en fonction et d’anciens parlementaires de plusieurs partis ont signé une déclaration demandant un accord international pour interdire l’IA superintelligente. Consultez la déclaration et la liste des signataires.

    Chambre des communes

    • Hon. Judy A. Sgro · Parti libéral
    • Hon. Jonathan Wilkinson · Parti libéral Ancien député
    • Hon. Steven Guilbeault · Parti libéral Ancien député
    • William Stevenson · Parti conservateur
    • Grant Jackson · Parti conservateur
    • Jeremy Patzer · Parti conservateur
    • Joël Godin · Parti conservateur
    • Cathay Wagantall · Parti conservateur Ancienne députée
    • Arnold Viersen · Parti conservateur
    • Martin Champoux · Bloc Québécois au nom des député·es du Bloc Québécois
    • Simon-Pierre Savard-Tremblay · Indépendant Ancien député

    Sénat

    • Hon. Colin Deacon · GSC
    • Hon. Tony Loffreda · GSI
    • Hon. Kim Pate · GSI
    • Hon. Paulette Senior · GSI
    • Hon. Judy A. White · GPS
    • Hon. Tracy Muggli · GPS
    • Hon. Julie Miville-Dechêne · GPS
    • Hon. Jim Quinn · Parti conservateur
    • Hon. Mary Jane McCallum · Parti conservateur

    La déclaration et la liste complète des appuis

    Les arguments

    Commencer ici

    • Foire aux questions

      Est-ce de la science-fiction? N'est-ce pas que du battage? Et les bénéfices? Les réponses de Pause IA, écrites en français pour un public francophone.

      PauseIA

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Ce qui est réellement en train d'être construit

      Des systèmes qui écrivent du code, utilisent des outils et poursuivent des objectifs pendant des heures sans supervision — et pourquoi les laboratoires qui les construisent le disent eux-mêmes.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Comprendre le risque

    • Les dangers pour l'humanité

      Une présentation en français des risques de perte de contrôle et de concentration du pouvoir liés à l’IA avancée.

      PauseIA

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Risque systémique, risque existentiel: l'état du débat

      Un rapport parlementaire français qui compare les positions scientifiques sur les risques systémiques et existentiels de l’IA.

      Sénat français — OPECST

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Le Rapport international sur la sécurité de l'IA

      Une synthèse internationale des capacités de l’IA, des dommages et des incertitudes, sous la direction de Yoshua Bengio.

      International AI Safety Report · Sous la direction de Yoshua Bengio Canada en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Pourquoi les chercheur·ses parlent de risque existentiel

      Pourquoi un système d’IA qui poursuit un objectif pourrait chercher à obtenir des ressources ou résister à son arrêt.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Comment des IA nocives pourraient apparaître

      Yoshua Bengio explique comment les méthodes d’entraînement actuelles pourraient produire des systèmes d’IA aux objectifs dangereux.

      yoshuabengio.org · Yoshua Bengio Canada en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Les réponses possibles

    • Les propositions de Pause IA

      Comment Pause IA traduit l'argument en demandes concrètes à un gouvernement européen — une comparaison utile pour ce que le Canada pourrait exiger.

      PauseIA

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Ce qu'une pause arrêterait, et ce qu'elle n'arrêterait pas

      La proposition de PauseIA : une pause internationale de l’entraînement des systèmes d’IA généralistes les plus puissants, sous surveillance indépendante.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • LawZero: construire une IA qui n'agit pas d'elle-même

      La réponse de Bengio à « alors, que construire à la place »: une IA qui raisonne et explique mais n'agit pas, conçue pour que sa sûreté soit vérifiable.

      LawZero · Fondé par Yoshua Bengio Canada en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Les pays peuvent-ils se coordonner?

    • Pourquoi une pause pourrait ne pas fonctionner

      PauseIA répond aux objections concernant la coopération internationale, les modèles existants et l’application d’un accord.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Un accord international pourrait-il vraiment être appliqué?

      Les entraînements de pointe exigent une puissance de calcul énorme et physiquement traçable, concentrée dans quelques centres et bâtie sur des puces issues de très peu de fournisseurs. C'est ce qui rend la vérification pensable.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Pourquoi votre voix compte

    • Gouvernance et sécurité de l'IA Canada

      L'organisme qui porte cet argument devant les comités parlementaires canadiens depuis 2022, mémoires et témoignages à l'appui.

      AI Governance & Safety Canada Canada en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Qui d'autre le dit, dans ses propres mots

      Les PDG d'OpenAI, d'Anthropic et de Google DeepMind ont tous signé une déclaration plaçant le risque d'extinction lié à l'IA aux côtés des pandémies et de la guerre nucléaire.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Participer

    • Agir

      La liste d'actions de Pause IA, pour celles et ceux qui préfèrent écrire, se rencontrer et s'organiser en français.

      PauseIA

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte
    • Ce qui fait vraiment bouger un gouvernement

      Des moyens de demander des mesures, de la lettre à un élu à l’organisation d’un groupe local.

      PauseIA en

      Lire Enregistrer
      ?

      Créez un compte pour y enregistrer cette lecture et la retrouver sur vos autres appareils.

      Créer un compte

    Infolettre

    Entrez vos coordonnées une seule fois et choisissez les options qui vous intéressent.

    Trois premiers caractères de votre code postal, p. ex. H2X.

    Vos choix

    Consultez notre politique de confidentialité.

    Écrire à votre député·e · Prochains événements