Directive sur la prise de décision automatisée

Le gouvernement du Canada cherche de plus en plus à utiliser l’intelligence artificielle pour prendre ou aider à prendre des décisions administratives afin d’améliorer la prestation des services. Le gouvernement s’est engagé à le faire d’une manière compatible avec les principes fondamentaux du droit administratif, comme la transparence, la responsabilisation, la légalité et l’équité procédurale. Sachant que cette technologie évolue rapidement, la présente Directive continuera d’évoluer afin de veiller à ce qu’elle soit pertinente.
Modification : 2019-02-05
Version imprimable XML

1. Date d’entrée en vigueur

  • 1.1

    La présente Directive entre en vigueur le et doit être respectée au plus tard le .

  • 1.2

    La Directive s’applique à tout système décisionnel automatisé développé ou acheté après le.

  • 1.3

    La Directive sera assujettie à un processus d’examen automatique; on prévoit que celui-ci se déroulera tous les six mois à partir de sa date d’entrée en vigueur.

2. Pouvoirs

3. Définitions

  • 3.1

    Les définitions servant à l’interprétation de la présente Directive sont présentées à l’annexe A.

4. Objectifs et résultats escomptés

  • 4.1

    La présente Directive a pour objet de veiller à ce que les systèmes décisionnels automatisés soient déployés d’une manière qui permet de réduire les risques pour les Canadiens et les institutions fédérales, et qui donne lieu à une prise de décisions plus efficace, exacte et conforme, qui peut être interprétée en vertu du droit canadien.

  • 4.2

    Les résultats escomptés de la présente Directive sont les suivants :

    • 4.2.1

      Les décisions prises par les ministères du gouvernement fédéral sont appuyées par des données, et sont prises de façon responsable et conformes à l’équité procédurale et aux exigences d’application régulière de la loi.

    • 4.2.2

      Les incidences des algorithmes sur les décisions administratives sont évaluées et les résultats négatifs sont atténués, au nécessaire.

    • 4.2.3

      Les données et les renseignements sur l’utilisation des systèmes décisionnels automatisés dans les institutions fédérales sont mis à la disposition du public, si nécessaire.

5. Portée

  • 5.1

    La présente Directive s’applique uniquement aux systèmes qui fournissent des services externes tels que définis dans la Politique sur les services.

  • 5.2

    La présente Directive s’applique à tout système, outil ou modèle statistique utilisé pour recommander ou prendre une décision administrative au sujet d’un client.

  • 5.3

    La présente directive s’applique uniquement aux systèmes en production et exclut les systèmes de décision automatisés fonctionnant dans des environnements d'essais.

  • 5.4

    Conformément à la Politique sur la gestion de la technologie de l’information, la présente Directive ne s’applique pas aux systèmes nationaux de sécurité.

6. Exigences

Le sous-ministre adjoint chargé du programme qui utilise le système décisionnel automatisé (ou toute autre personne nommée par l’administrateur général) est chargé de ce qui suit :

  • 6.1

    Évaluation de l’incidence algorithmique

    • 6.1.1

      Effectuer une évaluation de l’incidence algorithmique avant la production de tout système décisionnel automatisé.

    • 6.1.2

      Appliquer les exigences pertinentes décrites à l’annexe C, telles qu’elles ont été déterminées par l’évaluation de l’incidence algorithmique.

    • 6.1.3

      Mettre à jour l’évaluation de l’incidence algorithmique lorsqu’on apporte un changement à la fonctionnalité ou la portée du système décisionnel automatisé.

    • 6.1.4

      Diffuser les résultats finaux des évaluations de l’incidence algorithmique dans un format accessible par l’entremise des sites Web du gouvernement du Canada et de tout autre service désigné par le Secrétariat du Conseil du Trésor du Canada conformément à la Directive sur le gouvernement ouvert.

  • 6.2

    Transparence

    Parvenir un avis avant les décisions

    • 6.2.1

      Publier, par l’entremise des sites Web pertinents, des avis sur le fait que la décision rendue sera formulée totalement ou en partie par un système décisionnel automatisé, conformément à l’annexe C.

    • 6.2.2

      Fournir des avis en langage simple et affichés de façon évidente, conformément au Guide de rédaction du contenu du site canada.ca.

    Parvenir des explications après les décisions

    • 6.2.3

      Fournir une explication significative aux personnes concernées sur la façon dont la décision a été prise et la raison pour laquelle elle a été prise, conformément à ce qui est prévu à l’annexe C.

    Accès aux composants

    • 6.2.4

      Déterminer la licence appropriée pour les composants logiciels conformément aux exigences précisées à la section C.2.3.8 de la Directive sur la gestion de la technologie de l’information.

    • 6.2.5

      Si l’on utilise une licence propriétaire, veiller à ce que :

      • 6.2.5.1

        toutes les versions publiées des composants logiciels propriétaires utilisés pour les systèmes de décision automatisés sont livrées et protégées par le ministère;

      • 6.2.5.2

        le gouvernement du Canada détienne le droit d’accéder au système décisionnel automatisé et d’effectuer des essais sur celui-ci, y compris toutes les versions publiées des composants exclusifs, si de telles actions sont nécessaires pour réaliser un audit, une enquête, une inspection, un examen, une mesure d’exécution ou une procédure judiciaire, sous réserve de garanties contre une divulgation non autorisée;

      • 6.2.5.3

        dans le cadre de son accès au système, le gouvernement du Canada se réserve le droit d’autoriser des tiers à examiner et à vérifier les composants au nécessaire.

    Publication du code source

    • 6.2.6

      Rendre public tout code source créé sur mesure détenu par le gouvernement du Canada conformément aux exigences précisées à la section C.2.3.8 de la Directive sur la gestion de la technologie de l’information, sauf dans les cas où :

      • 6.2.6.1

        le code source traite des données classifiées SECRET, TRÈS SECRET ou PROTÉGÉ C;

      • 6.2.6.2

        la divulgation serait exemptée ou exclue en vertu d’une autre clause de la Loi sur l’accès à l’information;

      • 6.2.6.3

        une exemption est fournie par le dirigeant principal de l’information du Canada.

    • 6.2.7

      Déterminer les restrictions d’accès appropriées qui s’appliquent au code source rendu public.

  • 6.3

    Assurance de la qualité

    Évaluer et surveiller les résultats

    • 6.3.1

      Avant d’amorcer la production, élaborer les processus d’évaluation des données et de l’information utilisés dans les systèmes de prise de décisions automatisée visant à s’assurer de l’absence de biais imprévus dans les données et d’autres facteurs qui pourraient influencer injustement les résultats.

    • 6.3.2

      Élaborer des processus de surveillance des résultats des systèmes décisionnels automatisés afin d’éviter les résultats imprévus et de vérifier régulièrement la conformité aux dispositions législatives institutionnelles et relatives aux programmes, ainsi qu’à la présente Directive.

    Qualité des données

    • 6.3.3

      Confirmer que toutes les données recueillies pour le système décisionnel automatisé et utilisées par celui-ci sont pertinentes, exactes, à jour, et conformes à la Politique sur la gestion de l’information et à la Loi sur la protection des renseignements personnels.

    Examen par les pairs

    • 6.3.4

      Consulter l’expert qualifié approprié pour demander une évaluation du système décisionnel automatisé, conformément à ce qui est prévu à l’annexe C.

    Formation des employés

    • 6.3.5

      Fournir aux employés la formation appropriée concernant la conception, la fonction et la mise en œuvre du système décisionnel automatisé afin d’être en mesure d’examiner, d’expliquer et de surveiller le fonctionnement du système, conformément à ce qui est prévu à l’annexe C.

    Éventualités

    • 6.3.6

      Mettre en place des systèmes et/ou des processus d’urgence conformément à ce qui est prévu à l’annexe C.

    Sécurité

    • 6.3.7

      Mener des évaluations des risques durant le cycle de développement du système et mettre sur pied les mesures de protection appropriées à appliquer, conformément à la Politique sur la sécurité du gouvernement.

    Services juridiques

    • 6.3.8

      Consulter l’unité des services juridiques de l’institution afin de veiller à ce que l’utilisation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.

    Assurer une intervention humaine

    • 6.3.9

      Veiller à ce que le système décisionnel automatisé permette une intervention par un humain au nécessaire, conformément à l’annexe C.

    • 6.3.10

      Obtenir le niveau d’approbation approprié avant de produire un système décisionnel automatisé, conformément à l’annexe C.

  • 6.4

    Recours

    • 6.4.1

      Offrir aux clients toute possibilité à leur disposition en matière de recours applicable afin de contester la prise de décision administrative automatisée.

  • 6.5

    Établissement de rapports

    • 6.5.1

      Publier les renseignements sur l’efficacité et l’efficience des systèmes décisionnels automatisés en matière de réalisation des objectifs du programme sur un site Web ou service désigné par le Conseil du Trésor du Canada.

7. Conséquences

  • 7.1

    Les conséquences d’une non-conformité à la présente Directive peuvent comprendre toute mesure prescrite en vertu de la Loi sur la gestion des finances publiques que le Conseil du Trésor pourrait déterminer comme étant appropriée et acceptable, selon les circonstances.

  • 7.2

    Pour obtenir un aperçu des conséquences de la non-conformité, veuillez consulter l’annexe C : Conséquences pour les institutions et l’annexe D : Conséquences pour les personnes du Cadre stratégique sur la gestion de la conformité.

8. Rôles et responsabilités du Secrétariat du Conseil du Trésor du Canada

Sous réserve des délégations nécessaires, le dirigeant principal de l’information du Canada est responsable de ce qui suit :

  • 8.1

    fournir une orientation pangouvernementale sur l’utilisation de systèmes décisionnels automatisés;

  • 8.2

    accorder des exceptions aux présentes dispositions, en consultant le Comité d’examen de l’architecture intégrée avant de prendre une décision;

  • 8.3

    élaborer et tenir à jour l’évaluation de l’incidence algorithmique et tout document connexe;

  • 8.4

    mener des activités de communication et de mobilisation dans l’ensemble du gouvernement et auprès des partenaires dans d’autres administrations et secteurs afin d’élaborer des stratégies, des approches et des processus communs et d’appuyer l’utilisation responsable de systèmes décisionnels automatisés.

9. Application

  • 9.1

    La présente Directive s’applique à toutes les institutions figurant dans la Politique sur la gestion de la technologie de l’information, sauf en cas d’exclusion par des lois, des règlements ou des décrets précis.

    • 9.1.1

      Les agents du Parlement sont soustraits de l’application de la présente Directive, y compris :

      • le Bureau du vérificateur général;
      • le Bureau du directeur général des élections;
      • le Commissariat au lobbying du Canada;
      • le Bureau du commissariat aux langues officielles;
      • le Bureau du commissariat à l’information du Canada;
      • le Bureau du commissariat à la protection de la vie privée du Canada;
      • le Commissariat à l’intégrité du secteur public du Canada.
  • 9.2

    Les organismes, les sociétés d’État ou les agents du Parlement peuvent conclure des ententes précises avec le SCT en vue d’adopter des exigences de la présente Directive et de les appliquer à leur organisation, au besoin.

10. Renvois

11. Demandes d’information

Veuillez adresser vos demandes de renseignements sur le présent instrument de politique au Service des demandes de renseignements du Secrétariat du Conseil du Trésor du Canada.


Annexe A – Définitions

Décision administrative
Toute décision qui est prise par un agent autorisé d’une institution (tel qu’indiqué à l’article 9 de la présente Directive) en vertu de pouvoirs conférés par une loi du Parlement ou de la prise d’un décret en vertu de la prérogative de la Couronne qui touche les droits juridiques, les privilèges ou les intérêts d’une personne.
Évaluation de l’incidence algorithmique
Un cadre aidant les institutions à mieux comprendre et atténuer les risques associés aux systèmes décisionnels automatisés et fournissant les exigences appropriées en matière de gouvernance, de surveillance, d’établissement de rapports et d’audit qui correspondent le mieux au type d’application conçu.
Intelligence artificielle
Toute technologie de l’information qui exécute des tâches pour lesquelles il faut habituellement faire appel à l’intelligence biologique, comme comprendre le langage parlé, apprendre des comportements ou résoudre des problèmes.
Système décisionnel automatisé
Comprend toute technologie qui soit informe ou remplace le jugement des décideurs humains. Ces systèmes proviennent de domaines tels que les statistiques, la linguistique et les sciences informatiques, et utilisent des techniques telles que les systèmes basés sur des règles, la régression, l’analytique prédictive, l’apprentissage automatique, l’apprentissage en profondeur et les réseaux neuronaux.
Équité procédurale
L’équité procédurale est un principe directeur de la prise de décisions au niveau gouvernemental et quasi judiciaire. Le niveau d’équité procédurale exigée par la loi lors d’un processus donné de prise de décisions augmente ou diminue en fonction de l’importance de la décision en question et de son effet sur les droits et les intérêts.
Code source
Un programme informatique dans sa langue de programmation originale, lisible par l’humain, avant d’être traduit en code objet, habituellement par un compilateur ou un interprète. Il est formé d’algorithmes et d’instructions informatiques et peut inclure des commentaires de la part du développeur.
Milieu de mise à l’essai
Un milieu contenant du matériel, des instruments, des simulateurs, des outils logiciels et d’autres articles de soutien nécessaires pour mener un essai.

Annexe B – Niveaux de l’évaluation de l’incidence

Niveau Description
I

La décision aura probablement peu ou pas d’effet sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau I mèneront souvent à des effets réversibles et brefs.

II

La décision aura vraisemblablement une incidence modérée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau II mèneront souvent à des effets susceptibles d’être réversibles et à court terme.

III

La décision aura vraisemblablement une incidence élevée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau III mèneront souvent à des effets qui peuvent être difficiles à annuler et continus.

IV

La décision aura vraisemblablement une incidence très élevée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau IV mèneront souvent à des effets irréversibles et permanents.

Annexe C – Exigences par niveau d’incidence

Exigence Niveau I Niveau II Niveau III Niveau IV
Examen par les pairs

Aucune

Au moins l’une des suivantes :

Expert qualifié d’une institution gouvernementale fédérale, provinciale, territoriale ou municipale.

Membres qualifiés d’une faculté d’un établissement postsecondaire.

Chercheurs qualifiés d’une organisation non gouvernementale pertinente.

Tiers fournisseur à forfait avec une spécialisation connexe.

Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture.

Un comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor.

Au moins deux des suivantes :

Experts qualifiés du Conseil national de recherches du Canada, de Statistique Canada ou du Centre pour la sécurité des télécommunications.

Membres qualifiés d’une faculté d’un établissement postsecondaire.

Chercheurs qualifiés d’une organisation non gouvernementale pertinente.

Tiers fournisseur à forfait avec une spécialisation connexe.

Un Comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor

OU:

Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture.

Avis

Aucune

Avis en langage simple publié par l’entremise du site Web du programme ou du service.

Publier de la documentation sur les sites Web pertinents au sujet du système décisionnel automatisé, en langage simple, décrivant :

  • le fonctionnement des composants;
  • la façon dont il appuie la décision administrative;
  • les résultats de tout examen ou audit; et
  • Une description des données de formation ou un lien vers les données de formation anonymisées si ces données sont accessibles au public.
Maillon humain de la prise de décisions

Des décisions peuvent être prises sans participation humaine directe.

Des décisions ne peuvent être prises sans qu’il y ait des points d’intervention humaine précis pendant le processus décisionnel.

Des décisions ne peuvent être prises sans qu’il y ait des points d’intervention humaine précis pendant le processus décisionnel.

Exigences en matière d’explication

En plus de toute exigence législative applicable, s’assurer qu’une explication statique des résultats communs des décisions soit fournie. Cela peut inclure une explication dans la section de la Foire aux questions d’un site Web.

En plus de toute exigence législative applicable, s’assurer qu’une explication significative est fournie sur demande avec toute décision qui conduit à un refus de prestation, de service ou autre mesure réglementaire.

En plus de toute exigence législative applicable, s’assurer qu’une explication significative est fournie avec toute décision qui a conduit à un refus de prestation, de service ou autre mesure réglementaire.

Mise à l’essai

Avant d’amorcer la production, élaborer les processus appropriés afin de veiller à ce que les données d’apprentissage soient évaluées pour la présence de biais imprévus dans les données et d’autres facteurs qui pourraient influencer injustement les résultats.

Veiller à ce que les données utilisées par le système décisionnel automatisé soient régulièrement mises à l’essai afin de veiller à ce qu’elles soient toujours pertinentes, exactes et à jour.

Surveillance

Surveiller les résultats des systèmes décisionnels automatisés afin de protéger contre les résultats imprévus et d’assurer la conformité avec les dispositions législatives institutionnelles et relatives aux programmes, ainsi qu’avec la présente Directive.

Formation

Aucune

Documents sur la conception et la fonctionnalité du système.

Documents sur la conception et la fonctionnalité du système.

Il faut suivre des cours de formation.

Documents sur la conception et la fonctionnalité du système.

Cours de formation récurrents.

Un moyen de vérifier que la formation a été suivie.

Planification des mesures d’urgence

Aucune

Veiller à ce que des plans d’urgence et/ou des systèmes de secours soient disponibles dans l’éventualité où le système décisionnel automatisé ne soit pas disponible.

Approbation de l’exploitation du système

Aucune

Aucune

Administrateur général

Conseil du Trésor

© Sa Majesté la Reine du chef du Canada, représentée par le président du Conseil du Trésor, 2019,
ISBN :

Date de modification :