Directive sur la prise de décisions automatisée

1. Date d’entrée en vigueur

  • 1.1

    La présente Directive entre en vigueur le et doit être respectée au plus tard le .

  • 1.2

    La Directive sera assujettie à un processus d’examen automatique; on prévoit que celui-ci se déroulera tous les six mois à partir de sa date d’entrée en vigueur.

2. Pouvoirs

  • 2.1

    La présente Directive est émise conformément à l’article 7 de la Loi sur la gestion des finances publiques et de l’article 4.4.2.4 de la Politique sur les services et le numérique.

3. Définitions

  • 3.1

    Les définitions servant à l’interprétation de la présente Directive sont présentées à l’annexe A.

4. Objectifs et résultats escomptés

  • 4.1

    La présente Directive a pour objet de veiller à ce que les systèmes décisionnels automatisés soient déployés d’une manière qui permet de réduire les risques pour les Canadiens et les institutions fédérales, et qui donne lieu à une prise de décisions plus efficace, exacte et conforme, qui peut être interprétée en vertu du droit canadien.

  • 4.2

    Les résultats escomptés de la présente Directive sont les suivants :

    • 4.2.1

      Les décisions prises par les ministères du gouvernement fédéral sont appuyées par des données, et sont prises de façon responsable et conformes à l’équité procédurale et aux exigences d’application régulière de la loi.

    • 4.2.2

      Les incidences des algorithmes sur les décisions administratives sont évaluées et les résultats négatifs sont atténués, au nécessaire.

    • 4.2.3

      Les données et les renseignements sur l’utilisation des systèmes décisionnels automatisés dans les institutions fédérales sont mis à la disposition du public, si nécessaire.

5. Portée

  • 5.1

    La présente Directive s’applique uniquement aux systèmes qui fournissent des services externes tels que définis dans la Politique sur les services et le numérique.

  • 5.2

    La présente Directive s’applique à tout système, outil ou modèle statistique utilisé pour recommander ou prendre une décision administrative au sujet d’un client.

  • 5.3

    La présente directive s’applique uniquement aux systèmes en production et exclut les systèmes de décision automatisés fonctionnant dans des environnements d'essais.

  • 5.4

    Conformément à la Politique sur les services et le numérique, la présente Directive ne s’applique pas aux systèmes nationaux de sécurité.

  • 5.5

    La Directive s’applique à tout système décisionnel automatisé développé ou acheté après le 1er avril 2020.

6. Exigences

Le sous-ministre adjoint chargé du programme qui utilise le système décisionnel automatisé (ou toute autre personne nommée par l’administrateur général) est chargé de ce qui suit :

  • 6.1

    Évaluation de l’incidence algorithmique

    • 6.1.1

      Effectuer une évaluation de l’incidence algorithmique avant la production de tout système décisionnel automatisé.

    • 6.1.2

      Appliquer les exigences pertinentes décrites à l’annexe C, telles qu’elles ont été déterminées par l’évaluation de l’incidence algorithmique.

    • 6.1.3

      Mettre à jour l’évaluation de l’incidence algorithmique lorsqu’on apporte un changement à la fonctionnalité ou la portée du système décisionnel automatisé.

    • 6.1.4

      Diffuser les résultats finaux des évaluations de l’incidence algorithmique dans un format accessible par l’entremise des sites Web du gouvernement du Canada et de tout autre service désigné par le Secrétariat du Conseil du Trésor du Canada conformément à la Directive sur le gouvernement ouvert.

  • 6.2

    Transparence

    Parvenir un avis avant les décisions

    • 6.2.1

      Publier, par l’entremise de tous les modes de prestation de services utilisés, des avis sur le fait que la décision rendue sera formulée totalement ou en partie par un système décisionnel automatisé, conformément à l’annexe C.

    • 6.2.2

      Fournir des avis en langage simple et affichés de façon évidente, conformément au Guide de rédaction du contenu du site canada.ca.

    Parvenir des explications après les décisions

    • 6.2.3

      Fournir une explication significative aux personnes concernées sur la façon dont la décision a été prise et la raison pour laquelle elle a été prise, conformément à ce qui est prévu à l’annexe C.

    Accès aux composants

    • 6.2.4

      Déterminer la licence appropriée pour les composants logiciels conformément aux exigences précisées à la section A.2.3.8 de la Directive sur les services et le numérique.

    • 6.2.5

      Si l’on utilise une licence propriétaire, veiller à ce que :

      • 6.2.5.1

        toutes les versions publiées des composants logiciels propriétaires utilisés pour les systèmes de décision automatisés sont livrées et protégées par le ministère;

      • 6.2.5.2

        le gouvernement du Canada détienne le droit d’accéder au système décisionnel automatisé et d’effectuer des essais sur celui-ci, y compris toutes les versions publiées des composants exclusifs, si de telles actions sont nécessaires pour réaliser un audit, une enquête, une inspection, un examen, une mesure d’exécution ou une procédure judiciaire, sous réserve de garanties contre une divulgation non autorisée;

      • 6.2.5.3

        dans le cadre de son accès au système, le gouvernement du Canada se réserve le droit d’autoriser des tiers à examiner et à vérifier les composants au nécessaire.

    Publication du code source

    • 6.2.6

      Rendre public tout code source créé sur mesure détenu par le gouvernement du Canada conformément aux exigences précisées à la section A.2.3.8 de la Directive sur les services et le numérique, sauf dans les cas où :

      • 6.2.6.1

        le code source traite des données classifiées SECRET, TRÈS SECRET ou PROTÉGÉ C;

      • 6.2.6.2

        la divulgation serait exemptée ou exclue en vertu d’une autre clause de la Loi sur l’accès à l’information, si la Loi sur l’accès à l’information venait à s’appliquer;

      • 6.2.6.3

        une exemption est fournie par le dirigeant principal de l’information du Canada.

    • 6.2.7

      Déterminer les restrictions d’accès appropriées qui s’appliquent au code source rendu public.

    Documenter les décisions

    • 6.2.8

      Documenter les décisions des systèmes décisionnels automatisés conformément à la Directive sur les services et le numérique, et à l’appui des exigences en matière de surveillance (6.3.2) et d’établissement de rapports (6.5.1).

  • 6.3

    Assurance de la qualité

    Évaluer et surveiller les résultats

    • 6.3.1

      Avant d’amorcer la production, élaborer les processus d’évaluation des données et de l’information utilisés dans les systèmes de prise de décisions automatisée visant à s’assurer de l’absence de biais imprévus dans les données et d’autres facteurs qui pourraient influencer injustement les résultats.

    • 6.3.2

      Élaborer des processus de surveillance des résultats des systèmes décisionnels automatisés afin d’éviter les résultats imprévus et de vérifier régulièrement la conformité aux dispositions législatives institutionnelles et relatives aux programmes, ainsi qu’à la présente Directive.

    Qualité des données

    • 6.3.3

      Confirmer que toutes les données recueillies pour le système décisionnel automatisé et utilisées par celui-ci sont pertinentes, exactes, à jour, et conformes à la Politique sur les services et le numérique et à la Loi sur la protection des renseignements personnels.

    Examen par les pairs

    • 6.3.4

      Consulter l’expert qualifié approprié pour demander une évaluation du système décisionnel automatisé, conformément à ce qui est prévu à l’annexe C.

    Formation des employés

    • 6.3.5

      Fournir aux employés la formation appropriée concernant la conception, la fonction et la mise en œuvre du système décisionnel automatisé afin d’être en mesure d’examiner, d’expliquer et de surveiller le fonctionnement du système, conformément à ce qui est prévu à l’annexe C.

    Éventualités

    • 6.3.6

      Mettre en place des systèmes et/ou des processus d’urgence conformément à ce qui est prévu à l’annexe C.

    Sécurité

    • 6.3.7

      Mener des évaluations des risques durant le cycle de développement du système et mettre sur pied les mesures de protection appropriées à appliquer, conformément à la Politique sur la sécurité du gouvernement.

    Services juridiques

    • 6.3.8

      Consulter l’unité des services juridiques de l’institution, dès la phase de conception d’un projet, afin de veiller à ce que l’utilisation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.

    Assurer une intervention humaine

    • 6.3.9

      Veiller à ce que le système décisionnel automatisé permette une intervention par un humain au nécessaire, conformément à l’annexe C.

    • 6.3.10

      Obtenir le niveau d’approbation approprié avant de produire un système décisionnel automatisé, conformément à l’annexe C.

  • 6.4

    Recours

    • 6.4.1

      Offrir aux clients toute possibilité à leur disposition en matière de recours applicable afin de contester la prise de décision administrative automatisée.

  • 6.5

    Établissement de rapports

    • 6.5.1

      Publier les renseignements sur l’efficacité et l’efficience des systèmes décisionnels automatisés en matière de réalisation des objectifs du programme sur un site Web ou service désigné par le Conseil du Trésor du Canada.

7. Conséquences

  • 7.1

    Les conséquences d’une non-conformité à la présente Directive peuvent comprendre toute mesure prescrite en vertu de la Loi sur la gestion des finances publiques que le Conseil du Trésor pourrait déterminer comme étant appropriée et acceptable, selon les circonstances.

  • 7.2

    Pour obtenir un aperçu des conséquences de la non-conformité, veuillez consulter l’annexe C : Conséquences pour les institutions et l’annexe D : Conséquences pour les personnes du Cadre stratégique sur la gestion de la conformité.

8. Rôles et responsabilités du Secrétariat du Conseil du Trésor du Canada

Sous réserve des délégations nécessaires, le dirigeant principal de l’information du Canada est responsable de ce qui suit :

  • 8.1

    fournir une orientation pangouvernementale sur l’utilisation de systèmes décisionnels automatisés;

  • 8.2

    accorder des exceptions aux présentes dispositions, en consultant le Comité d’examen de l’architecture intégrée avant de prendre une décision;

  • 8.3

    élaborer et tenir à jour l’évaluation de l’incidence algorithmique et tout document connexe;

  • 8.4

    mener des activités de communication et de mobilisation dans l’ensemble du gouvernement et auprès des partenaires dans d’autres administrations et secteurs afin d’élaborer des stratégies, des approches et des processus communs et d’appuyer l’utilisation responsable de systèmes décisionnels automatisés.

9. Application

  • 9.1

    La présente Directive s’applique à toutes les institutions figurant dans la Politique sur les services et le numérique, sauf en cas d’exclusion par des lois, des règlements ou des décrets précis.

    • 9.1.1

      Les agents du Parlement sont soustraits de l’application de la présente Directive, y compris :

      • le Bureau du vérificateur général;
      • le Bureau du directeur général des élections;
      • le Commissariat au lobbying du Canada;
      • le Bureau du commissariat aux langues officielles;
      • le Bureau du commissariat à l’information du Canada;
      • le Bureau du commissariat à la protection de la vie privée du Canada;
      • le Commissariat à l’intégrité du secteur public du Canada.
  • 9.2

    Les organismes, les sociétés d’État ou les agents du Parlement peuvent conclure des ententes précises avec le SCT en vue d’adopter des exigences de la présente Directive et de les appliquer à leur organisation, au besoin.

10. Renvois

11. Demandes d’information

  • 11.1

    Afin d’interpréter tout aspect de la présente Directive, veuillez présenter une demande de renseignements auprès du Secrétariat du Conseil du Trésor du Canada.

  • 11.2

    Les personnes qui proviennent d’institutions fédérales peuvent communiquer avec ai-ia@tbs-sct.gc.ca pour toute question concernant la présente Directive, y compris l’évaluation de l’incidence algorithmique.


Annexe A – Définitions

Décision administrative
Toute décision qui est prise par un agent autorisé d’une institution (tel qu’indiqué à l’article 9 de la présente Directive) en vertu de pouvoirs conférés par une loi du Parlement ou de la prise d’un décret en vertu de la prérogative de la Couronne qui touche les droits juridiques, les privilèges ou les intérêts d’une personne.
Évaluation de l’incidence algorithmique
Un cadre aidant les institutions à mieux comprendre et atténuer les risques associés aux systèmes décisionnels automatisés et fournissant les exigences appropriées en matière de gouvernance, de surveillance, d’établissement de rapports et d’audit qui correspondent le mieux au type d’application conçu.
Intelligence artificielle
Toute technologie de l’information qui exécute des tâches pour lesquelles il faut habituellement faire appel à l’intelligence biologique, comme comprendre le langage parlé, apprendre des comportements ou résoudre des problèmes.
Système décisionnel automatisé
Comprend toute technologie qui soit informe ou remplace le jugement des décideurs humains. Ces systèmes proviennent de domaines tels que les statistiques, la linguistique et les sciences informatiques, et utilisent des techniques telles que les systèmes basés sur des règles, la régression, l’analytique prédictive, l’apprentissage automatique, l’apprentissage en profondeur et les réseaux neuronaux.
Équité procédurale
L’équité procédurale est un principe directeur de la prise de décisions au niveau gouvernemental et quasi judiciaire. Le niveau d’équité procédurale exigée par la loi lors d’un processus donné de prise de décisions augmente ou diminue en fonction de l’importance de la décision en question et de son effet sur les droits et les intérêts.
Code source
Un programme informatique dans sa langue de programmation originale, lisible par l’humain, avant d’être traduit en code objet, habituellement par un compilateur ou un interprète. Il est formé d’algorithmes et d’instructions informatiques et peut inclure des commentaires de la part du développeur.
Milieu de mise à l’essai
Un milieu contenant du matériel, des instruments, des simulateurs, des outils logiciels et d’autres articles de soutien nécessaires pour mener un essai.

Annexe B – Niveaux de l’évaluation de l’incidence

NiveauDescription
I

La décision aura probablement peu ou pas d’effet sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau I mèneront souvent à des effets réversibles et brefs.

II

La décision aura vraisemblablement une incidence modérée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau II mèneront souvent à des effets susceptibles d’être réversibles et à court terme.

III

La décision aura vraisemblablement une incidence élevée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau III mèneront souvent à des effets qui peuvent être difficiles à annuler et continus.

IV

La décision aura vraisemblablement une incidence très élevée sur :

  • les droits des personnes ou des collectivités;
  • la santé ou le bien-être des individus ou des collectivités;
  • les intérêts économiques des individus, des entités ou des collectivités;
  • la durabilité continue d’un écosystème.

Les décisions de niveau IV mèneront souvent à des effets irréversibles et permanents.

Annexe C – Exigences par niveau d’incidence

ExigenceNiveau INiveau IINiveau IIINiveau IV
Examen par les pairs

Aucune

Au moins l’une des suivantes :

Expert qualifié d’une institution gouvernementale fédérale, provinciale, territoriale ou municipale.

Membres qualifiés d’une faculté d’un établissement postsecondaire.

Chercheurs qualifiés d’une organisation non gouvernementale pertinente.

Tiers fournisseur à forfait avec une spécialisation connexe.

Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture.

Un comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor.

Au moins deux des suivantes :

Experts qualifiés du Conseil national de recherches du Canada, de Statistique Canada ou du Centre pour la sécurité des télécommunications.

Membres qualifiés d’une faculté d’un établissement postsecondaire.

Chercheurs qualifiés d’une organisation non gouvernementale pertinente.

Tiers fournisseur à forfait avec une spécialisation connexe.

Un Comité consultatif des données spécifié par le Secrétariat du Conseil du Trésor

OU:

Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture.

Avis

Aucune

Avis en langage simple publié par l’entremise de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone).

Un avis en langage simple publié par l’entremise de tous les modes de prestation de services utilisés (Internet, en personne, par courrier, par téléphone). De plus, publier de la documentation sur les sites Web pertinents au sujet du système décisionnel automatisé, en langage simple, décrivant :

  • le fonctionnement des composants;
  • la façon dont il appuie la décision administrative;
  • les résultats de tout examen ou audit; et
  • Une description des données de formation ou un lien vers les données de formation anonymisées si ces données sont accessibles au public.
Maillon humain de la prise de décisions

Des décisions peuvent être prises sans participation humaine directe.

Des décisions ne peuvent être prises sans qu’il y ait des points d’intervention humaine précis pendant le processus décisionnel.

La décision définitive doit être prise par un humain.

Exigences en matière d’explication

En plus de toute exigence juridique applicable, s’assurer qu’une explication statique des résultats communs des décisions soit fournie. Cela peut inclure une explication dans la section de la Foire aux questions d’un site Web.

En plus de toute exigence juridique applicable, s’assurer qu’une explication significative est fournie avec toute décision qui a conduit à un refus de prestation, de service ou autre mesure réglementaire.

Formation

Aucune

Documents sur la conception et la fonctionnalité du système.

Documents sur la conception et la fonctionnalité du système.

Il faut suivre des cours de formation.

Documents sur la conception et la fonctionnalité du système.

Cours de formation récurrents.

Un moyen de vérifier que la formation a été suivie.

Planification des mesures d’urgence

Aucune

Veiller à ce que des plans d’urgence et/ou des systèmes de secours soient disponibles dans l’éventualité où le système décisionnel automatisé ne soit pas disponible.

Approbation de l’exploitation du système

Aucune

Aucune

Administrateur général

Conseil du Trésor

© Sa Majesté la Reine du chef du Canada, représentée par le président du Conseil du Trésor, 2019,
ISBN: