Le 30 mai 2024, Imagine Canada a réuni des expert.e.s pour discuter des aspects liés à l’éthique que les organismes de bienfaisance et les organismes à but non lucratif (OBNL) doivent prendre en compte lorsqu’ils intègrent des technologies d’intelligence artificielle (IA) au sein de leur organisation. Les participant.e.s au panel comprenaient Keith Jansa (Conseil de gouvernance numérique), Roger Ali (secrétaire d'Imagine Canada et président du comité de gouvernance et des ressources humaines), Dan Kershaw (Furniture Bank) et Hilary Duffy (Sage). Meena Das (NamasteData) a modéré la discussion.
De nombreuses organisations du secteur caritatif et à but non lucratif souhaitent adopter des technologies d’IA pour résoudre des problèmes et améliorer leur efficacité et leur productivité.
Dans le contexte de la prolifération rapide des technologies d’IA et de l’annonce d’un investissement de 2,4 milliards de dollars du gouvernement fédéral pour la mise en œuvre de ces technologies au Canada, des expert.e.s du secteur se sont exprimés sur les stratégies qui permettraient aux OBNL d’adopter l’IA en accord avec les valeurs et les missions de l’organisation. Ils ont également présenté les mesures à prendre pour développer une expertise en matière d’éthique et de gouvernance de l’IA.
Keith Jansa, directeur général du Conseil de gouvernance numérique, a lancé les discussions en déclarant que « l’intelligence artificielle peut être utilisée pour améliorer les résultats en matière de prospérité sociale, mais les organisations qui envisagent d’intégrer l’IA dans leurs processus de travail doivent d’abord déterminer leur vision fondamentale et les résultats qu’elles souhaitent atteindre. Et cela doit d’abord passer par leur équipe de direction ». Il a ensuite ajouté que ces principes fondamentaux, une fois établis, peuvent servir à orienter l’élaboration des politiques et des procédures organisationnelles.
Selon Sage Canada, 35 % des OBNL mentionnent que le plus grand obstacle auquel ils font face en interne aujourd’hui est le manque de personnel doté des compétences nécessaires pour gérer la transformation numérique de l’organisation.
En juillet 2022, Furniture Bank a lancé sa campagne de collecte de fonds The picture isn’t real. The reality is (en anglais seulement) qui utilisait l’IA pour créer des photos illustrant la pauvreté mobilière. Pour dissiper les craintes concernant la réussite de la mise en œuvre des technologies d'IA au sein des organisations, Dan Kershaw, directeur général de Furniture Bank, a expliqué comment son organisation utilise ces technologies et quelles lignes directrices elle a adoptées pour encadrer leur utilisation.
Selon M. Kershaw, bien qu’il existe des pratiques exemplaires pour inciter les OBNL à adopter des politiques sur l’utilisation de l’IA au sein de leur organisation, il n’existe en revanche aucun modèle universel convenant à tous. Il encourage donc le personnel à faire preuve de créativité et à apprendre sur le tas. Les principes directeurs de Furniture Banks en matière d’utilisation de l’IA sont la transparence et la responsabilisation. Le personnel ne peut pas recourir à l’IA au travail s’il n’adhère pas à ces valeurs.
M. Jansa a ensuite précisé que les organisations, au moment où leur conseil d’administration envisage le recours à l’IA, doivent s’assurer que leurs politiques de gouvernance de l’IA sont suffisamment souples et adaptables pour suivre les progrès rapides des technologies d’IA, ajoutant qu’elles doivent aussi faire preuve de diligence raisonnable et se tenir au courant des activités d’élaboration de normes qui se déroulent au Canada et ailleurs dans le monde.
Au Canada, ces initiatives comprennent le projet de loi C‑27 du gouvernement fédéral, qui modernisera la Loi sur la protection des renseignements personnels et les documents électroniques et donnera lieu à l’adoption de nouvelles mesures législatives pour régir l’utilisation de l’IA au Canada. Des codes de pratique pour les systèmes d'IA générative sont également prévus. Ils visent à ce que les organisations qui développent, déploient et exploitent ces systèmes évitent les effets néfastes, instaurent la confiance et assurent une transition en douceur vers la conformité au futur régime réglementaire canadien.
Toutefois, en dépit de ces avancées réglementaires, Roger Ali et Keith Jansa ont déclaré que les organisations doivent être proactives concernant le choix des technologies d’IA qu’elles souhaitent intégrer dans leur organisation. En effet, il n’existe pas de norme universelle régissant l’utilisation des technologies d’IA. Dans la mesure du possible, les organisations doivent tenir compte des communautés qui bénéficient de leurs services et des attentes de ces dernières. Meena Das, directrice générale de NamasteData, a souligné l'importance pour les organisations d'évaluer rigoureusement toute technologie d'IA avant sa mise en œuvre. Cette évaluation vise à éviter la reproduction des barrières et inégalités systémiques existantes, car une utilisation non réfléchie de l'IA risquerait de les perpétuer.
En guise de conclusion, M. Jansa a encouragé les organisations à s’unir et à travailler ensemble à l’établissement de normes qui pourraient régir l’ensemble du secteur.
Cette discussion entre expert.e.s fait partie d’une série de panels d’Imagine Canada qui se penche sur le monde de l’IA et sur son incidence sur le secteur à but non lucratif. Au cours des prochains mois, nous continuerons à aborder des sujets liés à l’IA, tels que la cybersécurité, le développement des compétences, la main-d’œuvre, la gestion des données et la protection de la vie privée.
Notre prochain panel est prévu à l’automne. Abonnez-vous au Bulletin d’alerte pour connaître la date exacte.
À titre de rappel, les membres d’Imagine Canada peuvent assister à ces événements gratuitement. Vous souhaitez devenir membre d’Imagine Canada? Écrivez à adhesion@imaginecanada.ca pour en savoir plus.
