L’IA PEUT-ELLE MENACER L’INTÉGRITÉ DE LA JUSTICE ?

(07/12/2022)


Benoît Dupont est professeur titulaire à l’École de criminologie de l’Université de Montréal et Directeur scientifique du Réseau intégré sur la cybersécurité (SERENE-RISC), qu’il a fondé en 2014. Il est titulaire de la Chaire de recherche du Canada en Cybersécurité, ainsi que de la Chaire de recherche en Prévention de la cybercriminalité. Il siège comme observateur représentant le monde de la recherche sur le conseil d’administration du Canadian Cyber Threat Exchange (CCTX) et sur le Conseil des chercheurs de la Nouvelle organisation d’infrastructure de recherche numérique (NOIRN). Il fait partie de la cohorte inaugurale du Collège des nouveaux chercheurs et créateurs en arts et en sciences de la Société royale du Canada. Ses projets de recherche actuels portent sur la cyber-résilience, la coévolution de la délinquance et de la technologie dans une perspective écologique, l’organisation sociale des communautés de pirates informatique malveillants, ainsi que sur les stratégies d’intervention auprès des victimes de cyber-fraudes.

Conférence : L’IA peut-elle menacer l’intégrité de la justice ?
Vendredi 6 mai 2022, 11h30 - 12h15 — Amphi mauve

Alors que les applications de l’IA se multiplient dans le système de justice et parmi ses divers acteurs, des tribunaux aux cabinets d’avocats, les enjeux de sécurité associés à ces usages sont fréquemment occultés par les questions portant sur leurs biais. Pourtant, les menaces de sécurité qui pèsent sur les outils d’IA appliqués à la justice constituent aussi une source importante de vulnérabilités susceptible d’éroder la confiance du public. Après avoir examiné les divers cyber-risques qui pèsent sur les acteurs du système de justice, nous passerons en revue les risques spécifiques à l’IA. Nous pouvons distinguer trois grandes catégories de risques : les risques accidentels qui découlent de la fragilité des algorithmes, les risques qui ciblent les algorithmes à travers des attaques par empoisonnement, évasion ou inférence et enfin les risques dans lesquels les algorithmes sont utilisés afin de falsifier des éléments de preuve. Nous conclurons en essayant de proposer une feuille de route des connaissances et des mesures pratiques qui seront requises afin de protéger l’intégrité du système de justice face à cette nouvelle géographie des risques.


Partager cette vidéo :

Revenir à la liste de vidéos