Nancy Laramée, directrice des partenariats, IVADO Alain Aubertin, président-directeur général, CRIAQ

Avec Stan Matwin, professeur à l'Université Dalhousie, directeur du Big Data Analytics Lab et titulaire de la Chaire de recherche du Canada sur l'analyse visuelle de textes À PROPOS DE LA CONFÉRENCE / In this presentation we will first look at some of the issues related to data privacy in the context of ubiquitous collection of data about human and vehicular (and also animal) mobility. Keeping in mind that such data is also raw material for very important and needed applications, we will visit some examples such applications and the ensuing data access, privacy and ethical challenges. We will discuss certain minimal requirements needed for personal data protection in these applications. We will also consider some of the big challenges before modern AI and the recent proposal by Stuart Russell who formulated three desiderata for ethical and safe AI of the future. À PROPOS DU CONFÉRENCIER / Stan Matwin is the Director of the Institute for Big Data Analytics at Dalhousie University, Halifax, Nova Scotia, Canada where he is a Professor and Canada Research Chair in Interpretability for Machine Learning. He is also a Distinguished Professor Emeritus of the University of Ottawa and a Professor at the Institute of Computer Science of the Polish Academy of Sciences. His main research interest is machine learning, particularly applied to data derived from the world’s oceans, text mining, applications of machine learning, and in data privacy. Stan Matwin is a EurAI Fellow, Fellow of the Canadian AI Association and a recipient of its Lifetime Achievement Award.

avec Sébastien Gambs, professeur au département d’informatique de l’UQAM et titulaire de la Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives. À PROPOS DE LA CONFÉRENCE / Dans notre Société de l’Information, le profilage des utilisateurs à des fins de personnalisation et de recommandation est devenu la norme, ce qui a permis le développement de services qui sont ciblés sur les besoins spécifiques des individus, mais soulèvent aussi d’importantesquestions éthiques et en termes de protection de la vie privée. En particulier, l’absence de transparence sur le processus de profilage et de personnalisation a conduit à une perte de contrôle des individus sur la collecte et l’usage qui est fait de leurs données personnelles tout en rendant impossible la possibilité pour un individu de questionner la décision prise par l’algorithme et de le rendre « imputable » par rapport à cette décision. De plus, la transparence est un prérequis afin de pouvoir analyser les biais possibles que les algorithmes de personnalisation pourraient avoir (par exemple en discriminant contre un groupe particulier de la population) dans le but de pouvoir ensuite les corriger. Dans cette présentation, je passerai en revue les principaux défis en termes de problématiques éthiques et de respect de la vie privée qui sont apparus récemment avant de présenter les principales approches qui ont été proposées pour répondre à ces défis. Enfin, je conclurai en soulignant quelques questions ouvertes. À PROPOS DU CONFÉRENCIER / Sébastien Gambs est titulaire de la Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives depuis décembre 2017 et professeur au département d’informatique de l’Université du Québec à Montréal depuis janvier 2016. Sa thématique de recherche principale porte sur la protection de la vie privée dans le monde numérique. Il est aussi intéressé à résoudre des questions scientifiques à long terme telles que les tensions existantes entre l’analyse des données massives et le respect de la vie privée ainsi que les problématiques éthiques telles que l’équité, la transparence et l’imputabilité algorithmique soulevées par les systèmes personnalisés.

Avec Ulrich Aïvodji est professeur en informatique à l'ÉTS Montréal À PROPOS DE LA CONFÉRENCE / Post-hoc explanation is the problem of explaining how a machine learning model -- whose internal logic is hidden to the end-user and generally complex -- produces its outcomes. Current approaches for solving this problem include model explanations and outcome explanations. While these techniques can be beneficial by providing interpretability, there are two fundamental threats to their deployment in real-world applications: the risk of explanation manipulation that targets the trustworthiness of post-hoc explanation techniques and the risk of model extraction that jeopardizes their privacy guarantees. In this talk, we will discuss common explanation manipulation and privacy vulnerabilities in state-of-the-art post-hoc explanation techniques as well as existing lines of research that try to make these techniques more reliable. À PROPOS DU CONFÉRENCIER / lrich Aïvodji is an Assistant Professor of Computer Science at ÉTS Montréal in the Software and Information Technology Engineering Department. His research areas of interest are computer security, data privacy, optimization, and machine learning. His current research focuses on several aspects of trustworthy machine learning, such as fairness, privacy-preserving machine learning, and explainability. Before his current position, he was a postdoctoral researcher at UQAM, working with Sébastien Gambs on machine learning ethics and privacy. He earned his Ph.D. in Computer Science at Université Toulouse III, under the supervision of Marie-José Huguet and Marc-Olivier Killijian.

Avec Jessica Leblanc, avocate et chargée de projet pour Territoires innovants en économie sociale et solidaire (TIESS) À PROPOS DE LA CONFÉRENCE / Cette présentation vise à rendre compte du potentiel et des défis posés par la mise en place d’une fiducie d’utilité sociale comme mécanisme de gouvernance afin de partager ou de mutualiser des données. La fiducie d’utilité sociale est un outil juridique qui permet notamment d’inscrire une finalité d’intérêt général au cœur des mécanismes de gouvernance des données et au centre de toute action ou de prise de décision concernant les données, ce qui explique son attrait pour mettre en œuvre des projets de partage ou de mutualisation de données entre de nombreuses parties prenantes. Or, cette utilisation innovante de la fiducie d’utilité sociale n’est pas sans défis. S’appuyant sur deux projets pilotes visant le partage et la mutualisation de données culturelles et de mobilité, cette présentation abordera dans un premier temps les concepts clés de la fiducie d’utilité sociale et, dans un deuxième temps, les enjeux spécifiques de la gouvernance de données liés à l’utilisation de cet outil, à la multiplicité des parties prenantes et aux rôles de ces parties prenantes. À PROPOS DE LA CONFÉRENCIÈRE / Jessica Leblanc est membre du Barreau du Québec et titulaire d’une maitrise en droit des biens et de la propriété. Elle s’intéresse avant tout à la mise en œuvre de projets collectifs à travers des outils juridiques de droit privé et aux transformations de la propriété sous l’effet des contraintes sociales et environnementales. Depuis l’automne 2020, elle travaille comme chargée de projet pour Territoires innovants en économie sociale et solidaire (TIESS) afin d’étudier la création de fiducies d’utilité sociale appliquées au domaine immatériel des données numériques. Elle est activement impliquée dans la mise en œuvre de deux projets pilotes visant à tester cette innovation sociale et en comprendre les rouages.

Discussion entre Naomi Ayotte, avocate, Commission d'accès à l'information (CAI) du Québec et Tara D'Aigle-Curley, avocate, ROBIC. Modération : Sébastien Gambs, professeur au Département d'informatique, UQÀM

Christian Gagné, directeur de l'Institut intelligence et données (IID) de l'Université Laval.