Au cœur des algorithmes. Démarche scientifique de l’automatisation, enjeux éthiques, juridiques et sociétaux
L’utilisation, la conception et le développement des algorithmes posent nombre de questions aux chercheurs et aux ingénieurs : comment éviter ou corriger, si cela est possible, les biais informationnels qui sont des sources d'injustice ? Qui, du concepteur, de l’entreprise ou de l’utilisateur, est responsable en cas d’accident ou d’externalité négative ? Comment interpréter scientifiquement les corrélations liées au croisement entre des bases de données massives ? Comment assurer l’anonymat ? Faut-il tenter de coder des règles déontologiques dans le fonctionnement des machines autonomes ? Ce ne sont là que quelques enjeux éthiques, juridiques ou scientifiques qui sont soulevés au quotidien.
Pour les aborder de manière éclairée, il convient de redéfinir, à la lumière de ces technologies et de ces usages, les grands concepts qui animent la réflexion éthique : « consentement », « responsabilité », « autonomie», « accompagnement », « bienfaisance », ou encore « justice ». Mais, au-delà, nous ne pourrons pas faire l’économie d’une réflexion poussée sur la pratique de l’éthique dans les équipes de recherche, dans les laboratoires et dans les entreprises. Devons-nous promouvoir une éthique by design qui propose des règles de conceptions vertueuses ? Ou plutôt pencher pour la création de comités d’éthique qui permettent de discuter les questions de manière collective ? Devons-nous fixer des principes intangibles à respecter, ou bien privilégier une logique utilitariste ? A côté de la loi, du code de déontologie et des chartes d’entreprise, quelle place pour l’éthique ?
Ce colloque interdisciplinaire d’éthique POLÉTHIS entend initier une réflexion nécessaire sur l’éthique des algorithmes en invitant des scientifiques de différentes disciplines et des ingénieurs à croiser leurs regards dans une approche transdisciplinaire.
Programme
8h30 : Ouverture
Nadia Abchiche-Mimouni
Maîtresse de conférences en informatique (intelligence artificielle distribuée), Univ. Évry, Université Paris-Saclay
Au cœur du traitement de l’information, l’éthique
Claude Kirchner
Directeur de recherche émérite INRIA, directeur du Comité national pilote d’éthique du numérique, membre du CCNE
9h10 : Conférence introductive
Gilles Dowek
Professeur à l’École normale supérieure Paris-Saclay, chercheur à l’Inria, membre du Comité national pilote d’éthique du numérique
10h : Conférence
- Ce qui résiste aux algorithmes : épistémologie des limites dans le champ de l'IA
Léo Coutellec
Enseignant-chercheur (MCF) en épistémologie et éthique des sciences contemporaines, Université Paris-Sud-Paris-Saclay, membre conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS)
10h40 : Pause café
11h : Table-ronde
Enjeux éthiques et sociétaux, impacts humains
- L’explicabilité de l’IA et la construction des récits
Alexei Grinbaum
Chercheur en physique et en éthique des sciences et des technologies, CEA Saclay-LARSIM, conseil pour l’éthique de la recherche et l’intégrité scientifique, membre du conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS, membre du Comité national pilote d’éthique du numérique
- Principe de garantie humaine de l’IA en santé
David Gruson
Membre de Comité de direction de la Chaire Santé de Sciences Po Paris, professeur associé à la faculté de médecine de l’Université Paris-Descartes, fondateur de l’initiative Ethik IA, membre du Comité national pilote d’éthique du numérique
- IA : une révolution graphique au service de l’homme ?
Joachim-Nicolas Herrera
Doctorant à l’École de Droit, Institut d’études politiques de Paris (Sciences Po)
Jean-Marie John-Mathews
Data scientist, doctorant en éthique algorithmique, Médialab, Institut d’études politiques de Paris (Sciences Po)
Présentation, animation de la table-ronde :
Nadia Abchiche-Mimouni
Maîtresse de conférences en informatique (intelligence artificielle distribuée), Univ. Évry, Université Paris-Saclay
13h : Repas libre
14h30 : Conférence
Pas d’éthique sans interprétabilité des algorithmes ?
Emmanuel-Lin Toulemonde
Data scientist, Octo Technology
15h10 : Table-ronde
- Réflexions, bonnes pratiques,gouvernances,régulations – approches croisées
- Pouvons-nous programmer des agents des agents artificiels éthiques ?
Grégory Bonnet
Maître de conférences HDR en IA, Laboratoire GREYC, Université de Caen Normandie, membre du CA de l’Association française d’intelligence artificielle
- Des principes à la pratique pour une IA de confiance
Raja Chatila
Professeur, Sorbonne Université, Institut des Systèmes Intelligents et de Robotique (ISIR), Paris, membre du Comité national pilote d’éthique du numérique
- Chatbots et robots affectifs : défis éthiques
Laurence Devillers
Professeur en intelligence artificielle, chaire DataIA, Université Paris-Sorbonne, Chercheuse LIMSI-CNRS, Université Paris-Saclay, membre du Comité national pilote d’éthique du numérique, auteure de Des Robots et des hommes (Plon)
Présentation, animation de la table-ronde
Sébastien Claeys
Responsable de la médiation, Espace de réflexion éthique Région Île-de-France, enseignant master éthique, sciences et société, Université Paris-Saclay (POLÉTHIS), auteur de De disruption à prosommateur : 40 mots-clés pour le monde de demain (Le Pommier)
16h45 : Synthèse du colloque
Emmanuel Hirsch
Professeur d’éthique médicale, Université Paris-Saclay, président du conseil pour l’éthique de la recherche et l’intégrité scientifique, Université Paris-Saclay (POLÉTHIS), membre du Comité national pilote d’éthique du numérique