Équipe Réseaux, Savoirs & Territoires

ENS

logo AI

Actus | Articles et textes de référence | Cours et séminaires | L'équipe | Le RAIL | Outils | Art, débats et expériences | Diapos | Archives

Résumé de la conférence du 22 mars 2018

Philosophie de l'intelligence artificielle et du big data

Maël Pegny (CNRS-IHPST-Université de Paris-1)
et
Armen Khatchatourov (Télécom Ecole de Management, Chaire Valeurs et Politiques des Informations Personnelles).


Maël Pegny: Quelle transparence pour les algorithmes d'apprentissage machine?

La notion de «transparence des algorithmes», a récemment pris une grande importance à la fois dans le débat public et dans le débat interne à la communauté informaticienne. Partant de la prolifération des emplois du terme de «transparence», nous distinguons deux familles d'usages fondamentaux du concept: une famille descriptive portant sur des propriétés épistémiques intrinsèques des programmes, au premier rang desquels l'intelligibilité et l'explicabilité, et une famille prescriptive portant sur des propriétés normatives de leurs usages, au premier rang desquels la loyauté et l'équité.

Parce qu'il faut comprendre un algorithme pour l'expliquer et en réaliser l'audit, l'intelligibilité est logiquement première dans l'étude philosophique de la transparence. Afin de mieux cerner les enjeux de l'intelligibilité dans l'emploi public des algorithmes, nous introduisons dans un deuxième temps une distinction entre intelligibilité de la procédure et intelligibilité des sorties. Nous appelons aussi de nos voeux la formation d'un comité dédié aux enjeux d'intelligibilité de l'apprentissage machine pour la rédaction des codes de conduite de l'industrie, qui sont encouragés par le règlement général sur la protection des données (RGPD). Dans un dernier temps, nous appliquons cette distinction au cas particulier de l'apprentissage machine.

Armen Khatchatourov: «Datafication» et pouvoir

Au sein des Big Data, nous distinguons deux tendances qui permettent de décrire les nouveaux «diagrammes» du pouvoir, les modes de gouvernementalité qui leur correspondent, ainsi que leurs relations complexes avec les savoirs. Cette analyse, convoquant le paradigme cybernétique, nous amène à formuler cette hypothèse: il en va désormais non pas simplement d'une nouvelle forme historique de la relation entre les savoirs et le pouvoir mais de l'auto-actualisation indéfinie de ce dernier.


Page créée le 15 mars 2018, modifiée le 15 mars 2018