Comment l’I.A. efface les femmes d’internet… et pas que !

Un nouveau NSF (Nath-Sakura Flash) très important car il met le doigt sur les fameux « biais cognitifs » qui affectent les individus d’une population.

L’IA (dans sa version actuelle correspondant à une IA faible) peut être définie de manière simple : l’IA repose « juste » sur des analyses statistiques appliquées sur des données massives. Ces modèles mathématiques (statistiques donc) sont connus depuis très longtemps. L’IA est récente, elle, juste parce qu’il est possible à présent et grâce aux progrès de l’électronique (en termes de capacités mémoire, de rapidité processeur et de traitement de signal) d’appliquer des algorithmes basés sur ces modèles sur des données massives et ce, très rapidement. Les données massives sont, par exemple, une banque d’images ou encore des documents audio.

Les ingénieurs ne sont pas directement responsables de l’introduction dans « la machine » de biais cognitifs. En effet, il faut au préalable « entraîner la machine » en lui disant que tel type d’image est à connotation sexuelle (par exemple) ou pas…

Au départ, la machine ne sait rien. Ce sont les esclaves des temps modernes, les petites mains de l’Internet, les « techno-prolos », terme introduit par Yanis Varoufakis dans son dernier ouvrage « Les nouveaux serfs de l’économie« , payés de manière scandaleuse au nombre de clics de souris qui vont décider qu’une image est connotée ou pas… Et ce sont ces petites mains, innocentes car inconscientes des biais cognitifs qui les habitent qui vont intégrer leurs propres biais dans la machine qui, elle, ne fera que les analyser statistiquement.

Pour bien comprendre ça (et en complément de la vidéo de Nath-Sakura), il faut aller jouer (car au départ cela se veut pédagogique, ludique et absolument gratuit) avec la « moral machine » du fameux MIT (Massachusetts Institut of Technology) et on pourra s’amuser à programmer une voiture autonome à travers l’analyse de scénarios du type :

Ce magnifique outil conçu par le MIT permet à tout un chacun de comprendre ce qu’est un biais cognitif et comment un biais peut être embarqué dans les règles du moteur d’inférence des systèmes experts !