L'intelligence artificielle fait beaucoup parler d'elle et à juste raison d'ailleurs. La technologie est puissante, mais elle est basée sur l'apprentissage. Or il s'avère que cet apprentissage est loin d'être neutre… Dès lors, l'IA ne l'est pas plus et peut être targuée d'être raciste ou sexiste ou etc…

Un exemple criant, mais qui m'était apparu comme presque caricatural de ces problèmes, était l'apprentissage du jeu de Go à une IA. Dans le premier cas, on donnait à l'IA les règles du jeu et on lui montrait quelques milliers de parties humaines. Dans le second cas, on se contentait de lui donner les règles et on la faisait jouer des milliers de parties contre elle-même. Après ces deux types d'apprentissages, on faisait jouer les IA contre des maîtres de Go. Bilan, la première gagnait, mais comme le ferait un excellent maître de Go, la seconde en revanche "laminait" littéralement ses adversaires humains ! Bilan, l'IA était plus intelligente pour jouer au Go quand elle n'avait pas de biais humain…

À méditer !