De l’intelligence (très) artificielle

Vous pouvez lire gratuitement cette archive du Ravi. Mais l’avenir du mensuel régional pas pareil, qui existe car ses lecteurs financent son indépendance, est entre vos mains. Participez à notre Couscous Bang Bang : abonnez-vous, abonnez vos amis, vos ennemis, faites un don…

Le matin, on discutait de la conversion numérique du Ravi. Et nous voilà sur les bancs de l’EMD, école de commerce marseillaise (Cf encadré), pour une conférence intitulée « Vers une intelligence artificielle bienveillante ? » organisée par le Lica, le « labo » de « 6 entrepreneurs » voulant conjuguer « intelligence collective et artificielle ».

Mais, vu leur jargon, c’est à se demander si c’est un pléonasme ou antinomique : « Le Lica est un do-tank expérimentant une nouvelle sociocratie pour rassembler une communauté destinée à déployer des projets concrets à impact positif [et] rendre nos sociétés agissantes en conscience pour inventer des futurs souhaitables. » Ajoutez la musique d’ascenseur (un algorithme qui a avalé tous les Beatles pour en faire de la soupe), une méthode de discussion ayant fait des ravages au Ravi et, avant toute discussion, une « séance de méditation ».

Bonheur, souffrance et algorithmes

Il faut de la bravoure pour parler d’intelligence artificielle « bienveillante » au lendemain de la sortie de la suite de Blade Runner. D’entrée, le modérateur, Jean-Michel Livowsky, nous met dans le bain avec quelques anecdotes. Comme cette « chatbox, un logiciel de conversation sur un forum qu’il a fallu déconnecter car, en quelques jours, il était devenu raciste, homophobe ». Ou ces deux « intelligences artificielles que l’on a fait dialoguer et qui, au bout de 6 semaines, ont créé leur propre langage et un système de cryptage rendant leurs échanges incompréhensibles ». Et d’enfoncer le clou avec la protection des données : « A son dentiste, on peut avouer prendre des antidépresseurs. Mais imaginez si cette info fuite. Auprès de votre banquier. Ou d’un futur employeur. Sachez que le profil de chacun vaut 75 euros. »

Pas de quoi faciliter la tâche d’Aïda Raoult, censée exposer les aspects « philosophiques » de la question. Sans conviction, elle lit ses notes sur les questions « éthiques » que posent, en vrac, les « robots tueurs » ou « sexuels » et les « collisions » à venir avec les « véhicules autonomes ». Côté « bienveillance », elle explique qu’on a troqué la théorie de Bentham – « maximiser le bonheur de tous » – pour celle de Popper (« minimiser la souffrance »). En refusant de trancher. A la fin de la journée, interrogée sur sa vision de l’avenir, elle se dira « sereine » : « J’en ai marre des discours alarmistes sur l’IA. Il faut faire confiance. Et miser sur le bon sens. »

La sociologue Laurence Allard n’est guère plus convaincante. Face au développement de l’IA vécue comme une « fatalité » et à la concurrence entre « l’homme et la machine » (au point d’ailleurs qu’un programme, d’après le modérateur, en ingurgitant tout Rembrandt, a « réussi à en peindre un qui n’existe pas mais qui, techniquement, a tout d’un vrai »), elle préfère voir qu’il y a du « hack, du détournement ». Et même de « l’hybridation, du compagnonnage ».

Paradoxalement, c’est un « technicien », l’informaticien Benoît Favre, qui souligne l’importance des questions « éthiques. Désormais, on nous vend de l’intelligence artificielle dans une boîte qui fait aussi téléphone. Mais l’homme est-il encore maître de ces algorithmes ? Et quelles sont les conséquences. Quand un téléphone peut traduire en temps réel, quid du job des traducteurs ? »

Des questions cruciales pour l’avocat Rubin Sfadj. Pas seulement parce que son « taux horaire est de 350 euros » : « Quand on parle éthique, on parle du bien, du mal. De règles. Donc de droit. » D’autant que l’IA joue déjà les auxiliaires de justice : « Aux États-Unis, a été mis en place un dispositif pour évaluer le risque de récidive des justiciables afin d’éviter au juge de prononcer des peine trop lourdes. Sauf que l’algorithme était "raciste". A profil identique, il estimait que les noirs ou les latinos risquaient d’être plus récidivistes que les blancs. » D’où, pour lui, l’impérieuse nécessité de penser l’éthique de tout dispositif d’intelligence artificielle « dès la conception » en listant des « grands principes » : « la transparence (quelles données collectées et pourquoi ?), la responsabilité (qui est l’auteur de l’algorithme ?), la mise en place d’un médiateur… et d’un suivi ».

6 chapeaux et Superman

De quoi nourrir les débats. En « twittant » comme nous y encouragent les organisateurs. Et en appliquant la méthode des « 6 chapeaux de Del Bono » où à chaque couleur correspond un état d’esprit. On commence par le plus négatif, le « chapeau noir ». Un étudiant en neurosciences rêve de rendre l’usage d’un membre à un handicapé ou à une victime d’accident grâce à un implant neuronal ? On lui parle des risques de créer des « super-soldats » ! Autour de nous, ça phosphore, d’aucuns se demandant si on n’est pas déjà dans « la matrice ». Ou notant que les « politiciens utilisent de plus en plus d’algorithmes ». Et, à ceux qui rêvent de se passer d’eux, Laurence Allard embraye : « Ce serait peut-être un peu moins le bordel ! »

Les masques tombent. Si l’avocat rappelle que « l’éthique, c’est se donner le temps de la réflexion quand on sait qu’on peut aller plus loin », la « philosophe » et la « sociologue » estiment que c’est une approche trop « individuelle ». Voire un « faux problème » ! De quoi faire bondir le modérateur : « La commission informatiques et libertés vient de demander au gouvernement d’en finir avec le logiciel d’admission post-bac qui laisse chaque année des milliers d’étudiants sur le carreau. Parce qu’on ne peut laisser le hasard décider de l’avenir d’une personne. »

Nouveau chapeau – le rouge, celui des « émotions » – et nouveau compagnon de réflexion : un banquier, que son fiston d’étudiant a invité. Face à ses craintes quant à une « utilisation détournée ou malveillantes » de l’IA, on lui demande s’il y a de tels outils dans une banque. Il nous avoue que depuis « plus de 20 ans » sont utilisés des outils de profilage « pour accorder un crédit ». Et tandis qu’à la tribune, ça se dit, face à l’IA, « anxieux », « serein » ou « ambivalent », il nous rassure : « Mais c’est toujours l’humain qui a le dernier mot. »

On peut passer au jaune de l’optimisme et au vert de la créativité tandis qu’un gamin joue les techniciens et les candides : « Moi j’aime bien l’IA. Mais j’espère qu’elle va pas devenir dangereuse et se retourner contre nous. » Il imagine une « IA qu’on arriverait à contrôler et qui, comme un super-héros, nous protégerait. Comme Superman. Mais sympa ». Stupeur de notre banquier : « Mais Superman, il est gentil, non ?! » Lui rêve de prouesses médicales ou de la fin des « tâches pénibles » tandis que d’autres voudraient carrément « tout automatiser pour faire disparaître le travail ». Et un petit malin d’imaginer une « IA qui, comme son créateur, finirait par s’autodétruire ».

Comme pour se venger, le micro fait des siennes en refusant d’enregistrer les dernières saillies des « spécialistes ». C’est l’heure de la conclusion. On s’éclipse. Après être passé devant une affiche du nouveau Blade Runner, nous voilà dans le métro avec la cohorte de zombies adeptes du smartphone : retour à la vraie vie…

Sébastien Boistel

Reportage publié dans le Ravi n°156, daté novembre 2017

In god we trust

Une école de management à côté d’une bourse du travail : Marseille, terre de contrastes… Dans le hall d’accueil de cet établissement privé jouxtant la gare St-Charles : un piano, une dame donnant des cours de tricot et un homme d’église ! A côté des ascenseurs, une chapelle. A l’entrée, un ouvrage intitulé Au pas de dieu consacré au « fondateur de l’Opus Dei ». Certes, comme l’avait noté Marsactu, l’école – qui clame « nos valeurs nous rendent différents » – ne nie pas ses liens avec l’officine catholique intégriste. Comme l’association d’animation Castelvieil ne cache, elle, ni ses liens avec l’Opus Dei ni ses « contacts avec les établissements d’enseignement supérieur (EMD, Kedge Business School, Centrale… ) » En 2016, le PS avait boycotté la réunion du conseil de territoire convoquée dans une « école de commerce sous le contrôle de l’Opus Dei ». Peu auparavant, l’établissement avait accueilli une conférence des « Antigones », un groupuscule pseudo-féministe lié à l’Action française et à Egalité & Réconciliation. Alors pourquoi le Lica a-t-il jeté son dévolu sur cette école ? Réponse : « On cherchait un lieu avec une certaine capacité d’accueil. » En tête, le slogan de l’EMD : « Manager, c’est servir ». Oui, mais qui ?

S. B.