La pandémie aurait elle fait dérailler l'intelligence artificielle ... ?

« Face à une masse de comportements irrationnels, les algorithmes ont eux aussi parfois perdu la boule ». Qui parle ? Pas des béotiens de l'IA mais un magazine référent dans l'étude de l'évolution technologique de notre société Korri.Slate, et en s'appuyant sur des acteurs solides de l'IA comme Feature space spécialiste du prédictif dans le domaine de la fraude et des délits financiers, ou phrasee.  Et au vu de ce que l'on est en train de vivre en incertitude et ''à peu près'' à propos de cette épidemie de Coronavirus, on ne peut que les écouter et réfléchir.

A la lecture de cette analyse ( contributeur thomas Burget sur MIT Technology Review)  sur le dérapage de l'IA face à l'imprévisibilité, j'ai juste un sentiment de réassurance face à ce doute que j’ai toujours eu sur l’IA au sens ''prédictif'' et salvateur du monde. Par contre je ne renie pas ses fondements issus de sa puissance de calcul, de données de plus en plus nombreuses, et de plus en plus rapidement ... pourquoi pas. Mais je lui au toujours préfèré la notion d'intelligence collective ''augmentée'' grâce au deep ou au machine learning contrôlés (Deep et Machine ... ? pour la nuance lire ici).

Et surtout je doute toujours sur les superlatifs que l'on utilise toujours pour vanter ses bienfaits,  en particulier Elon Musk (cf en fin de post) et qui pense que ''l'homme n'est pas intelligent'' et donc que l'IA est indispensable à notre survie et essaie de nous convaincre que ces algorithmes magiques allaient ‘’sauver le monde’’ et prédire le futur. Ils n’alimentent que ceux qui ont quelque chose à vendre, y compris qu’il nous serait indispensable d’aller habiter sur Mars un jour. Mais de là à prévoir une pandémie ... ? 

Même à ce jour les chercheurs les plus impliqués doutent du quantique et de la puissance de calculs qu’on lui attribuerait .. et pour quoi faire ?  ordinateur quantique lire ici

''Bon sang mais c'est bien sûr'' ... l’intelligence humaine est ''humaine'' certes et cela lui a fait subir bien des catastrophes, mais c’est aussi ce qui l’a toujours sauvé.

La réalité d’aujourd’hui avec cette pandémie dramatique qui frappe le monde est bien qu'elle était prévisible par n’importe quel ''humain'' - en premier lieu l’iconique Bill Gates en 2015  - mais objectivement pas par ‘’l’Intelligence Artificielle’’. 

Toutes les communautés scientifiques ''humaines'' et intelligentes reconnaissent actuellement qu'une telle épidémie devait avoir lieu, et que cela pourrait recommencer sous une autre forme comme depuis le début de nos civilisations, mais qu'aucune prévision issue d'une ‘’intelligente artificielle’’ ne l'a fait ni a été en mesure de le faire.

Doit-on se résoudre à devenir une génération qui accepte d’être gérée par des algorithmes  ?? Personnellement non - sans être un vieux réac... - cette pandémie doit nous faire prendre conscience qu'un danger de dépendance existe et qu’il faut réagir en reprenant du recul.

« Nul n'ignore qu'une intelligence dite artificielle ne l'est que partiellement: c'est l'être humain qui dirige et nourrit le machine learning, et c'est grâce aux données qu'il lui fait ingérer que la machine apprend à comprendre ou à décider, c'est en observant la masse des comportements qu'elle peut déduire des règles de fonctionnement » nous dit Korri.Slate. Et ma modeste conviction sur ce point à toujours été que les données du passé sont vites rendues obsolètes par le temps et l'environnement conjoncturel dans lequelles elles ont été générées, et issues d'un comportement certes humain mais enregistré à cet instant T. Après se crée ce que les chercheurs appellent le ‘’Biais’’ , une déviation impossible à régler quand on surdimensionne une capacité de calcul.

Souvenir :

En Mars 2016, Microsoft à été obligé de stopper le projet Tay.ai qui laissait à un ''profil'' d'adolescente crée pour la circonstance le soin de se contruire toute seule en conversant via les réseaux sociaux avec des ''humains'' via un logiciel doté d'AI. En 24 heures et 96 000 tweets / échanges, TAY était devenu homophe, raciste, machiste, antisémite et pronait le nazisme ! Microsoft à stoppé immédiatement le projet...

Si l'on en revient à notre pandémie, que se passe-t-il alors quand la masse des individus se comporte de manière irrationnelle, et que cette masse ne fait pas ce que l'IA est supposée connaître et maîtriser? La machine déraille, les modèles algorithmiques explosent et l'être humain doit intervenir pour régler sa création paumée. «L'automatisation est partie en vrille», commente ainsi Rajeev Sharma, vice-président du cabinet spécialisé Pactera Edge.

Un article du même MIT donne de nombreux exemples de ces réglages impératifs. Une grande publicité a été faite autour de la manière dont Amazon, après avoir vu ses listings bouleversés par les commandes massives de masques ou de papier toilette, a repris les choses en main pour mettre un peu d'ordre.

Et amazon ''lui même'' à été destabilisé durant cette période imprévisible ... et quand on dit ''lui'' on dit ''ses algorithmes''. Et en cascade parfois incontrôlés ou incompris, les changements qu'Amazon à opéré ont provoqué des conséquences qui ont mis à mal ses vendeurs partenaires, notamment en matière de publicité ciblée.

Sur ce sujet spécifique Amazon, mais sous un autre angle, j’avais abordé le sujet sur ce blog dès le 23 février après le début de la pandémie en Chine, et bien avant les polémiques.

Mon interrogation à l'époque étaient que face aux problèmes de ruptures ‘’subies’’ pour cause de fermeture d’usines des appros des vendeurs tiers Amazon, ceux ci risquaient l’éviction automatique de leur présence sur cette plateforme de market place intransigeante (à juste raison) sur la qualité de service ‘’fournir et dans de bonnes conditions’’.

On retombe le même sujet de la ''prédiction'' de quelque chose d'irrationnel : les algorithmes de gestion de boutiques tiers Amazon n’avaient pas forcément intégré cette donnée de ''rupture brutale'' de sources d'approvisionnement des vendeurs tiers sans qu'ils en soitent responsables : impensable sauf si on avait ''brieffé'' les algo que la Chine pouvait se retrouver du jour au lendemain en panne de production et de livraison alors que ses usines représentent jusqu’à 100% de la source d’appro de ces vendeurs tiers ‘’e-grossistes’’ (donc uniquement intermédiaires avec une valeur ajoutée relative .. une autre question que l'on devra se poser) une expérience d’achat pauvre, et totalement dépendants des ratios algorithmiques de l’Amazonie.

En conclusion au delà d'un problème de pandémie  - un virus est aussi accélérateur de symptomes - mais proche de l'irationnalité des marchés :

# le fondateur de Featurespace, une firme spécialisée dans les logiciels de détection de fraude à la carte bancaire, David Excell explique qu'une frénésie soudaine d'achats dans des domaines inhabituels (l'équipement pour le jardin ou le bricolage, par exemple) a mis à mal son système, provoquant dans un premier temps de nombreux faux positifs.

# Phrasee, une entreprise londonienne fournissant un système de rédaction automatisée de textes marketings a également dû réadapter son outil pour qu'il apprenne, en cette période sensible, à éviter certains termes ou conseils de consommation inadaptés. Il a fallu bannir les «préparez-vous», «OMG!», les mentions à la viralité ou aux stocks pour ne pas heurter des esprits déjà à vif.

# De nombreuses entreprises, à qui l'on a fourni des services clé en main, se sont retrouvées confrontées à des comportements irrationnels de la part d'algorithmes sur lesquels elles n'avaient pas toujours la main – et encore moins les compétences requises pour les adapter.

# Dixit Elon Musk dont l'intelligence humaine est certaine (si si ...) quand il dit dans cette conférence face à Jack ma : "rien ne m'énerve plus quand j'entends les hommes dirent qu'ils sont intelligents, ils ne le sont pas !''.... SIC. 

En conclusion appréciez cet échange devenu célèbre entre Jack Ma Fondateur et ex CEO de Alibaba Company et Elon Musk CEO de Tesla, Neuralink, Space X ... et entre la sagesse et l'arrogance . Peut être dans le monde post covid, période parenthèse banale si on la replace au l'aune de 4000 ans d'humanité, peut être devrions plus nous méfiez d'un symbole Elon. Il est intelligent mais conditionné d'une IA qui n'a pas encore fait ses preuves prédictives. Comme le dit Jack Ma... ''seul 0,0001% des prédictions sur le futur du monde se sont révélées vraies ... et allez sur Mars ne m'intéresse pas. ''

Remarquez le sourir géné de son interlocuteur.