Exclusif IA et crise pandémique : « la réalité a rattrapé la fiction » (David Gruson, auteur de « S.A.R.R.A »)

David Gruson : C’est un peu tôt pour tirer des leçons de la gestion de la crise. Peut-être que si l’on avait disposé en amont d’outils plus largement diffusés d’évaluation des risques cliniques, cela aurait permis d’éviter un certain nombre de situations de tension éthique dans les établissements ou d’aider les soignants surmonter celles qu’ils ont rencontrées.

Le constat c’est surtout que la réponse à la crise a été essentiellement humaine et l’IA n’a fait figure que d’outil subsidiaire. Cela ne veut cependant pas dire qu’elle n’a pas été utile dans le contexte de crise : je peux citer les solutions de diagnostic Covid-19 à partir de la reconnaissance d’image, la détection ou la pré-détection de foyers épidémiques ainsi que les solutions d’admission à distance et de distanciation physique.

La date de publication à fin mars avait été calée dès l’automne dernier, sans évidemment savoir que nous serions au cœur d’une pandémie réelle.Le premier ouvrage paru en 2018 se fondait sur mon expérience d’une vingtaine d’année en matière de numérique en santé, et notamment la menace de pandémie d’Ebola que j’ai eu à gérer fin 2014 avec l’équipe du CHU de La Réunion. Cela m’a amené à me demander si la situation aurait été mieux gérée si mon interlocutrice avait été une intelligence artificielle plutôt que le ministère de la Santé, et cela m’a donné le point de départ du 1^er tome de S.A.R.R.A..

C’est suite aux encouragements qui m’ont été adressés par les lecteurs désireux de lire une suite que j’ai posé début 2019 avec mon éditrice le principe d’un second tome. La date de publication à fin mars avait été calée dès l’automne dernier, sans évidemment savoir que nous serions au cœur d’une pandémie réelle.

Les points de résonance entre réel et fiction sont vertigineux. C’était le cas dès avant le Covid-19, avec le projet de vaccin contre la grippe saisonnière élaboré grâce à l’IA, annoncé en Australie en juillet 2019 [le programme SAM de l’université Flinders d’Adelaïde]. J’avais positionné l’action en 2025 mais en fait le réel a déjà rattrapé la fiction sur bien des points.

Dans les romans, l’Europe est mise sous tutelle numérique par des géants industriels, dont l’un est baptisé«  PangoLink » avec pour symbole le pangolin : j’ai trouvé ce nom en 2017, bien avant que cet animal se retrouve accusé d’avoir propagé le Covid-19, à partir du « Panoptique » de Jeremy Bentham (1791), qui porte l’idée d’un contrôle complet.

Nous ne sommes pas encore tout à fait dans le monde de S.A.R.R.A. sur cet aspect-là mais il y a déjà l’idée de conjuguer l’efficacité du numérique contre la crise avec la régulation éthique, et que si on n’y prend pas garde, on peut se laisser entraîner par une forme d’urgence de court terme et jeter aux orties un certain nombre de principes, comme ceux du RGPDRGPDRèglement Général relatif à la Protection des Données en Europe.

Il faut voir qu’il y a intrinsèquement dans l’IA une dimension collectiviste : c’est un algorithme qui va prendre ses décisions en fonction de l’intérêt du plus grand nombre, du fait qu’il va raisonner de manière mathématique.J’ai introduit l’idée de « garantie humaine » de l’IA dès le premier tome, c’est-à-dire le fait que les professionnels de santé et des représentants des patients soient chargés de superviser la machine. Cette notion-là a été reprise dans l’article 11 du projet de loi relatif à la Bioéthique, dont le cours a été interrompu par la crise . Il me semblerait de bonne méthode d’anticiper son application à l’occasion de la crise du Covid-19.

Il faut voir qu’il y a intrinsèquement dans l’IA une dimension collectiviste : c’est un algorithme qui va prendre ses décisions en fonction de l’intérêt du plus grand nombre, du fait qu’il va raisonner de manière mathématique. Le contexte épidémique renforce encore cette maximisation de la prise en compte du collectif par rapport à l’intérêt de l’individu, dans un contexte où il y a un certain nombre de normes collectives à édicter pour protéger la population. Dans ce contexte, la garantie humaine peut contribuer à ce que ne soit pas perdu avec l’irruption de l’IA le colloque singulier du médecin avec son patient.