Causalité et responsabilité

Faut-il pouvoir anticiper toutes les conséquences d’un acte pour pouvoir être jugé responsable de son acte ?

La question se pose car l’argument est utilisé notamment en éthique des technologies et conduit à des approches qui tendent à laisser la responsabilité à l’extérieur de l’acte de création ou d’innovation et même à laisser la responsabilité à la société comme utilisatrice et vecteur de diffusion.

En effet, si l’on milite pour une innovation responsable, on sous-entend de fait que l’innovateur est capable d’anticiper les conséquences de son acte. Or, les innovateurs s’en défendent en indiquant qu’ils ne peuvent connaître tous les effets provoqués par leurs innovations. L’exigence de responsabilité porte bien cette notion d’anticipation des conséquences. L’idée présupposée est que l’innovation est une forme de causalité nouvelle. Avant l’introduction de l’innovation, la conséquence considérée est réputée ne pas exister, sinon complètement, du moins de la même manière.

L’innovation est ainsi comprise comme une cause à part entière de certains effets. Or, c’est la valeur de ces effets qui portent le jugement de responsabilité. Il est vrai que nous sommes toujours prompts à reconnaître la chaîne causale des effets positifs d’une innovation. Ainsi, la diffusion massive des antibiotiques a effectivement conduit à la régression de certaines infections, a permis de sauver des personnes qui ne l’auraient pas été sans ces médicaments. Les effets positifs sont donc immédiatement attribués à leur cause. Par contre, cette diffusion massive des antibiotiques a aussi conduit à leur propagation dans les rivières au travers des eaux usées et donc dans l’environnement complet. Cela a conduit à la plus grande résistance au médicament de certaines bactéries, obligeant à forcer les doses ou à concevoir de nouveaux traitements plus radicaux. Cette fois, la responsabilité est rejetée vers les utilisateurs-prescripteurs des antibiotiques : cette situation provient d’une utilisation exagérée des médicaments, de leur mauvais dosage, mais la question ne porte pas sur la possibilité d’une assimilation totale de tous les actifs du traitement, sur l’intégration du traitement dans un environnement complexe…

L’innovation assume donc volontiers des effets positifs mais plus difficilement des effets négatifs. Autrement dit, le rapport causal positif est pleinement assumé, mais plus rarement le rapport causal négatif. Qu’entend-on par positivité ou négativité du rapport causal ? Manifestement, il s’agit du jugement de la valeur de l’effet selon qu’il est bénéfique ou nuisible. Or, ce jugement de valeur est principalement porté a posteriori de l’innovation, il devient l’estimation pratique de la valeur de l’innovation.

Il ne s’agit pas, par ce jugement, de juger de la valeur en termes de connaissance, car cela semble plutôt relever d’une notion de progrès. Il s’agit véritablement de juger de l’effet pratique immédiat ou non de l’innovation. Nous voyons poindre ici une différence importante entre innovation et progrès. Ce dernier porte sur un ensemble de connaissances théoriques universelles indépendant des formes de ses usages : la connaissance de l’atome n’est pas réductible à la bombe atomique. Alors que la bombe atomique, elle, en tant que manifestation pratique de la connaissance de l’atome, a une valeur immédiate en tant qu’application de la connaissance. C’est pourquoi l’on peut dire que l’innovation est toujours une visée téléologique pratique particulière. C’est utiliser une connaissance vers un but défini.

Or, c’est précisément ce but qui est jugé par l’appréciation de l’innovation, mais pas seulement : l’ensemble causal des moyens est jugé. Prenons un exemple : sur la base des connaissances sur le système nerveux et sur la psychologie, quelqu’un invente une machine ou un dispositif capable de connaître la vérité lors de l’interrogatoire d’un suspect. Le but de l’invention pourrait être louable, mais le principe de cette invention, son moyen, c’est la torture physique et morale. Il devient évident que cette innovation ne pourra être jugée que négativement. Il y aura alors une forme de rejet, l’innovation n’étant pas considérée comme bénéfique, eu égards, non à la finalité, mais aux moyens d’atteinte des buts fixés.

Le jugement de valeur sur l’innovation est donc le fondement de l’exigence de responsabilité. Cette responsabilité découle non seulement de l’expression de la finalité, mais aussi des moyens associés. Autrement dit, le jugement de responsabilité pose à nouveau la question des moyens relatifs à l’atteinte d’une fin et y répond en disant que la fin seule ne peut justifier tous les moyens. L’exigence de responsabilité porte bien sur les deux niveaux : la fin et les moyens.

Ce point est fondamental car la responsabilité supposée sera jugée sur les deux aspects de l’innovation. La responsabilité pèse donc à la fois sur la finalité et sur ce qui est mis en œuvre pour l’atteindre. Il est donc demandé qu’une anticipation duale soit menée : l’anticipation des conséquences de l’atteinte de la fin et celle des moyens déployés. Une disqualification de l’un ou l’autre de ces aspects conduit à une requête considérée comme légitime en responsabilité.

Sauf que l’innovateur nous dit qu’il ne peut pas anticiper tous les effets possibles de son innovation et que, partant, il ne peut être tenu pour responsable des conséquences de son innovation. Mais qui lui demande de porter une aussi absolue responsabilité ? L’argument de l’innovateur, c’est de dire que parce qu’il ne peut anticiper toutes les conséquences, dérouler la totalité des chaînes causales, alors il n’est responsable de rien. Si nous transposions l’argumentation dans une Cour d’Assises, il n’y aurait plus de condamnation ! A aucun moment il n’est demandé à l’innovateur d’assumer une responsabilité absolue des conséquences de son innovation, mais parce que sont jugées les fins et les moyens, il doit ce qu’il anticipe et ce qu’il n’anticipe pas dans les fins et les moyens.

Utiliser une technologie comme moyen sans en connaître toutes les conséquences n’est pas irresponsable en soi, c’est de ne pas dire que l’on n’en maîtrise pas toutes les conséquences qui l’est ! Aujourd’hui, de nombreuses innovations s’appuient sur la mise en œuvre de nanotechnologies ou d’intelligences artificielles. Or, dans ces deux cas, ce que nous savons, c’est que nos référentiels habituels causaux ne fonctionnent plus. Autrement dit, nous ne sommes pas du tout capables de prédire les conséquences de ce que nous faisons. Il s’agit bien ici de prédiction au sens scientifique, c’est-à-dire l’anticipation d’une situation en vertu d’un système causal défini par des lois. La nanotechnologie ou l’IA échappent aux modèles prédictifs jusqu’à lors connus. Les utiliser hors du champ du laboratoire pour des diffusions de masse apparaît alors comme dangereux car les conséquences sont inconnues. Cela semble de fait irresponsable.

Lorsqu’un chercheur modifie le génome de deux petites filles en vue de les rendre résistantes au virus du SIDA1, ce qui lui est reproché, c’est d’inscrire de manière indélébile dans le génome humain une évolution non naturelle aux conséquences imprévisibles. A moins d’interdire à ces deux jeunes enfants d’avoir un jour des enfants, il est impossible d’effacer cette modification génétique. En nul ne sait comment cette modification génétique peut se comporter dans l’avenir de l’espèce ni, et c’est tout aussi grave, nul ne peut assurer que le virus du SIDA ne sera pas capable de s’adapter en devenant encore plus virulent.

Nous voyons donc bien que l’argument de l’impossibilité prédictive n’efface pas la responsabilité de l’innovateur. Bien au contraire, elle ne fait que la renforcer. Toutefois, certaines innovations peuvent avoir des conséquences fâcheuses qui n’étaient effectivement pas anticipables en l’état de la science lors de leur diffusion, c’est-à-dire que la science admettait de manière consensuelle une forme d’innocuité des moyens utilisés. Cela peut être le cas avec certains adjuvants dans les médicaments dont on se rend compte, en toute bonne foi et des années plus tard, de leur dangerosité. Il paraît inconcevable d’en appeler à la responsabilité de l’innovateur car il ignorait la potentielle dangerosité de la substance.

Cela implique donc une certaine temporalité de la responsabilité de l’innovateur, au-delà de laquelle c’est la société qui assume les conséquences de l’innovation. Mais cela ne peut être que dans le cas d’innovations dont le risque était manifestement et de manière consensuelle inconnu. Cela signifie donc que la responsabilité de l’innovation persiste en fonction de la connaissance du risque associé aux fins ou aux moyens. Elle incombe à l’innovateur tant que le risque n’est pas explicite. Ce ne peut donc être à l’innovateur ou à l’entrepreneur de juger de l’opportunité de la diffusion d’une innovation dès lors que des risques non mesurés (anticipables) existent. Sans quoi, c’est leur responsabilité totale qu’ils engagent.

L’innovation responsable ne peut donc se contenter d’estimer des influences immédiates (environnementales ou sociétales). Elle porte l’estimation et la publicité des risques  qu’elle met en jeu. Et elle accepte de ce fait le jugement de la société quant à la diffusion de l’innovation.  C’est aussi ce que doit être l’acceptation sociale qui ne saurait être réduite au seul succès commercial.

Citez l'article : Dominique Poitevin, "Causalité et responsabilité", " in L'innovation en question", 09/12/2018, https://atelierlagon.hypotheses.org/1457.
  1. voir par exemple : https://www.franceculture.fr/emissions/revue-de-presse-internationale/la-revue-de-presse-internationale-du-lundi-26-novembre-2018 []

Vous aimerez aussi...

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search