Faut-il responsabiliser les robots ?

Publié le 23/07/2014 par Etienne Wery

À l’occasion de la démonstration du nouveau robot Asimo fabriqué par Honda, un célèbre quotidien consacre un cahier et un édito à une réflexion sur la responsabilisation des robots. L’occasion de faire le point sur un sujet de plus en plus fréquent dans les cénacles consacrés au droit des nouvelles technologies.

Au fait, qu’est-ce qu’un « robot » ?

Entre le robot ménager qui bat les œufs en neige, les bras télescopiques qui vissent de minuscules pièces dans les chaînes de montage des véhicules automobiles, les engins téléguidés envoyés sur la lune ou le dernier-né de Honda, … qu’est-ce qu’un robot ?

Dans l’inconscient collectif, le robot est souvent synonyme de travail automatisé : on automatise une tâche grâce à une machine plus puissante, plus précise et plus endurante que l’homme. L’étymologie du mot robot traduit parfaitement cette idée.

La réflexion évolue. De plus en plus, le critère central qui se dégage est l’autonomie : un robot est un système autonome.

Dans cette acceptation, un appareil programmé pour répéter une séquence prédéterminée n’est pas autonome. Le robot ménager n’est, dans cette optique, pas un robot, pas plus qu’un ascenseur ou même une sonde non-humaine envoyée dans l’espace. Il s’agit de systèmes automatisés mais non-autonomes. Le débat subsiste encore sur les critères qui permettent de jauger l’autonomie. Plusieurs consortiums ou cénacles internationaux de réflexion tentent de normaliser la matière.

A suivre le critère de l’autonomie, le robot requiert-il un support physique ? Pas sur …

Tout le monde se souvient de la matrice dans le film du même nom : un magma de substance indéterminée capable de prendre des décisions. Ce serait, sur la base du critère du système autonome, un robot. Cela peut paraître plus proche de la science fiction que du droit, et pourtant … Au niveau médical, la recherche essaye de reproduire artificiellement le cerveau humain en synthétisant des neurones. Les applications possibles sont nombreuses. On songe évidemment à des traitements médicaux mais pourquoi pas au développement d’ordinateurs fonctionnant sur une base quasi biologique. Le transistor biologique issu du génie génétique existe en laboratoire, il reste à maitriser la technologie et à l’appliquer. C’est aussi toute la question de l’intelligence artificielle qui se pose, où l’autonomie est logique plutôt que physique.

Le droit en l’état actuel

À l’heure actuelle, la réflexion juridique repose sur deux idées maîtresses : d’une part la responsabilité du gardien de la chose, et d’autre part le vice de la chose.

1. Le gardien de la chose.

Le Code civil est une œuvre merveilleuse. 200 ans après avoir été écrit, ses dispositions principales n’ont pas pris une ride. Ainsi en va-t-il de la responsabilité du gardien de la chose, prévue à l’article 1384 alinéa premier : « On est responsable non seulement du dommage que l’on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre, ou des choses que l’on a sous sa garde. »

Des traités entiers ont été consacrés à ce sujet : quelle est la justification ? s’agit-il d’une responsabilité objective ? à quelles conditions le gardien peut-il s’exonérer de sa responsabilité ? L’objet de notre contribution n’est pas d’entrer dans les détails. Nous retiendrons seulement que lorsqu’un système automatisé est sous le contrôle d’un humain, celui-ci sera généralement considéré comme étant le gardien, et donc le responsable.

2. Le vice de la chose.

Le vice de la chose met la responsabilité sur le fabricant ou, si le fabricant et en dehors de l’union européenne, sur l’importateur de la chose viciée. Un des problèmes fréquent consiste à démontrer la présence du vice.

3. Le concours des deux théories.

Les deux théories ne s’excluent pas nécessairement. L’une insiste sur la qualité de la chose via la responsabilisation du fabricant, tandis que l’autre insiste sur l’exploitation de la chose via la responsabilisation du gardien. En cas de sinistre, les deux vont la plupart du temps se renvoyer la balle, ce qui est rarement au bénéfice des victimes. Parfois, les deux régimes entrent en concours avec un partage de responsabilité.

Les limites de l’approche juridique actuelle

Une première limite a déjà été relevée ci-dessus : la position souvent défavorable de la victime qui ne sait pas très bien vers qui se retourner. Et lorsque la victime est elle-même la gardienne de la chose, par exemple parce qu’elle l’a achetée, le fabricant a beau jeu de remettre l’intégralité de la responsabilité sur son client.

Une deuxième limite découle de ce qui fait actuellement la pierre angulaire de la définition du robot : l’autonomie.

Il est en effet extrêmement difficile de continuer à fonder le raisonnement sur le vice de la chose ou la responsabilité du gardien, si la chose a précisément été créée en vue d’être autonome. À partir de quand le fabricant ou le gardien perd-il la possibilité d’éviter un sinistre causé par un système dont l’autonomie est la vocation ?

Comparaison n’est pas raison, mais c’est le même raisonnement qui s’applique aux enfants. Le droit organise une très lente transition en vue de faire d’eux des adultes responsables, aussi bien sur le plan civil que pénal. L’idée est la même : l’enfant irresponsable acquiert progressivement l’autonomie qui va lui permettre de devenir un sujet de droit plein et entier, autrement dit : un adulte qui n’est sous la garde de personne et répond lui-même de ses actes. Et si l’adulte prend une mauvaise décision, présente-t-il un vice ? Ça n’est évidemment pas en ces termes que l’on pose la question. Le droit a créé  la notion de faute : la personne n’est pas atteinte d’un « vice » et son cerveau fonctionne aussi normalement que possible, mais cela ne l’empêche pas d’avoir commis une faute qui cause un dommage qu’elle devra réparer.

Bien souvent, lorsque l’on discute avec les chercheurs ou ceux qui tentent de commercialiser le fruit de leurs recherches, on bute rapidement sur des contraintes juridiques. La question quasiment insoluble qui est posée au juriste est : « Quel risque le fabricant ou l’exploitant prend-il sur une machine sur laquelle ni l’un ni l’autre n’exerce de contrôle, précisément parce qu’elle a été créée pour cela ? »

De cette question nait la troisième limite : le frein à l’innovation.

Le robot sujet de droit ?

Cette contrainte juridique, qui se transforme assez vite en contrainte industrielle, amène plusieurs observateurs à plaider pour la reconnaissance du robot sujet de droit.

Il s’agit certes d’une fiction, mais le droit y est habitué. N’a-t-on pas créé la responsabilité civile et pénale des personnes morales ?

Dans ce genre de fiction, il faut tout d’abord identifier les sujets de droit, ce qui impliquerait presque la création d’une carte d’identité ad hoc. On peut en sourire… ou se dire que ceux qui ont assisté aux premiers vols des pionniers de l’aviation ont sourit de la même manière.

Cette discussion nécessite de définir le seuil d’autonomie à partir duquel l’autonomie acquise justifie le basculement de statut. C’est l’un des sujets complexes en la matière.

Il faut aussi responsabiliser le sujet de droit ainsi créé et penser à la situation de la victime. Puisque le robot est autonome, personne ne répond pour lui du dommage qu’il cause. Mais comme le robot n’a pas de patrimoine, il n’est pas en mesure d’indemniser la victime. On se dirige alors vers des mécanismes alternatifs : l’assurance, le fonds commun d’indemnisation, etc. Chaque mécanisme a ses règles propres, ses avantages et ses inconvénients et la réflexion est plus politique que juridique. A l’instar du risque nucléaire, également géré politiquement.

Un défi et un pari

On le voit, la robotique conçue comme l’étude et l’industrie des robots, eux-mêmes définis comme des « systèmes automatisés autonomes », fait partie de ces domaines encore balbutiants.

Balbutiants sur le plan de la recherche, mais encore plus sur les plans économique et industriel. Or, il paraît que l’Europe cherche des relais de croissance dans les nouvelles technologies ? N’y a-t-il pas là matière à réflexion ?  Il s’agit certes d’un défi politique et juridique complexe, mais si ce n’est pas l’Europe qui y réfléchit d’autres – qui ont déjà commencé – la dépasseront bien vite. Les concurrents sont notamment américains, coréens, japonais.

Et puis il y a un pari à faire. Celui de voir des systèmes de plus en plus autonomes être créés bien plus vite qu’on ne le pense. La Google Car est-elle encore une voiture ou un robot … ? Seule certitude : elle roule déjà !