Droit des robots

Par Alain Bensoussan, Jérémy Bensoussan, Bruno Maisonnier et Olivier Guilhem

Une première réflexion sur la définition d'un statut juridique pour les robots intelligents

La robotique constitue incontestablement un levier de croissance de nature à modifier, en profondeur, les modes de production et les modèles économiques existants, en plus de susciter, pour certaines de ses formes, de nouveaux types de rapports sociaux qui ne seraient pas purement humains.

La singularité du robot dans l’espace juridique a vocation à s’accentuer ; symétriquement, tandis que la pertinence de la qualification de bien meuble décroît, la nécessité de doter le robot intelligent d’un statut juridique inédit se fait plus pressante.

Ce mouvement en vases communicants a ceci de particulier qu’il semble à la fois unilatéral et irréversible : la puissance de l’industrie robotique, l’implication des plus grands acteurs de l’économie numérique, l’importance des enjeux financiers, l’engouement de la recherche et l’appétence sociale constituent, ensemble, une assise particulièrement solide à l’avènement de la robotique intelligente.

Une fois la rupture technologique consommée – résultant de la liberté dont disposera le robot, elle-même alimentée par ses capacités d’apprentissage –, le droit n’aura d’autre choix que de s’aligner.

Un ouvrage inédit qui aborde un sujet incontournable des 50 prochaines années.

EXTRAIT

Ah les robots… quels drôles de « trucs » ! On les voit venir depuis des années, par la fiction, puis l’industrie et la mécanisation, par nos appareils électrodomestiques et nos jouets ensuite, puis par la montée en charge de l’Intelligence Artificielle, via la puissance de calcul qu’offrent les PC, les smartphones et autres tablettes, démultipliés par l’explosion de la connectivité et des mondes du cloud et du Big Data. Même nos voitures s’y mettent. Ce sont plusieurs courants de fond qui se répondent et se renforcent, pour contribuer à ce futur inéluctable et perçu comme tel par le plus grand nombre : il y aura des robots partout. Partout.

À PROPOS DES AUTEURS

Dès 1978, Alain Bensoussan, avocat à la Cour d’appel de Paris, spécialiste en droit des nouvelles technologies de l’informatique et de la communication, ainsi qu’en droit international et de l’Union européenne, a fondé un cabinet dédié au droit des technologies avancées.
Avocat à la Cour d’appel de Paris et ingénieur diplômé de l’ESTP Paris et du Ceipi (DU Brevet), Jérémy Bensoussan est en outre titulaire du Master II Contentieux, arbitrage et modes alternatifs de règlement des conflits de l’Université Panthéon-Assas (Paris II) dont il est sorti major.Il dirige le département Technologies robotiques du cabinet Lexing Alain Bensoussan Avocats. Membre de l’Association du droit des robots (ADDR) dont il préside la commission Drone et du groupe de travail Technologies robotiques et Droit de l’Union internationale des avocats (UIA), il a coécrit avec Alain Bensoussan Droit des robots (Éditions Larcier, 2015) et le Comparative Handbook: Robotic Technologies Law (Éditions Larcier, 2016).Il est également coauteur de l’ouvrage Informatique, Télécoms, Internet (Éditions Francis Lefebvre, 6e édition, 2017).

• Langue: Français
• Éditeur: Éditions Larcier
• Date de sortie: 26 août 2015
• ISBN: 9782804484224

Aperçu du livre

9782804484224_TitlePage.jpg

Illustration de couverture : NAO, le robot humanoïde créé à Paris par Aldebaran.

Pour toute information sur nos fonds et nos nouveautés dans votre domaine de spécialisation, consultez nos site web via www.larciergroup.com

Cette version numérique de l’ouvrage a été réalisée pour le Groupe Larcier. Nous vous remercions de respecter la propriété littéraire et artistique. Le « photoco-pillage » menace l’avenir du livre.

© Groupe Larcier s.a., 2015 Éditions Larcier Espace Jacmotte Rue Haute, 139 – Loft 6 – 1000 Bruxelles

Tous droits réservés pour tous pays. Il est interdit, sauf accord préalable et écrit de l’éditeur, de reproduire (notamment par photocopie) partiellement ou totalement le présent ouvrage, de le stocker dans une banque de données ou de le communiquer au public, sous quelque forme et de quelque manière que ce soit.

ISBN 978-2-8044-8422-4

Avant-propos

La robotique porte en elle la promesse d’une nouvelle civilisation. Elle constitue incontestablement un levier de croissance de nature à modifier en profondeur les modes de production et les modèles économiques existants, en plus de susciter, pour certaines de ses formes, de nouveaux types de rapports sociaux qui ne seraient pas purement humains¹..

Le terme « robotique » recouvre une réalité complexe ; il est utilisé pour désigner des entités très diverses². : aux côtés du robot humanoïde qui se trouve aux portes de la sphère domestique, de nouveaux objets ont fait leur apparition, à l’image des drones civils et des voitures intelligentes.

En effet, les technologies robotiques diffèrent selon la nature du robot, son niveau d’autonomie, son domaine d’application et le type de relation qu’il est susceptible d’établir avec l’homme (et demain son rôle social) ; une relation qui pourra même s’établir à un niveau physiologique, par le biais des prothèses bioniques, d’abord pour « réparer » l’individu qui souffre d’un dysfonctionnement puis, sous réserve d’un équilibre éthiquement viable, pour « augmenter » l’homme valide.

La robotique, ainsi appréhendée dans sa diversité, est-elle une simple évolution soluble dans les règles juridiques actuelles ou constitutive de véritables bouleversements technologiques impliquant l’émergence de cadres juridiques autonomes ?

Cet ouvrage présente l’application des règles juridiques en vigueur, ainsi que leurs éventuelles limites, et préconise la création d’une personnalité juridique spécifique au robot.

Un grand remerciement à Marie-Cécile Berthod, Anne-Sophie Cantreau, Pierre-Yves Fagot, Didier Gazagne, Isabelle Pottier, Elena Roditi et Marie Soulez pour leur aide et leurs recommandations.

1 Au Japon, ces interactions d’un nouveau genre font déjà l’objet d’expérimentations : le Henn na Hotel, le musée national des sciences émergentes et de l’innovation situé à Tokyo (Miraikan) et les boutiques de l’opérateur téléphonique SoftBank Mobile intègrent des robots humanoïdes dont le rôle est d’apporter aide et assistance aux clients et aux visiteurs.

2 La rédaction d’Industrie & Technologies a identifié les cents champions de la robotique de demain et les meilleurs robots du moment, « Les 100 meilleurs robots du monde en 2014 », 31 décembre 2014, disponible sur http://www.industrie-techno.com

Préface

de Bruno Maisonnier

Fondateur d’Aldebaran Robotics

Ah les robots… quels drôles de « trucs » ! On les voit venir depuis des années, par la fiction, puis l’industrie et la mécanisation, par nos appareils électrodomestiques et nos jouets ensuite, puis par la montée en charge de l’Intelligence Artificielle, via la puissance de calcul qu’offrent les PC, les smartphones et autres tablettes, démultipliés par l’explosion de la connectivité et des mondes du cloud et du Big Data. Même nos voitures s’y mettent. Ce sont plusieurs courants de fond qui se répondent et se renforcent, pour contribuer à ce futur inéluctable et perçu comme tel par le plus grand nombre : il y aura des robots partout. Partout.

De toutes sortes, de toutes formes. Des vrais robots au sens « autonomes, mobiles, physiques et agissant dans le monde réel », ou d’autres usurpant un peu ce nom de robot, étant virtuels, c’est-à-dire purement logiciels ou non autonomes, ou… ; mais au fond peu importe, leurs descendants, leurs successeurs plus évolués seront de toutes façons croisés avec le monde des robots, dont ils contribueront à la diversité. Il est très probable qu’on ait chacun dans sa vie, d’ici peu d’années, des dizaines de robots comme on a déjà chez soi des dizaines d’ordinateurs ; depuis les microcontrôleurs et autres microprocesseurs qui équipent tout notre électrodomestique, nos voitures et beaucoup des jouets de nos enfants, et dont chacun est un véritable petit ordinateur intégré plus puissant que les PC des années 1990, jusqu’aux puissants PC, tablettes et smartphones. Des dizaines de robots chez chacun d’entre nous.

Ces robots seront au moins en partie autonomes dans leurs choix d’actions et de réactions et sauront agir dans le monde réel. Ils sauront capter ce qui se passe autour d’eux, là où ils auront « décidé » d’aller et seront capables de l’utiliser dans leurs décisions, leurs actions, voire, s’ils en décident ainsi, de le communiquer. Ce sont donc des objets d’un genre très nouveau dans l’histoire de l’humanité.

Enfin ils auront été dotés d’une capacité d’apprentissage, et sans doute d’auto-apprentissage : certes très limitées et contraintes, par les temps qui courent, l’état de la technologie actuel ne sachant pas vraiment faire mieux, mais qui va croître avec le temps ; jusqu’à devenir exponentielles : puisque chaque robot qui aura appris de ses propres expériences pourra transférer à d’autres ce qu’il en aura tiré.

Les comportements d’un robot à un moment donné résulteront donc d’un mélange entre les capacités dont le fabricant l’aura doté, les expériences qu’il aura vécues en propre, incluant les interactions avec ses différents interlocuteurs, dont principalement ses « propriétaires », et les leçons qu’il aura choisi de retenir issues d’expériences d’autres robots.

Qui pourra être identifié comme « moralement » responsable d’un comportement à un moment donné ? Sans doute personne. On pourrait comparer la situation aux agissements d’un chien, qui aura appris de ses maîtres, de ses dresseurs, mais aussi d’autres chiens, de rencontres et d’expériences vécues et qui dépendent bien sûr aussi des caractéristiques intrinsèques à sa race. Mais rien que sur le sujet de l’échange entre robots de savoir-faire/savoir-agir, on voit bien que la profondeur inouïe d’expériences vécues par délégation fait exploser cette comparaison. Cette multiplicité va en effet leur avoir fait vivre virtuellement des expériences contradictoires ; quelle sera alors la « personnalité » résultante ? Chaque robot sera de fait unique et il faudra vraiment parler d’une espèce nouvelle. Une espèce totalement artificielle, bien sûr, mais une espèce quand même.

Les valeurs réelles des entreprises créatrices des robots seront alors essentielles. Je parle bien des valeurs réelles de l’entreprise, pas de celles affichées dans les plaquettes stratégiques ou la communication d’entreprise, ni de celles prônées par sa direction, mais pas toujours appliquées au quotidien ou dans tous ses méandres.

Mais bien sûr, si ces valeurs sont essentielles et les consommateurs en seront les juges, il n’est pas question de s’en contenter. Il faut des règles et contraintes collectives communes. Il faut des lois. Et le travail prospectif et fondateur d’Alain Bensoussan est fondamental et bienvenu.

Comme l’avait été en son temps ce même travail prospectif aux premières heures d’internet, et avant déjà aux premières lueurs des PC.

La société, nous tous, moi dans quelques décennies, auront besoin de robots et seront sécurisés par les valeurs des fournisseurs sous garde-fou strict des lois résultant en particulier du travail actuel d’Alain.

MAIS…

Il y a un mais. Les lois et règlements doivent anticiper mais sans castrer. Si on avait beaucoup réfléchi en 1900 au futur développement de l’automobile ou de l’aviation, beaucoup anticipé les problèmes potentiels qui se sont finalement avérés au cours de ce siècle, et pondu à l’époque les règlements, lois et contraintes actuels, ces industries auraient été tuées dans l’œuf et on ne profiterait pas de nos jours des bienfaits de l’avion ou de la voiture ; malgré des drames de temps en temps, toujours trop fréquents, mais finalement assez rares. La balance penche largement du bon côté.

C’est un des aspects sensibles du sujet : si on veut bénéficier des apports actuels et futurs de la robotique, tout en réduisant au maximum les risques – et il y aura probablement quelques accidents – il faut être vigilent, réactif, anticiper un peu, mais sans être par top castrateur.

Vous me prenez pour un rêveur ? On serait très très loin de ces robots intelligents et apprenants, trop loin même pour ne serait-ce qu’y penser ? Bien sûr, vous n’avez pas tort. Il reste beaucoup de chemin à faire, et nous sommes dans de l’anticipation que l’on souhaite féconde. Mais pas tant que ça : n’oubliez jamais qu’il y a sur Terre, en ce moment, plus de chercheurs et d’explorateurs de nouveautés que le nombre total qu’il y en a eu depuis le début de l’humanité. L’humanité va faire plus d’inventions, grandes et petites, dans les deux décennies qui viennent que depuis le début de son histoire. Et ce sera encore le cas pour les deux décennies d’après ; et celles d’après encore… Ce qui devient accessible à l’homme vient vite.

Merci Alain pour ce travail fondateur, pour cette approche originale et prospective.

La société, nous tous, moi dans quelques décennies, auront besoin de robots et seront sécurisés par les valeurs des fournisseurs sous garde-fou strict des lois résultant en particulier du travail actuel d’Alain.

Préface

d’Olivier Guilhem

Directeur juridique d’Aldebaran Robotics

L’ouvrage que nous livrent aujourd’hui Maîtres Alain et Jérémy Bensoussan doit être salué tant par sa volonté de faire évoluer un corpus juridique parfois inadéquat, que par les nécessaires interrogations morales et éthiques soulevées par une matière sur le point de révolutionner notre monde et nos rapports sociétaux.

Cette maïeutique sur la nécessité de fixer un cadre légal et/ou éthique aux robots est par ailleurs largement engagée. Nous pouvons citer le projet européen Robolaw tendant à établir des lignes directrices pouvant servir à l’encadrement de la robotique, les lois américaines relatives aux véhicules autonomes, la préparation de la doctrine de l’armée américaine concernant l’usage des systèmes militaires inhabités et robotiques…

Si la réflexion est engagée elle reste cependant inachevée. Tout reste à construire aussi bien sur le plan juridique qu’éthique. À titre d’exemple, la définition même du terme « robot » n’est à ce jour toujours pas fixée. Cette courte préface ne peut prétendre appréhender et traiter la globalité de cette épineuse question.

Toutefois, il est permis de souligner qu’un robot est un bien singulier. À la différence de nombreux objets, un robot possède (possèdera) une composante immatérielle supplémentaire. Cette composante immatérielle résulte de son autonomie et de ses capacités d’interaction avec l’environnement (homme inclus).

L’autonomie ne fait pas référence à une capacité technique (autonomie de la batterie) ou opérationnelle (se mouvoir). L’autonomie vise ici une autonomie décisionnelle. Elle implique l’absence d’opérateur et une prise en considération de l’environnement.

L’interaction implique a minima un échange bidirectionnel. L’environnement agit sur le robot et le robot agit sur lui. Ces influences réciproques induisent une capacité d’apprentissage et font de chaque robot une machine unique.

Aux capacités techniques, que peut avoir tout objet, vient donc s’ajouter au robot une dimension immatérielle liée à l’autonomie décisionnelle et à la capacité d’interaction. Cet ensemble lui confère un caractère unique ainsi qu’une capacité cognitive et sociale.

En définitive, un robot apparaît comme un système mécatronique technico-cognitif complexe.

Dès lors, sans verser dans du « droit d’anticipation », nous pouvons nous demander si notre droit a parfaitement anticipé cette autonomie, cette complexité ou encore les conséquences liées à l’apprentissage ?

Notre système juridique a largement démontré sa capacité à appréhender de nouveaux biens et services et à faire face aux génies et aux démons des hommes. Ceci n’a cependant jamais, et ne devra jamais, empêcher le législateur de l’amender ou de le compléter au besoin.

Légiférer en la matière offrirait, sans attendre, aux acteurs du secteur un avantage compétitif et un cadre clair dans lequel ils s’épanouiraient à l’abri de toute imprévision. Ces règles permettraient à l’utilisateur de se sentir sécurisé et confiant vis-à-vis d’une science robotique ainsi maîtrisée. Un organisme de certification, par exemple, pourrait répondre à ce besoin légitime de l’utilisateur.

D’un point de vue opérationnel, une évolution semble nécessaire dans de nombreux domaines. Notamment en matière de marques et de douanes qui semblent ignorer l’existence même des robots.

Il est aussi intéressant d’analyser le régime de responsabilité du fait des produits défectueux. Organisé par les articles 1386-1 sq., ce régime met en jeu la responsabilité sans faute du producteur lorsque qu’un produit, un robot, n’offre pas la sécurité à laquelle on peut légitimement s’attendre. La responsabilité du producteur est établie sans considérer la complexité, l’autonomie et l’apprentissage.

En intervenant pour encadrer les drones, les voitures autonomes, le législateur a déjà mis un pied dans le monde de la robotique. Reste maintenant à souhaiter que ces interventions législatives ne se fassent pas par à-coups mais s’inscrivent dans une vision plus large et pérenne de la robotique et de son industrie.

Principales abréviations

Ann. Propr. Ind. : Annales de la propriété industrielle.

ANSM : Agence nationale de sécurité du médicament et des produits de santé.

Arcep : Autorité de régulation des communications électroniques et des postes.

ATILF : Analyse et traitement informatique de la langue française.

BCG : Boston Consulting Group.

CA : Cour d’appel.

Cass. com. : Cour de cassation, chambre commerciale.

Cass. crim. : Cour de cassation, chambre criminelle.

CDN : Certificat de navigabilité.

CE : Conseil d’État.

CES : Consumer Electronics Show.

CNRS : Centre national de la recherche scientifique.

CNRTL : Centre national de ressources textuelles et lexicales.

Cerna : Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene.

Cnil : Commission nationale de l’informatique et des libertés.

CNNum : Conseil national du numérique.

C. civ. : Code civil.

C. consom. : Code de la consommation.

C. pén. : Code pénal.

C. proc. pén. : Code de procédure pénale.

CPI : Code de la propriété intellectuelle.

C. santé publ. : Code de la santé publique.

D. : Recueil Dalloz.

Décis. : Décision.

Décr. : Décret.

Délib. : Délibération.

DGAC : Direction générale de l’aviation civile.

DGCIS : Direction générale de la compétitivité, de l’industrie et des services.

Dir. : Directive.

EASA : European Aviation Safety Agency.

FAA : Agence fédérale américaine de l’aviation civile.

IHM : Interface home-machine.

IFR : International Federation of Robotics.

Inpi : Institut national de la propriété industrielle.

ITS : Intelligent Transport Services.

MAP : Manuel d’activité particulière.

MEMS : Micro Electro Mechanical System.

MIT : Massachusetts Institute of Technology.

MRIS : Mission pour la Recherche et l’Innovation Scientifique.

OACI (ICAO en anglais) : Organisation de l’Aviation Civile Internationale.

Pipame : Pôle interministériel de Prospective et d’Anticipation des Mutations économiques.

RPAS : Remotely Piloted Aircraft System (Système d’aéronef piloté à distance).

SLA : Service Level Agreement.

SGDSN : Secrétariat général de la défense et de la sécurité nationale.

STAD : Système de traitement automatisé de données.

STI : Systèmes de transport intelligents.

TGI : Tribunal de grande instance.

UAV : Unmanned Aerial Vehicle.

UAS : Unmanned Aircraft System.

Sommaire

Avant-propos

Préface

Préface

Principales abréviations

Introduction

1. L’approche générale

2. L’éthique