Está en la página 1de 24

Parlement europen

2014-2019

Commission des affaires juridiques

2015/2103(INL)
31.5.2016

PROJET DE RAPPORT
contenant des recommandations la Commission concernant des rgles de
droit civil sur la robotique
(2015/2103(INL))
Commission des affaires juridiques
Rapporteure: Mady Delvaux
(Initiative article 46 du rglement)

PR\1095387FR.doc

FR

PE582.443v01-00
Unie dans la diversit

FR

PR_INL
SOMMAIRE
Page
PROPOSITION DE RSOLUTION DU PARLEMENT EUROPEN .................................... 3
ANNEXE LA PROPOSITION DE RSOLUTION: RECOMMANDATIONS
DTAILLES CONCERNANT LE CONTENU DE LA PROPOSITION DEMANDE .... 14
EXPOS DES MOTIFS........................................................................................................... 22

PE582.443v01-00

FR

2/24

PR\1095387FR.doc

PROPOSITION DE RSOLUTION DU PARLEMENT EUROPEN


contenant des recommandations la Commission concernant des rgles de droit civil sur
la robotique
(2015/2103(INL))
Le Parlement europen,

vu l'article 225 du trait sur le fonctionnement de l'Union europenne,

vu les articles 46 et 52 de son rglement,

vu le rapport de la commission des affaires juridiques et les avis de la commission de


l'emploi et des affaires sociales, de la commission de l'environnement, de la sant
publique et de la scurit alimentaire, de la commission de l'industrie, de la recherche et
de l'nergie ainsi que de la commission du march intrieur et de la protection des
consommateurs (A8-0000/2016),

Introduction
A.

considrant que, de la crature de Frankestein imagine par Mary Shelley au mythe


antique de Pygmalion, en passant par le golem de Prague et le robot de Karel apek
(inventeur du terme), les humains ont, de tous temps, rv de construire des machines
intelligentes, le plus souvent des androdes figure humaine;

B.

considrant que, maintenant que l'humanit se trouve l'aube d'une re o les robots, les
algorithmes intelligents, les androdes et les autres formes d'intelligence artificielle, de
plus en plus sophistiqus, semblent tre sur le point de dclencher une nouvelle
rvolution industrielle qui touchera trs probablement toutes les couches de la socit, il
est d'une importance pour le lgislateur d'examiner toutes les consquences d'une telle
rvolution;

C.

considrant qu'entre 2010 et 2014, les ventes de robots ont augment en moyenne de
17 % par an, qu'elles ont connu en 2014 leur plus forte augmentation annuelle (29 %) et
que les quipementiers automobiles et le secteur de l'lectronique sont les deux
principaux moteurs de cette croissance; que le nombre annuel de demandes de brevets
dans le domaine de la robotique a tripl au cours des dix dernires annes;

D.

considrant qu' court ou moyen terme, la robotique et l'intelligence artificielle


promettent une grande efficacit et des conomies consquentes, non seulement dans la
production et le commerce, mais galement dans des domaines tels que le transport, les
soins mdicaux, l'ducation et l'agriculture, tout en permettant d'viter d'exposer des
tres humains des conditions dangereuses, par exemple lors des oprations de
nettoyage de sites pollus par des substances toxiques; qu' long terme, il serait possible
d'accder une prosprit quasiment illimite;

E.

considrant que, dans le mme temps, le dveloppement de la robotique et de


l'intelligence artificielle pourrait avoir pour consquence l'accomplissement par des
robots d'une grande partie des tches autrefois dvolues aux tres humains; que cette

PR\1095387FR.doc

3/24

PE582.443v01-00

FR

hypothse s'avre proccupante pour l'avenir de l'emploi et la viabilit des rgimes de


scurit sociale, si l'assiette de contributions actuelle est maintenue; qu'elle pourrait
dboucher sur un creusement des ingalits dans la rpartition des richesses et de
l'influence;
F.

considrant qu'il existe d'autres sujets de proccupation, tels que la scurit physique,
par exemple en cas de dfaillance du programme d'un robot, ou encore les consquences
possibles d'une dfaillance du systme ou du piratage de robots connects et de
systmes robotiques une poque o des applications de plus en plus autonomes sont
utilises, ou le seront bientt, qu'il s'agisse de vhicules, de drones, de robots de soins
la personne ou de robots utiliss des fins de maintien de l'ordre et de fonctions de
police;

G.

considrant que de nombreuses questions fondamentales lies la protection des


donnes font dj l'objet d'un examen dans le contexte plus gnral de l'internet ou du
commerce en ligne, mais qu'il pourrait s'avrer ncessaire d'examiner plus avant certains
aspects ayant trait la proprit des donnes et la protection des donnes caractre
personnel et de la vie prive, tant donn que les applications et les appareils
communiqueront entre eux et avec des bases de donnes sans intervention humaine,
voire mme l'insu des humains;

H.

considrant que les "consquences invisibles" pour la dignit humaine peuvent s'avrer
difficiles quantifier, mais qu'elles devront tout de mme tre envisages si les soins et
la compagnie d'un robot remplacent les soins et la compagnie d'un humain; que la
question de la dignit humaine peut galement tre souleve dans le contexte de la
rparation ou de l'amlioration du corps humain;

I.

considrant qu'il est possible, en fin de compte, qu'en l'espace de quelques dcennies,
l'intelligence artificielle surpasse les capacits intellectuelles humaines, ce qui pourrait,
si l'on ne s'y prpare pas, mettre en pril la capacit de l'humanit contrler sa propre
cration et, ds lors, tre matresse de son propre destin et assurer la survie de
l'espce;

J.

considrant que plusieurs pays trangers, tels les tats-Unis, le Japon, la Chine et la
Core du Sud, envisagent des mesures rglementaires dans le domaine de la robotique
et de l'intelligence artificielle, et qu'ils ont mme dj pris certaines mesures en ce sens;
que certains tats membres ont galement commenc rflchir d'ventuelles
modifications apporter la lgislation en vigueur afin de tenir compte de l'mergence
de nouvelles applications de ces technologies;

K.

considrant que l'industrie europenne pourrait se voir avantage par une dmarche
rglementaire cohrente au niveau de l'Union, qui dfinisse des conditions prvisibles et
suffisamment claires dans le cadre desquelles les entreprises puissent concevoir des
applications et mettre au point leur stratgie au niveau europen; qu'il convient de
veiller ce que l'Union et les tats membres gardent le contrle sur les normes
rglementaires dfinir, pour ne pas avoir adopter des normes dfinies par d'autres,
par exemple par des tats tiers qui sont eux aussi la pointe du dveloppement de la
robotique et de l'intelligence artificielle, et s'y tenir;

Principes gnraux
PE582.443v01-00

FR

4/24

PR\1095387FR.doc

L.

considrant que, jusqu' ce que les robots deviennent conscients de leur propre
existence, ou soient fabriqus ainsi dessein, si tant est que cela advienne un jour, il y a
lieu de considrer les lois d'Asimov1 comme s'appliquant aux concepteurs, aux
fabricants et aux utilisateurs de robots, tant donn que lesdites lois ne peuvent tre
traduites en langage de programmation;

M.

considrant qu'il est nanmoins ncessaire de dfinir une srie de rgles, notamment en
matire de responsabilit et de dontologie, qui refltent les valeurs intrinsquement
europennes et humanistes qui caractrisent la contribution de l'Europe la socit;

N.

considrant que l'Union europenne pourrait jouer un rle essentiel dans la dfinition de
principes thiques fondamentaux respecter lors de la conception, la programmation et
l'utilisation de robots et d'intelligences artificielles et lors de l'intgration de ces
principes dans les rglements et codes de conduite de l'Union, dans le but de faonner la
rvolution technologique pour qu'elle soit au service de l'humanit et afin que le plus
grand nombre tire parti de la robotique et de l'intelligence artificielle de pointe, tout en
vitant, autant que faire se peut, les cueils potentiels;

O.

considrant qu'il y a lieu d'adopter, au niveau europen, une approche graduelle,


pragmatique et prudente, telle que la prconisait Jean Monnet2;

P.

considrant qu'il convient, eu gard l'tat d'avancement de la robotique et de


l'intelligence artificielle, de commencer envisager les questions de responsabilit
civile; qu'en la matire, une approche fonde sur la responsabilit stricte, reposant sur la
dtermination de l'acteur le mieux plac pour assurer, serait peut-tre le meilleur point
de dpart;

Responsabilit
Q.

considrant que, grce aux impressionnants progrs de la technique au cours des dix
dernires annes, non seulement les robots contemporains sont capables de mener bien
des tches qui relevaient autrefois exclusivement de la comptence humaine, mais
encore que la mise au point de fonctionnalits autonomes et cognitives (comme la
capacit de tirer des leons de l'exprience ou de prendre des dcisions indpendantes)
rapprochent davantage ces robots du statut d'acteurs interagissant avec leur
environnement et pouvant le modifier de manire significative; que, dans un tel
contexte, la question de la responsabilit juridique en cas d'action dommageable d'un
robot devient une question cruciale;

(1) Un robot ne peut attenter la scurit d'un tre humain, ni, par inaction, permettre
qu'un tre humain soit mis en danger. (2) Un robot doit obir aux ordres d'un tre
humain, sauf si ces ordres entrent en conflit avec la premire loi. (3) Un robot doit
protger sa propre existence tant que cela n'entre pas en conflit avec la premire ou la
deuxime loi. (Voir I. Asimov, Cercle vicieux (Runaround, 1942)). (0) Un robot ne
peut faire de mal l'humanit, ni, par inaction, permettre que l'humanit soit mise en
danger.
Dans la dclaration Schuman (1950): "L'Europe ne se fera pas d'un coup, ni dans une
construction d'ensemble: elle se fera par des ralisations concrtes crant d'abord une
solidarit de fait."

PR\1095387FR.doc

5/24

PE582.443v01-00

FR

R.

considrant que l'autonomie d'un robot peut tre dfinie comme la capacit prendre
des dcisions et les mettre en pratique dans le monde extrieur, indpendamment de
tout contrle ou influence extrieurs; que cette autonomie est de nature purement
technique et que le degr d'autonomie dpend du degr de complexit des interactions
avec l'environnement prvu par le programme du robot;

S.

considrant que, plus un robot est autonome, moins il peut tre considr comme un
simple outil contrl par un autre acteur (le fabricant, le propritaire, l'utilisateur, etc.);
qu' cet gard, les rgles ordinaires en matire de responsabilit s'avrent insuffisantes,
et qu'il y a lieu d'adopter de nouvelles rgles permettant d'imputer (totalement ou
partiellement) une machine ses actes ou son inaction; que par consquent, il devient
imprieux de trancher la question fondamentale de l'octroi ou non aux robots d'une
personnalit juridique;

T.

considrant qu' terme, l'autonomie des robots pose la question de leur nature et de leur
appartenance l'une des catgories juridiques existantes (personnes physiques,
personnes morales, animaux ou objets?) ou de la ncessit de crer une nouvelle
catgorie aux caractristiques propres, qui entrane des consquences bien spcifiques
concernant les droits et les devoirs, y compris la responsabilit en cas de dommages;

U.

considrant qu'en vertu du cadre juridique actuel, les robots ne peuvent tre tenus
responsables de leurs actes ou de leur inaction en cas de dommages causs des tiers;
que les rgles en vigueur en matire de responsabilit couvrent uniquement les cas o la
cause de l'action ou de l'inaction du robot peut tre identifie comme imputable un
acteur humain prcis (fabricant, propritaire ou utilisateur) et o cet acteur pourrait
avoir prvu et donc vit le comportement dommageable du robot; qu'en outre, les
fabricants, les propritaires ou les utilisateurs pourraient tre tenus comme
exclusivement responsables des actes ou de l'inaction d'un robot si, par exemple, le
robot tait class comme objet dangereux ou s'il relevait des rgles sur la responsabilit
du fait des produits;

V.

considrant que, dans l'hypothse ou un robot puisse prendre des dcisions de manire
autonome, les rgles habituelles ne suffiraient pas tablir la responsabilit du robot,
puisqu'elles ne permettraient pas de dterminer quelle est la partie responsable pour le
versement des dommages et intrts ni d'exiger de cette partie qu'elle rpare les dgts
causs;

X.

considrant que les lacunes du cadre juridique actuellement en vigueur sont patentes
dans le domaine de la responsabilit contractuelle, tant donn que l'existence de
machines conues pour choisir un co-contractant, ngocier des clauses contractuelles,
conclure un contrat et dcider o et quand appliquer ledit contrat rend les rgles
habituelles inapplicables, ce qui souligne la ncessit de mettre au point de nouvelles
rgles actualises;

Y.

considrant qu'en ce qui concerne la responsabilit non contractuelle, la directive


85/374/CEE du Conseil du 25 juillet 19851 ne couvre que les dommages causs par les

Directive 85/374/CEE du Conseil du 25 juillet 1985 relative au rapprochement des


dispositions lgislatives, rglementaires et administratives des tats membres en
matire de responsabilit du fait des produits dfectueux (JO L 210 du 7.8.1985,

PE582.443v01-00

FR

6/24

PR\1095387FR.doc

dfauts de fabrication d'un robot, condition galement que la victime puisse apporter
des preuves des dommages, du dfaut du produit et de la relation de cause effet entre
les dommages et le dfaut (responsabilit stricte ou responsabilit sans faute);
Z.

considrant que, nonobstant le champ d'application de la directive 85/374/CEE, le cadre


juridique actuellement en vigueur ne suffirait pas couvrir les dommages causs par la
nouvelle gnration de robots, puisque celle-ci peut tre quipe de capacits
d'adaptation et d'apprentissage qui entranent une certaine part d'imprvu dans leur
comportement, tant donn que ces robots tireraient, de manire autonome, des
enseignements de leurs expriences, ncessairement variables de l'un l'autre, et
interagiraient avec leur environnement de manire unique et imprvisible;

Principes gnraux concernant le dveloppement de la robotique et de l'intelligence


artificielle usage civil
1.

demande la Commission de proposer une dfinition europenne commune des


diffrentes catgories de robots autonomes et intelligents, compte tant tenu des
caractristiques suivantes des robots intelligents:
o

acquisition d'autonomie grce des capteurs et/ou l'change de donnes avec


l'environnement (interconnectivit); change et analyse de donnes;

capacit d'auto-apprentissage (critre facultatif);

prsence d'une enveloppe physique;

adaptation du comportement et des actes l'environnement;

2.

estime qu'il y a lieu de crer un registre des robots avancs et demande la Commission
de dfinir des critres de classification des robots en vue de dterminer pour quelles
catgories de robots l'inscription au registre devrait tre obligatoire;

3.

souligne que de nombreuses applications de la robotique n'en sont qu'au stade


exprimental; se flicite de ce qu'un nombre croissant de projets soit financ par des
fonds nationaux et europens; demande la Commission et aux tats membres de
renforcer les instruments financiers destins soutenir les projets de recherche dans les
domaines de la robotique et des TIC; insiste sur l'importance d'allouer suffisamment de
ressources la recherche de solutions aux dilemmes sociaux et thiques que soulvent
les progrs de la technique et de ses applications;

4.

demande la Commission de soutenir les programmes de recherche qui comprennent


un mcanisme de vrification des rsultats court terme afin de comprendre quels
risques et quels avantages rels comporte la diffusion de ces technologies; demande la
Commission de consentir le maximum d'efforts afin de veiller une transition sans
heurts de la recherche la commercialisation pour ces technologies;

Principes thiques

p. 29).
PR\1095387FR.doc

7/24

PE582.443v01-00

FR

5.

relve que tout le potentiel d'amlioration du quotidien que recle, pour l'tre humain, le
recours la robotique est mettre en regard d'un ensemble de tensions ou de risques lis
la scurit, la vie prive, l'intgrit, la dignit, l'autonomie et la proprit des
donnes;

6.

estime qu'il est ncessaire de mettre au point un cadre thique pour la conception, la
fabrication et l'utilisation des robots qui complte utilement les recommandations
juridiques du prsent rapport ainsi que l'acquis national et de l'Union existant; propose,
en annexe la prsente rsolution, un tel cadre, sous forme de charte tablissant un code
de conduite pour les ingnieurs en robotique, une dontologie pour les comits d'thique
de la recherche lorsqu'ils examinent les protocoles de robotique, et un ensemble de
licences-type pour les concepteurs et les utilisateurs;

7.

souligne que le cadre thique de rfrence devrait se fonder sur les principes de
bienfaisance, de non-malfaisance et d'autonomie, ainsi que sur les principes consacrs
par la charte des droits fondamentaux de l'Union europenne, tels que la dignit
humaine, les droits de l'homme, l'galit, la justice et l'quit, la non-discrimination et la
non-stigmatisation, l'autonomie et la responsabilit individuelle, le consentement clair
et le respect de la vie prive et la responsabilit sociale, ainsi que sur les pratiques et
codes dontologiques existants;

Une agence europenne


8.

invite la cration d'une agence europenne pour la robotique et l'intelligence


artificielle, destine fournir l'expertise technique, thique et rglementaire ncessaire
pour soutenir les acteurs publics concerns, tant au niveau de l'Union que des tats
membres, dans leur effort pour garantir une raction rapide et claire face aux
avantages et aux inconvnients du progrs technique dans le domaine de la robotique;

9.

estime que le potentiel que recle l'utilisation de robots et la dynamique


d'investissement actuelle justifieraient que cette agence soit dote d'un budget appropri
et compte, parmi son personnel, des experts en rglementation, des experts techniques et
des experts en dontologie qui se consacrent surveiller, d'un point de vue
multisectoriel et pluridisciplinaire, les applications de la robotique, dfinir des normes
sur lesquelles fonder les meilleures pratiques et, le cas chant, recommander des
mesures rglementaires, dfinir de nouveaux principes et rsoudre d'ventuels
problmes en matire de protection du consommateur et des problmes systmiques;
demande la Commission et l'agence en question de prsenter un rapport annuel au
Parlement sur les dernires volutions dans le domaine de la robotique;

Droits de proprit intellectuelle et circulation des donnes


10.

relve qu'il n'existe aucune disposition juridique qui s'applique spcifiquement la


robotique, mais que les rgimes et doctrines juridiques existants peuvent s'appliquer en
l'tat ce domaine, certains aspects ncessitant nanmoins un examen approfondi;
demande la Commission d'adopter une approche quilibre en matire de droits de
proprit intellectuelle appliqus aux normes relatives au matriel et aux logiciels, et de
proposer des codes qui protgent l'innovation tout en l'encourageant; demande la
Commission de dfinir des critres de "cration intellectuelle propre" applicables aux
uvres protgeables par droit d'auteur cres par des ordinateurs ou des robots;

PE582.443v01-00

FR

8/24

PR\1095387FR.doc

11.

demande la Commission et aux tats membres de veiller l'introduction, en accord


avec les principes de ncessit et de proportionnalit, de garanties de protection de la
vie prive et des donnes lors de l'laboration de toute politique de l'Union en matire
de robotique; demande, cet gard, la Commission d'encourager la mise au point de
normes dans les domaines de la protection intgre de la vie prive, de la protection de
la vie prive par dfaut, du consentement clair et du chiffrage;

12.

souligne que l'utilisation des donnes caractre personnel comme "monnaie"


permettant d'"acheter" des services soulve des difficults d'un genre nouveau, qui
mriteraient d'tre claircies; souligne qu'une telle utilisation des donnes caractre
personnel ne doit pas entraner le contournement des principes fondamentaux du droit
au respect de la vie prive et la protection des donnes;

Normalisation, sret et scurit


13.

demande la Commission de poursuivre ses travaux relatifs l'harmonisation des


normes techniques au niveau international, notamment en coopration avec les
organismes europens de normalisation et l'Organisation internationale de
normalisation, afin d'viter le morcellement du march intrieur et de rpondre aux
inquitudes des consommateurs; demande la Commission d'analyser la lgislation
europenne existante afin de vrifier s'il est ncessaire de l'adapter l'volution de la
robotique et de l'intelligence artificielle;

14.

souligne qu'il est indispensable d'essayer les robots en conditions relles afin de
dterminer et d'valuer les risques qu'ils peuvent prsenter ainsi que leur degr
d'avancement technique au-del du stade purement exprimental en laboratoire;
souligne, cet gard, que les essais en conditions relles, en particulier dans les villes et
sur les routes, posent de nombreux problmes et ncessitent un mcanisme de suivi
efficace; demande la Commission de dfinir des critres uniformes l'intention des
tats membres pour que ceux-ci puissent dfinir les domaines dans lesquels les
expriences avec des robots sont autorises;

Vhicules autonomes
15.

estime que le secteur automobile est celui qui a le plus besoin de rgles europennes et
internationales pour que les vhicules automatiss puissent se dvelopper et pour que le
potentiel conomique de ces vhicules puisse tre pleinement exploit, ce qui permettra
de bnficier des effets positifs des tendances technologiques; souligne qu'un
morcellement des approches rglementaires entraverait leur mise en application et
freinerait la comptitivit europenne; relve que, bien qu'il ne soit pas ncessaire, dans
l'immdiat, d'adapter l'existence des vhicules autonomes les rgles du droit
international priv sur les accidents de la route applicables au sein de l'Union, une
simplification du double systme qui permet actuellement de dterminer la loi
applicable (systme fond sur le rglement (CE) n 864/2007 du Parlement europen et
du Conseil1 et sur la convention de La Haye de 1971 sur la loi applicable en matire
d'accidents de la circulation routire) amliorerait la scurit juridique et limiterait les
Rglement (CE) n 864/2007 du Parlement europen et du Conseil du 11 juillet 2007
sur la loi applicable aux obligations non contractuelles (Rome II) (JO L 199 du
31.7.2007, p. 40).

PR\1095387FR.doc

9/24

PE582.443v01-00

FR

possibilits de choisir la lgislation la moins stricte;


Robots de soins la personne
16.

souligne que le contact humain est l'un des aspects fondamentaux des soins la
personne; estime que le remplacement des humains par des robots pourrait entraner une
dshumanisation des soins la personne;

Robots mdicaux
17.

souligne l'importance de fournir aux mdecins et aux aides-soignants une formation et


une prparation appropries afin de s'assurer du plus haut niveau de comptence
professionnelle possible et de protger la sant des patients; souligne la ncessit de
dfinir des exigences professionnelles minimum qu'un chirurgien devrait remplir pour
qu'il lui soit permis d'utiliser des robots chirurgicaux; insiste sur l'importance toute
particulire que revt la formation, pour que les utilisateurs puissent se familiariser avec
les exigences techniques du domaine; attire l'attention sur la tendance mergente qui
consiste, pour les patients, effectuer eux-mmes un diagnostic l'aide d'un robot,
robot qui risque, terme, de remplacer le mdecin;

Rparation et amlioration du corps humain


18.

relve le grand potentiel de la robotique dans le domaine de la rparation d'organes


endommags et du rtablissement de fonctions corporelles amoindries, mais relve
galement les questions complexes souleves notamment par les possibilits en matire
d'amlioration du corps humain; demande la cration de comits d'thique sur la
robotique dans les hpitaux et dans les autres tablissements de soins de sant; estime
que le rle de ces comits devrait tre d'examiner, afin d'aider le rsoudre, tout
problme thique pineux et inhabituel concernant des questions ayant une incidence
sur les soins et le traitement des patients; demande la Commission et aux tats
membres d'laborer des lignes directrices relatives la cration et au fonctionnement de
ces comits;

Drones (systmes d'aronefs tlpilots, RPAS)


19.

souligne l'importance de disposer d'un cadre europen pour les systmes d'aronefs
tlpilots afin de prserver la sret, la scurit et la vie prive des citoyens de l'Union,
et demande la Commission d'appliquer les recommandations de la rsolution du
Parlement europen du 29 octobre 2015 sur l'utilisation sre des systmes d'aronefs
tlpilots (RPAS), plus connus sous le nom de vhicules ariens sans pilote (UAV),
dans le domaine de l'aviation civile1;

Prvisions en matire de formation et d'emploi


20.

attire l'attention sur les prvisions de la Commission l'horizon 2020, selon lesquelles il
y aurait cette date, en Europe, une pnurie de 825 000 professionnels des TIC et 90 %
des emplois ncessiteraient de possder des comptences numriques de base; salue
l'initiative de la Commission de proposer une feuille de route pour l'utilisation et la
Textes adopts de cette date, P8_TA(2015)0390.

PE582.443v01-00

FR

10/24

PR\1095387FR.doc

rvision ventuelles d'un cadre sur les comptences numriques comprenant une
description des comptences numriques pour tous les niveaux d'apprentissage;
21.

estime qu'il y a lieu, dans l'intrt du secteur numrique, des femmes elles-mmes et de
l'conomie europenne, d'inciter davantage de jeunes femmes choisir une carrire dans
le numrique et d'accorder davantage d'emplois dans le secteur des femmes; demande
la Commission et aux tats membres de lancer des initiatives de soutien aux femmes
dans les TIC et d'amlioration des comptences numriques des femmes;

22.

demande la Commission de commencer suivre de plus prs les tendances de


l'emploi, en s'intressant plus prcisment la cration et la perte d'emplois dans les
diffrents domaines de comptences, afin de savoir dans quels domaines l'utilisation
accrue des robots cre des emplois et dans quels domaines elle en dtruit;

23.

estime que, compte tenu des effets potentiels du dveloppement et du dploiement de la


robotique et de l'intelligence artificielle sur l'emploi et donc sur la viabilit des rgimes
de scurit sociale des tats membres, il y a lieu d'envisager la ncessit de dfinir des
exigences de notification de la part des entreprises sur l'tendue et la part de la
contribution de la robotique et de l'intelligence artificielle leurs rsultats financiers,
des fins de fiscalit et de calcul des cotisations de scurit sociale; est d'avis qu'eu gard
aux effets potentiels, sur le march du travail, de la robotique et de l'intelligence
artificielle, il convient d'envisager srieusement l'instauration d'un revenu universel de
base, et invite l'ensemble des tats membres y rflchir;

Responsabilit
24.

estime que la responsabilit civile des robots est une question cruciale laquelle il
importe de rpondre au niveau de l'Union afin de garantir le mme niveau de
transparence, de cohrence et de scurit juridique dans toute l'Union, dans l'intrt tant
des consommateurs que des entreprises;

25.

demande la Commission de soumettre, sur la base de l'article 114 du trait sur le


fonctionnement de l'Union europenne, une proposition d'instrument lgislatif sur les
aspects juridiques de l'volution prvisible, un horizon de 10 ou 15 ans, de la
robotique et de l'intelligence artificielle, suivant les recommandations dtailles figurant
en annexe; demande en outre la Commission, une fois que les progrs de la technique
auront rendu possible la conception de robots plus autonomes que ce que l'on peut
raisonnablement prvoir l'heure actuelle, de prsenter une rvision des instruments
lgislatifs pertinents en temps utile;

26.

estime que, quelle que soit la solution juridique choisie dans le futur instrument
lgislatif en matire de responsabilit des robots dans les cas autres que des dommages
matriels, ledit instrument ne devrait en aucune manire limiter le type ou l'tendue des
dommages qui peuvent faire l'objet d'un ddommagement, et ne devrait pas non plus
limiter la nature de ce ddommagement, au seul motif que les dommages sont causs
par un acteur non humain;

27.

estime que le futur instrument lgislatif devrait prvoir l'application par dfaut de la
responsabilit stricte, en vertu de laquelle il suffit d'apporter des preuves des dommages
et de la relation de cause effet entre les dommages et le comportement dommageable

PR\1095387FR.doc

11/24

PE582.443v01-00

FR

du robot;
28.

estime qu'en principe, une fois les parties responsables en dernier ressort identifies,
leur responsabilit serait proportionnelle au niveau rel d'instructions donnes au robot
et l'autonomie de celui-ci; ds lors, plus un robot est autonome ou plus sa capacit
d'apprentissage est grande, moindre devrait tre la responsabilit des autres parties et,
plus la priode d'"ducation" du robot a t longue, plus grande devrait tre la
responsabilit de son "enseignant"; relve notamment que, lorsqu'il s'agit de dterminer
la responsabilit relle des dommages, les comptences acquises par un robot au cours
de son "ducation" ne devraient pas tre confondues avec les comptences strictement
dpendantes de sa capacit apprendre de manire autonome;

29.

signale qu'une solution envisageable, face la complexit de l'imputabilit des


dommages causs par des robots de plus en plus autonomes, pourrait rsider dans la
mise en place d'un rgime d'assurance obligatoire, comme c'est dj le cas, entre autres,
pour les automobiles; relve nanmoins que, contrairement au rgime d'assurance des
vhicules routiers, qui couvre les actes et l'inaction des automobilistes, un rgime
d'assurance robotique pourrait reposer sur l'obligation faite au fabricant de contracter
une police d'assurance pour les robots autonomes qu'il fabrique;

30.

estime que, comme c'est le cas pour les vhicules moteur, un tel rgime d'assurance
pourrait tre complt par un fonds, afin de garantir un ddommagement y compris en
l'absence de couverture; demande au secteur de l'assurance de mettre au point de
nouveaux produits, adapts aux progrs de la robotique;

31.

demande la Commission, lorsqu'elle procdera l'analyse d'impact de son futur


instrument lgislatif, d'examiner les consquences de toutes les solutions juridiques
envisageables, telles que:
a)

la mise en place d'un rgime d'assurance obligatoire en vertu duquel, comme c'est
dj le cas pour les vhicules moteur, les fabricants ou les propritaires de
robots seraient tenus de contracter une police d'assurance couvrant les dommages
potentiels causs par les robots;

b)

la mise en place d'un fonds de compensation, qui non seulement garantirait un


ddommagement mme lorsque les dommages causs par un robot ne sont pas
couverts par une assurance (ce qui serait, dans tous les cas, le but premier d'un tel
fonds), mais encore permettrait de mener diverses oprations financires dans
l'intrt du robot, telles que des investissements, des dons ou le versement d'une
rmunration aux robots autonomes intelligents, sommes qui seraient transfres
au fonds;

c)

l'tablissement d'un rgime de responsabilit limite pour le fabricant, le


programmeur, le propritaire ou l'utilisateur, les robots autonomes intelligents
tant dots d'un fonds de compensation (auquel toutes les parties pourraient
contribuer des degrs divers) et les dommages et intrts pour dommages
matriels ne pouvant tre rclams que dans les limites du fond, les autres types
de dommages n'tant soumis aucune limite;

d)

le choix entre la cration d'un fonds gnral pour tous les robots autonomes

PE582.443v01-00

FR

12/24

PR\1095387FR.doc

intelligents ou la cration d'un fonds individuel pour chaque catgorie de robot,


ainsi que le choix entre un versement forfaitaire lors de la mise sur le march du
robot et des versements rguliers tout au long de la vie du robot;
e)

la cration d'un numro d'immatriculation individuel, inscrit dans un registre


spcifique de l'Union, afin de pouvoir toujours associer un robot au fonds dont il
dpend; ce numro permettrait toute personne interagissant avec le robot de
connatre la nature du fonds, les limites en matire de responsabilit en cas de
dommages matriels, les noms et les fonctions des contributeurs et toute autre
information pertinente;

f)

la cration d'une personnalit juridique spcifique aux robots, pour qu'au moins
les robots autonomes les plus sophistiqus puissent tre considrs comme des
personnes lectroniques dotes de droits et de devoirs bien prcis, y compris celui
de rparer tout dommage caus un tiers; serait considr comme une personne
lectronique tout robot qui prend des dcisions autonomes de manire intelligente
ou qui interagit de manire indpendante avec des tiers;

Aspects internationaux
32.

estime ncessaire d'envisager de modifier certains accords internationaux tels que la


convention de Vienne sur la circulation routire et la convention de La Haye en matire
d'accidents de la circulation routire;

33.

encourage fortement la communaut internationale, sous les auspices des Nations unies,
cooprer pour tablir des normes rglementaires;

34.

souligne que les restrictions et les conditions prvues par le rglement relatif aux biens
double usage1 eu gard au commerce des biens double usage (biens, logiciels et
technologies pouvant tre utiliss des fins aussi bien militaires que civiles et/ou
pouvant contribuer la prolifration des armes de destruction massive) devraient
s'appliquer galement aux applications de la robotique;

Considrations finales
35.

demande la Commission de soumettre, sur la base de l'article 225 du trait sur le


fonctionnement de l'Union europenne, une proposition de directive sur des rgles de
droit civil sur la robotique, suivant les recommandations dtailles figurant en annexe;

36.

confirme que ces recommandations respectent les droits fondamentaux et le principe de


subsidiarit;

37.

estime que la proposition demande n'a pas d'incidences financires;

38.

charge son Prsident de transmettre la prsente proposition ainsi que les


recommandations dtailles figurant en annexe la Commission et au Conseil.

Rglement (CE) n 428/2009 du Conseil instituant un rgime communautaire de


contrle des exportations, des transferts, du courtage et du transit de biens double
usage (JO L 341 du 29.5.2009, p. 1).

PR\1095387FR.doc

13/24

PE582.443v01-00

FR

ANNEXE LA PROPOSITION DE RSOLUTION:


RECOMMANDATIONS DTAILLES CONCERNANT LE CONTENU DE LA
PROPOSITION DEMANDE
Dfinition et classification des "robots intelligents"
Il convient d'tablir une dfinition europenne commune des diffrentes catgories de robots
autonomes et intelligents, en y intgrant des dfinitions de leurs sous-catgories le cas
chant, compte tenu des caractristiques suivantes:
la capacit d'acquisition d'autonomie grce des capteurs et/ou l'change de donnes
avec l'environnement (interconnectivit) et l'analyse de donnes;
la capacit d'apprentissage travers l'exprience et l'interaction;
la forme de l'enveloppe physique du robot;
la capacit d'adaptation de son comportement et de ses actes son environnement.
Immatriculation des "robots intelligents"
Il y a lieu de crer un systme d'enregistrement des robots avancs sur la base de critres de
classification des robots, des fins de traabilit et en vue de faciliter la mise en uvre de
recommandations ultrieures. Le systme d'enregistrement et le registre devraient tre
instaurs l'chelle de l'Union, couvrir le march intrieur, et tre grs par une agence
europenne de la robotique et de l'intelligence artificielle.
Responsabilit civile
Quelle que soit la solution juridique choisie en matire de responsabilit des robots dans les
cas autres que des dommages matriels, ledit instrument ne devrait en aucune manire limiter
le type ou l'tendue des dommages qui peuvent faire l'objet d'un ddommagement, et ne
devrait pas non plus limiter la nature de ce ddommagement, au seul motif que les dommages
sont causs par un acteur non humain.
Le futur instrument lgislatif devrait prvoir l'application d'une rgle de responsabilit stricte
pour les dommages causs par des robots "intelligents", en exigeant une simple preuve d'un
lien de causalit entre le comportement dommageable du robot et le dommage subi par la
partie lse.
Il convient de crer un rgime d'assurance robotique reposant ventuellement sur l'obligation
du fabricant de contracter une police d'assurance pour les robots autonomes qu'il fabrique.
Ce rgime d'assurance devrait tre complt par un fonds afin de garantir un
ddommagement, y compris en l'absence de couverture.
Interoprabilit, accs au code source et droits de proprit intellectuelle
Il convient d'assurer l'interoprabilit des robots autonomes connects au rseau qui interagit
entre eux. L'accs au code source devrait tre disponible en cas de besoin afin d'enquter sur
PE582.443v01-00

FR

14/24

PR\1095387FR.doc

les accidents et les dommages causs par des "robots intelligents".


Il y a lieu de fixer des critres de "cration intellectuelle" applicables aux uvres protgeables
par droit d'auteur cres par des ordinateurs ou des robots.
Communication de l'utilisation de robots et de l'intelligence artificielle par les
entreprises
Les entreprises devraient tre tenues de communiquer les informations suivantes:
le nombre de "robots intelligents" qu'elles utilisent,
les conomies ralises en cotisations de scurit sociale grce l'utilisation de la
robotique en lieu et place du personnel humain,
une valuation du montant et de la proportion des recettes de l'entreprise qui
rsultent de l'utilisation de la robotique et de l'intelligence artificielle.
Charte sur la robotique
Lorsqu'elle proposera une nouvelle rglementation en matire de robotique, la Commission
devra tenir compte des principes consacrs dans la charte sur la robotique ci-dessous.
CHARTE SUR LA ROBOTIQUE
La proposition d'un code de conduite thique dans le domaine de la robotique jettera les bases
de l'identification, de la surveillance et du respect des principes thiques fondamentaux ds la
phase de conception et de dveloppement.
Ce cadre doit tre conu d'une manire rflchie permettant d'oprer des ajustements
individuels au cas par cas afin d'valuer si un comportement donn est juste ou erron dans
telle ou telle situation et de prendre des dcisions selon une hirarchie de valeurs prtablie.
Le code ne devrait pas se substituer la ncessit de s'attaquer tous les grands problmes
juridiques dans ce domaine, mais remplir une fonction complmentaire. Il facilitera plutt la
classification thique de la robotique, renforcera les efforts d'innovation responsable dans ce
domaine et rpondra aux proccupations du public.
L'accent devrait tre mis en particulier sur les phases de recherche et de dveloppement de la
trajectoire technologique pertinente (processus de conception, examen thique, contrles
d'audit, etc.). Le code de conduite devrait avoir pour objectif de rpondre la ncessit de
veiller au respect des normes thiques par les chercheurs, les praticiens, les utilisateurs et les
concepteurs, mais galement d'introduire un processus de recherche de solution pour rsoudre
les dilemmes thiques et permettre ces systmes de fonctionner de manire responsable d'un
point de vue thique.
CODE DE CONDUITE THIQUE POUR LES INGNIEURS EN ROBOTIQUE
PRAMBULE
PR\1095387FR.doc

15/24

PE582.443v01-00

FR

Le code de conduite invite l'ensemble des chercheurs et des concepteurs agir de faon
responsable et avec la conscience absolue de la ncessit de respecter la dignit, la vie prive
et la scurit des personnes.
Le code demande une troite collaboration entre toutes les disciplines afin de veiller ce que
la recherche dans le domaine de la robotique dans l'Union europenne soit mene d'une
manire sre, thique et efficace.
Le code de conduite couvre toutes les activits de recherche et de dveloppement dans le
domaine de la robotique.
Le code de conduite est librement consenti et fixe un ventail de principes gnraux et de
lignes directrices pour les actions menes par toutes les parties intresses.
Les organismes de financement de la recherche dans le domaine de la robotique, les centres
de recherche, les chercheurs et les comits d'thique sont invits examiner, au stade le plus
prcoce, les incidences futures des technologies ou objets l'tude et de dvelopper une
culture de responsabilit en vue de relever les dfis et de saisir les occasions qui pourraient se
prsenter l'avenir.
Les organismes publics et privs de financement de la recherche dans le domaine de la
robotique devraient demander la ralisation et la prsentation d'une analyse des risques pour
chaque proposition de financement de la recherche en la matire. Ce code devrait considrer
que la responsabilit incombe l'tre humain et pas aux robots.
Les chercheurs dans le domaine de la robotique devraient s'engager adopter une
conduite stricte en matire d'thique et de dontologie ainsi qu' respecter les principes
suivants:
bienfaisance les robots devraient agir dans l'intrt de l'homme;
non-malfaisance la thorie "d'abord, ne pas nuire ", en vertu de laquelle les robots ne
devraient pas nuire l'homme;
autonomie la capacit de prendre une dcision en connaissance de cause et sans contrainte
quant aux modalits d'interaction avec les robots;
justice rpartition quitable des bnfices lis la robotique et caractre abordable des
robots utiliss dans le domaine des soins domicile et des soins de sant en particulier.
Droits fondamentaux
Les activits de recherche dans le domaine de la robotique devraient respecter les droits
fondamentaux; les activits de conception, de mise en uvre, de diffusion et d'exploitation
devraient quant elles tre au service du bien-tre des personnes et de la socit. La dignit
humaine, tant physique que psychologique, doit toujours tre respecte.
Prcaution
Les activits de recherche dans le domaine de la robotique devraient tre menes en
respectant le principe de prcaution, en anticipant les incidences ventuelles de leurs
PE582.443v01-00

FR

16/24

PR\1095387FR.doc

dbouchs sur la scurit et en prenant toute prcaution utile en fonction du niveau de


protection, tout en stimulant le progrs au bnfice de la socit et de l'environnement.
Ouverture
Les ingnieurs en robotique garantissent la transparence et le respect du droit lgitime d'accs
l'information de toutes les parties intresses. Cette ouverture permet la participation aux
processus de dcision de toutes les parties prenantes participant des activits de recherche
dans le domaine de la robotique ou concernes par celles-ci.
Obligation de rendre compte
Les ingnieurs en robotique devraient tre tenus de rendre compte des incidences sur la
socit, l'environnement et la sant humaine que la robotique pourrait entraner pour les
gnrations actuelles et futures.
Scurit
Les concepteurs de robots devraient considrer et respecter le bien-tre physique, la scurit,
la sant et les droits des personnes. Un ingnieur en robotique doit prserver le bien-tre
humain, tout en respectant les droits de l'homme, et communiquer sans dlai les facteurs qui
pourraient mettre en danger le public ou l'environnement.
Rversibilit
La rversibilit, qui constitue une condition ncessaire de la possibilit de contrle, est un
concept fondamental lors de la programmation de robots afin qu'ils se comportent de manire
sre et fiable. Un modle de rversibilit indique au robot quelles actions sont rversibles et,
le cas chant, la manire de les inverser. La possibilit d'annuler la dernire action ou une
squence d'actions permet aux utilisateurs d'annuler des actions non dsires et de revenir la
"bonne" phase de leur travail.
Protection de la vie prive
Le droit au respect de la vie prive doit toujours tre respect. Un ingnieur en robotique
devrait s'assurer que les informations prives sont conserves en toute scurit et toujours
utilises bon escient. En outre, il devrait garantir que les personnes ne soient pas
identifiables personnellement, hors circonstances exceptionnelles et uniquement en cas de
consentement clair, conscient et dnu d'ambigut. Un consentement conscient de la
personne devrait tre recherch et obtenu pralablement toute interaction homme-machine.
En tant que tels, les ingnieurs en robotique ont la responsabilit de mettre au point et
d'appliquer des procdures pour garantir le consentement valable, la confidentialit,
l'anonymat, le traitement quitable et le respect du droit. Les concepteurs se conformeront
toute demande visant dtruire d'ventuelles donnes y affrentes ou les supprimer d'une
srie de donns.
Optimiser les bnfices et minimiser les prjudices
Les chercheurs devraient viser maximiser les bnfices de leur activit toutes les tapes,
depuis la cration jusqu' la diffusion. Il y a lieu d'viter de porter prjudice aux participants
PR\1095387FR.doc

17/24

PE582.443v01-00

FR

ou aux sujets humains qui prennent part des expriences, des essais ou des tudes dans le
domaine de la recherche. En cas d'apparition de risques invitables et faisant partie intgrante
de la recherche, il convient de procder une valuation solide des risques et d'tablir des
protocoles de gestion des risques rigoureux, et de s'y conformer. Normalement, le risque de
prjudice ne doit pas dpasser celui rencontr dans la vie ordinaire, ce qui signifie que les
personnes ne devraient pas tre exposes des risques suprieurs ou s'ajoutant ceux
auxquels ils sont exposs dans leur vie quotidienne. L'exploitation d'un systme de robotique
devrait toujours reposer sur une valuation approfondie des risques s'appuyant sur les
principes de prcaution et de proportionnalit.
CODE DE DONTOLOGIE POUR LES COMITS D'THIQUE DE LA
RECHERCHE
Principes
Indpendance
Le processus d'examen thique devrait tre indpendant de la recherche elle-mme. Ce
principe souligne la ncessit d'viter les conflits d'intrts entre les chercheurs et les
examinateurs du protocole d'thique ainsi qu'entre les examinateurs et les structures de
gouvernance organisationnelles.
Comptence
Il convient de faire raliser le processus d'examen thique par des valuateurs disposant des
comptences appropries et en tenant compte de la ncessit d'un examen attentif de la
diversit dans la composition et de la formation spcifique en matire d'thique des comits
d'thique de la recherche.
Transparence et obligation de rendre des comptes
Le processus d'valuation devrait tre responsable et en mesure de faire l'objet d'un contrle.
Les comits d'thique de la recherche se doivent de prendre conscience de leurs
responsabilits et d'tre judicieusement placs au sein de structures organisationnelles qui
assurent la transparence du fonctionnement et des procdures de ces comits visant
conserver et examiner les normes.
Rle d'un comit d'thique de la recherche
En rgle gnrale, un comit d'thique de la recherche est charg d'examiner toute recherche
faisant appel des participants humains effectue par des personnes employes dans ou par
l'institution concerne, en veillant ce que l'examen thique soit men de manire
indpendante, comptente et en temps opportun; en protgeant la dignit, les droits et le bientre des participants la recherche; en prenant en considration la scurit des chercheurs; en
tenant compte des intrts lgitimes des autres parties intresses; en rendant un jugement
clair quant au mrite scientifique des propositions; et en faisant des recommandations en
connaissance de cause au chercheur si la proposition est juge inadquate certains gards.
Composition d'un comit d'thique de la recherche
PE582.443v01-00

FR

18/24

PR\1095387FR.doc

En rgle gnrale, un comit d'thique de la recherche devrait: tre pluridisciplinaire; tre


compos d'hommes et de femmes; comprendre des membres ayant une vaste exprience et
une expertise dans la recherche en robotique. Le mcanisme de dsignation devrait veiller ce
que les membres du comit offrent un quilibre appropri entre expertise scientifique et
formation philosophique, thique ou juridique, ainsi qu'une diversit de points de vue. Il
devrait en outre comporter au moins un membre ayant des connaissances spcialises en
matire d'thique ainsi que des utilisateurs de services spcialiss de sant, d'ducation ou de
prestations sociales lorsque ces domaines se trouvent au cur des activits de recherche, et
des personnes ayant des comptences mthodologiques spcifiques en rapport avec la
recherche qu'elles valuent; les comits d'thique de la recherche doivent en outre tre
constitus de manire viter les conflits d'intrt.
Contrle
Tous les organismes de recherche devraient mettre en place des procdures appropries pour
contrler le droulement de la recherche qui a reu le feu vert en matire d'thique jusqu' son
terme, et assurer un examen continu si la conception de la recherche anticipe des volutions
possibles dans le temps qu'il pourrait tre ncessaire de traiter. Les contrles devraient tre
proportionns la nature et l'intensit du risque li la recherche. Lorsqu'un comit
d'thique de la recherche estime qu'un rapport de suivi suscite de vives proccupations quant
au comportement thique de l'tude, il devrait demander un compte rendu dtaill et complet
de la recherche en vue d'un examen thique exhaustif. Dans le cas o il est jug qu'une tude
est mene d'une manire qui est contraire l'thique, le comit devrait envisager le retrait de
son approbation et demander que la recherche soit suspendue ou interrompue.
LICENCE POUR LES CONCEPTEURS
Les concepteurs doivent tenir compte des valeurs europennes de dignit, de libert et de
justice, avant, pendant et aprs le processus de conception, de dveloppement et de fourniture
de ces technologies, y compris la ncessit de ne pas lser, blesser, tromper ou exploiter les
utilisateurs (vulnrables).
Les concepteurs doivent instaurer des principes de conception de systmes fiables dans tous
les aspects du fonctionnement d'un robot, tant pour la conception du matriel et des logiciels
que pour le traitement de donnes "on platform" ou "off platform" des fins de scurit.
Les concepteurs doivent mettre en place des dispositifs conus pour assurer que les
informations prives sont conserves en toute scurit et toujours utilises de manire
approprie.
Les concepteurs doivent intgrer des mcanismes de sortie vidents (boutons d'arrt
d'urgence) qui devraient concorder avec des objectifs de conception raisonnables.
Les concepteurs doivent garantir qu'un robot fonctionne d'une manire conforme aux
principes thiques et juridiques aux niveaux local, national et international.
Les concepteurs doivent veiller ce que les tapes dcisionnelles du robot soient soumises
la reconstruction et la traabilit.

PR\1095387FR.doc

19/24

PE582.443v01-00

FR

Les concepteurs doivent s'assurer qu'une transparence maximale est requise dans la
programmation des systmes robotiques, ainsi que la prvisibilit du comportement des
robots.
Les concepteurs doivent analyser la prvisibilit d'un systme humain-robot en examinant
les incertitudes dans l'interprtation et dans l'action ainsi que d'ventuelles dfaillances des
robots ou de l'homme.
Les concepteurs doivent laborer des outils de traage lors de la phase de conception du
robot. Ces outils permettront de rendre compte et d'expliquer les comportements des robots,
quoique de manire limite, aux diffrents niveaux prvus pour les experts, les oprateurs et
les utilisateurs.
Les concepteurs doivent laborer des protocoles de conception et d'valuation, et collaborer
avec les utilisateurs et les parties intresses potentiels pour valuer les avantages et les
risques de la robotique, y compris sur le plan cognitif, psychologique et environnemental.
Les concepteurs doivent s'assurer que les robots sont identifiables en tant que robots
lorsqu'ils interagissent avec les humains.
Les concepteurs doivent sauvegarder la scurit et la sant des personnes qui interagissent et
entrent en contact avec les robots, tant donn que ces derniers, en tant que produits, doivent
tre conus selon des processus garantissant leur sret et leur scurit. Un ingnieur en
robotique doit prserver le bien-tre humain, tout en respectant les droits de l'homme, et ne
peut pas actionner un robot sans garantir la scurit, l'efficacit et la rversibilit du
fonctionnement du systme.
Les concepteurs doivent obtenir un avis positif d'un comit d'thique de la recherche avant
de tester un robot dans un environnement rel ou impliquant des tres humains dans les
procdures de conception et de dveloppement.
LICENCE POUR LES UTILISATEURS
Les utilisateurs sont autoriss utiliser un robot sans risque ou crainte de prjudice physique
ou psychique.
Les utilisateurs doivent avoir le droit de s'attendre ce qu'un robot effectue toute tche pour
laquelle il a t explicitement conu.
Les utilisateurs doivent tre conscients que tout robot peut comporter des limites de
perception, des limites cognitives et des limites d'actionnement.
Les utilisateurs doivent respecter la fragilit humaine, tant physique que psychologique,
ainsi que les besoins motionnels des personnes.
Les utilisateurs doivent tenir compte du droit la vie prive dont jouissent les individus, y
compris la dsactivation de moniteurs vido au cours de procdures intimes.
Les utilisateurs ne sont pas autoriss collecter, utiliser ou divulguer des informations
personnelles sans le consentement explicite de la personne concerne.
PE582.443v01-00

FR

20/24

PR\1095387FR.doc

Les utilisateurs ne sont pas autoriss utiliser un robot d'une manire qui enfreint les
principes et normes thiques ou juridiques.
Les utilisateurs ne sont pas autoriss modifier des robots pour les utiliser comme des
armes.

PR\1095387FR.doc

21/24

PE582.443v01-00

FR

EXPOS DES MOTIFS

Contexte
En vertu de l'annexe VI du rglement, la commission des affaires juridiques est comptente,
entre autres, pour les questions ayant trait au droit civil et au droit commercial, au droit des
socits, au droit de la proprit intellectuelle, l'interprtation et l'application du droit
international, pour autant que l'Union europenne soit concerne, ainsi qu'aux questions
thiques lies aux nouvelles technologies. L'volution de la robotique et de l'intelligence
artificielle soulve des questions juridiques et thiques qui sont clairement lies l'ensemble
de ces domaines et qui ncessitent une intervention rapide au niveau de l'Union. S'il
appartiendra la Commission de prsenter un jour une ou plusieurs propositions lgislatives
lies la robotique et l'intelligence artificielle, le Parlement europen a dcid d'ouvrir la
voie de telles initiatives en utilisant ses droits au titre de l'article 225 du trait sur le
fonctionnement de l'Union europenne (trait FUE) et de l'article 46 de son rglement.
En consquence, le 20 janvier 2015, la commission JURI a dcid d'instaurer un groupe de
travail sur les questions juridiques lies au dveloppement de la robotique et de l'intelligence
artificielle dans l'Union europenne. L'instauration du groupe de travail avait pour objectif
principal l'laboration de rgles de droit civil dans ce domaine.
Outre les membres de la commission des affaires juridiques, le groupe de travail comprenait
galement des dputs reprsentant la commission de l'industrie, de la recherche et de
l'nergie (ITRE), la commission du march intrieur et de la protection des consommateurs
(IMCO) et la commission de l'emploi et des affaires sociales (EMPL).
Le groupe de travail a consult des experts aux formations trs diverses et a reu des
contributions importantes qui figurent dans la prsente rsolution.
Gnralits
La robotique et l'intelligence artificielle sont devenues l'une des tendances technologiques les
plus marquantes de notre sicle. L'augmentation rapide de leur utilisation et de leur
dveloppement amne de nouveaux dfis, qui sont difficiles grer pour notre socit. La
voie qui mne du secteur industriel au contexte de la socit civile oblige la mise en place
d'une approche diffrente autour de ces technologies, puisque les robots et l'intelligence
artificielle seraient susceptibles d'accrotre leur interaction avec les humains dans des
domaines trs divers.
La commission JURI estime qu'il convient de s'attaquer de toute urgence aux risques poss
par ces nouvelles interactions, en veillant au respect d'un ensemble de valeurs fondamentales
dans toutes les phases de contact entre les robots, l'intelligence artificielle et les humains.
Dans le cadre de ce processus, l'accent devrait tre mis sur la scurit, le respect de la vie
prive, l'intgrit, la dignit et l'autonomie des tres humains.

PE582.443v01-00

FR

22/24

PR\1095387FR.doc

Parmi les autres aspects importants abords dans la prsente rsolution: figurent la
normalisation, les droits de proprit intellectuelle, la proprit des donnes, l'emploi et la
responsabilit. Il est essentiel que le rglement prvoie des conditions suffisamment claires et
prvisibles pour encourager l'innovation europenne dans le domaine de la robotique et de
l'intelligence artificielle.
Base juridique et subsidiarit
L'action de la Commission en vue d'adapter la lgislation existante aux ralits de la robotique
et de l'intelligence artificielle devrait tre fonde sur l'article 114 du trait FUE. Au titre de
l'article 5, paragraphe 3, dudit trait, le principe de subsidiarit prvoit que l'Union intervient
seulement si, et dans la mesure o, les objectifs de l'action envisage ne peuvent pas tre
atteints de manire suffisante par les tats membres, tant au niveau central qu'au niveau
rgional et local, mais peuvent l'tre mieux, en raison des dimensions ou des effets de l'action
envisage, au niveau de l'Union. L'volution de la robotique est actuellement en cours dans
l'ensemble de l'Union. En raction cette innovation, les tats membres sont en train
d'laborer des lgislations nationales diffrentes. Ces disparits sont susceptibles de crer des
obstacles un dveloppement efficace de la robotique. tant donn que cette technologie a
une incidence transfrontalire, la meilleure option lgislative est une option europenne.
Principes gnraux et thiques
La prsente rsolution fixe des principes gnraux et thiques concernant l'volution de la
robotique et de l'intelligence artificielle pour un usage civil. En premier lieu, pour trouver une
solution satisfaisante cette volution, il est essentiel de disposer d'une dfinition commune
des robots autonomes intelligents. En outre, il convient de renforcer la recherche dans le
domaine de la robotique et des technologies de l'information ainsi que des incidences de leur
diffusion.
En deuxime lieu, afin de prendre en compte les principes thiques, une charte sur la
robotique est annexe la prsente rsolution. Cette charte comprend un code de conduite
thique pour les ingnieurs en robotique, un code de dontologie pour les comits d'thique de
la recherche et un ensemble de licences pour les concepteurs et les utilisateurs. Le cadre
propos est pleinement conforme la charte des droits fondamentaux de l'Union.
En outre, il est suggr de crer une agence europenne pour la robotique et l'intelligence
artificielle. Cette agence devrait fournir l'expertise technique, thique et rglementaire
ncessaire pour soutenir les acteurs publics concerns.
Droits de proprit intellectuelle, protection des donnes et proprit des donnes
La prsente rsolution demande la Commission d'adopter une approche quilibre en
matire de droits de proprit intellectuelle appliqus aux normes relatives au matriel et aux
logiciels, et de proposer des codes qui protgent l'innovation tout en l'encourageant. En outre,
la dfinition de critres de "cration intellectuelle propre" applicables aux uvres
protgeables par droit d'auteur cres par des ordinateurs ou des robots est exige.
Le cadre juridique actuel sur la protection et la proprit des donnes est insuffisant, ce qui est
particulirement proccupant en raison du flux de donnes (probablement considrable) qui
rsultera de l'utilisation de la robotique et de l'intelligence artificielle.
PR\1095387FR.doc

23/24

PE582.443v01-00

FR

Normalisation, sret et scurit


L'utilisation croissante des robots et de l'intelligence artificielle ncessite une normalisation au
niveau europen afin d'viter les divergences entre les tats membres et la fragmentation du
march intrieur de l'Union.
En outre, il convient de rpondre aux proccupations des consommateurs en matire de
scurit et de sret lies l'utilisation de robots et de l'intelligence artificielle. La prsente
rsolution souligne prcisment qu'il est indispensable d'essayer les robots en conditions
relles afin de dterminer et d'valuer les risques qu'ils peuvent prsenter.
Rgles d'utilisation particulires des robots et de l'intelligence artificielle
La prsente rsolution contient des dispositions applicables des types spcifiques de robots.
Il convient d'adopter des rgles individuelles pour les vhicules autonomes, les robots de
soins, les robots mdicaux, les robots de rparation et d'amlioration du corps humain ainsi
que les drones (systmes d'aronefs tlpilots).
Rgles relatives la responsabilit juridique
Les risques qui peuvent surgir sont intrinsquement lis l'utilisation de machines autonomes
dans notre socit. Le comportement d'un robot pourrait avoir des implications de droit civil,
la fois en termes de responsabilit contractuelle et non contractuelle. Aussi est-il ncessaire
de procder une clarification de la responsabilit des actions des robots et, terme, de la
capacit juridique et/ou du statut des robots et de l'intelligence artificielle, afin de garantir la
transparence et la scurit juridique pour les producteurs et les consommateurs de l'Union.
La Commission est invite procder l'analyse d'impact de son futur instrument lgislatif
afin d'examiner les consquences de toutes les solutions juridiques envisageables telles que la
mise en place d'un rgime d'assurance obligatoire ainsi que d'un fonds de compensation.
Robotique et intelligence artificielle dans le contexte social
La communication et l'interaction accrues avec les robots sont susceptibles d'avoir une
incidence considrable sur les relations physiques et morales dans notre socit. C'est
particulirement le cas pour des robots de soins auxquels les personnes les plus vulnrables
pourraient s'attacher motionnellement, ce qui serait source d'inquitude pour la dignit
humaine et d'autres valeurs morales.
Les robots et l'intelligence artificielle ont dj une influence sue l'ducation et sur l'emploi.
Dans ce contexte, une surveillance accrue de l'volution dans le domaine de l'emploi est
ncessaire afin d'viter des rpercussions ngatives sur le march de l'emploi.
Aspects internationaux
Compte tenu de l'volution de la robotique et de l'intelligence artificielle partout dans le
monde, il y a lieu d'envisager des initiatives pour modifier, le cas chant, certaines
conventions internationales existantes en la matire, ou d'laborer de nouveaux instruments,
dans l'optique de l'introduction de rfrences spcifiques la robotique et l'intelligence
artificielle. Dans ce domaine, la coopration internationale est fortement souhaitable.
PE582.443v01-00

FR

24/24

PR\1095387FR.doc