Acte préparatoire — 52022SC0320

Résumé de l’analyse d’impact

Analyse d’impact sur l’initiative concernant la responsabilité civile pour les dommages causés par l’IA

A. Nécessité d’une action

Quel est le problème et pourquoi se situe-t-il au niveau de l’UE?

Le déploiement de l’IA constitue à la fois un objectif de la Commission et une tendance prévisible. Même si, par rapport aux produits/services traditionnels, ceux dotés d’IA devraient être plus sûrs, des accidents surviendront toujours.

Les règles actuelles en matière de responsabilité, notamment les règles nationales en matière de responsabilité pour faute, ne sont pas adaptées au traitement des actions en réparation de dommages causés par des produits/services dotés d’IA. Conformément à ces règles, il incombe à la victime de prouver l’existence d’une action ou d’une omission de la part d’une personne qui a causé le dommage. Les caractéristiques spécifiques de l’IA, notamment l’autonomie et l’opacité (l’effet dit de «boîte noire»), font qu’il est difficile ou excessivement coûteux pour les victimes d’identifier la personne responsable et d’apporter la preuve des conditions requises pour obtenir gain de cause.

La Commission veut éviter que ceux, citoyens ou entreprises, qui subissent un préjudice du fait de l’IA soient moins protégés que les victimes d’un préjudice résultant de technologies traditionnelles. L’absence de réparation peut ébranler leur confiance dans l’IA et nuire ainsi à l’adoption des produits/services dotés d’IA.

On ne saurait dire avec certitude comment les règles nationales en matière de responsabilité peuvent s’appliquer aux spécificités de l’IA. De plus, au vu du résultat, qui est injuste pour les victimes, les juridictions pourraient adapter au cas par cas la manière dont elles appliquent les règles existantes pour parvenir à un résultat juste. Il en résultera une insécurité juridique. En conséquence, les entreprises auront des difficultés à prévoir la manière dont les règles en matière de responsabilité seront appliquées en cas de dommage. Il leur sera donc difficile d’évaluer l’exposition de leur responsabilité et de s’assurer contre ce risque. Cet effet sera amplifié pour les entreprises qui exercent des activités transfrontières, étant donné que l’incertitude concernera différents ordres juridiques. Les PME, qui ne peuvent pas s’appuyer sur des compétences juridiques internes ou sur des réserves en capital, seront particulièrement touchées.

On s’attend également, si l’UE n’agit pas, à ce que les États membres adaptent leurs règles nationales en matière de responsabilité aux défis de l’IA. Il en résultera une fragmentation accrue et une augmentation des coûts pour les entreprises qui exercent des activités transfrontières.

Quels sont les objectifs à atteindre?

L’initiative concrétise la priorité accordée par la Commission à la transition numérique. L’objectif général est de promouvoir le déploiement d’une IA fiable afin de tirer pleinement parti de l’IA. C’est pourquoi le Livre blanc sur l’IA vise à créer un écosystème de confiance destiné à promouvoir l’adoption de l’IA. L’initiative en matière de responsabilité constitue le corollaire indispensable des règles de sécurité adaptées à l’IA et vient donc compléter la législation sur l’IA.

L’initiative concernant l’IA:

-garantira la même protection aux victimes de produits/services dotés d’IA qu’aux victimes de technologies traditionnelles;

-réduira l’insécurité juridique qui plane sur l’exposition de la responsabilité des entreprises qui développent ou utilisent l’IA;

-évitera l’apparition, dans les règles nationales en matière de responsabilité, d’adaptations disparates spécifiques à l’IA.

Quelle est la valeur ajoutée de l’action au niveau de l’UE (subsidiarité)?

La promotion du déploiement de l’IA en Europe nécessite d’ouvrir le marché unique de l’UE aux opérateurs économiques qui souhaitent développer ou adopter l’IA dans le cadre de leurs activités.

Cela exige, comme conditions préalables, de réduire l’insécurité juridique et d’éviter la fragmentation, dans le cas où les États membres entreprennent de leur propre chef d’adapter leurs règles nationales de manière divergente.

Selon des estimations prudentes, une action au niveau de l’UE en matière de responsabilité du fait de l’IA aurait pour incidence positive une augmentation de 5 à 7 % de la valeur de la production entrant dans les échanges transfrontières concernés par rapport au scénario de référence.

B. Les solutions

Quelles sont les différentes options pour atteindre les objectifs? Y a-t-il une option privilégiée? Si tel n’est pas le cas, pourquoi?

Option nº 1: trois mesures permettant d’alléger la charge de la preuve qui incombe aux victimes dans les actions en responsabilité:

a) Une harmonisation de la manière dont les informations consignées/documentées en application des règles en matière de sécurité des produits prévues par la législation sur l’IA peuvent être divulguées dans le cadre d’une procédure judiciaire permettrait à la victime de déterminer quels actes ou quelles omissions ont conduit au préjudice subi, et d’en apporter la preuve.

b) Si la victime démontre que la personne responsable n’a pas respecté les exigences de sécurité inscrites dans la législation sur l’IA et destinées à prévenir les dommages, les juridictions pourraient présumer que c’est cette non-conformité qui a causé le dommage. La personne potentiellement responsable aurait la possibilité de renverser une telle présomption, par exemple en prouvant qu’une autre cause est à l’origine du dommage.

c) Si la victime n’a d’autre moyen d’étayer l’action en responsabilité que de démontrer des faits internes à l’IA, cette charge pesant sur la victime serait allégée. La personne potentiellement responsable aurait la possibilité de prouver qu’elle n’a pas fait preuve de négligence.

Option nº 2: les mesures de l’option 1 + l’introduction harmonisée d’un régime de responsabilité objective pour les cas d’utilisation de l’IA présentant un profil de risque particulier. La responsabilité objective signifie qu’une personne qui expose le public à un risque — pesant souvent sur de précieux intérêts juridiques (vie, santé, patrimoine) — et qui en tire un profit est tenue pour responsable si le risque se concrétise; la responsabilité du propriétaire d’une voiture en est un exemple. En pareil cas, il suffit à la victime de prouver que le dommage survenu trouve son origine dans le champ des risques imputés à la personne responsable. Ce régime peut être assorti d’une obligation d’assurance.

Option nº 3: une approche par étapes (option privilégiée) selon le schéma suivant:

- première étape : les mesures de l’option nº 1,

- deuxième étape : un mécanisme de réexamen pour réévaluer la nécessité d’harmoniser la responsabilité objective pour les cas d’utilisation de l’IA présentant un profil de risque particulier (et de l’assortir éventuellement d’une obligation d’assurance).

Quelles sont les positions des différentes parties prenantes? Qui soutient quelle option?

Globalement, la majorité des parties prenantes ont marqué leur accord avec les problèmes recensés, ainsi que leur soutien à une action au niveau de l’UE.

Les citoyens de l’UE, les organisations de consommateurs et les institutions académiques ont largement confirmé la nécessité d’une action de l’UE pour soulager les victimes des difficultés liées à la charge de la preuve. Les entreprises, tout en reconnaissant les effets négatifs des incertitudes quant à l’application des règles en matière de responsabilité, se sont montrées plus prudentes et se sont exprimées en faveur d’une intervention ciblée afin de ne pas limiter l’innovation.

Des tendances similaires se sont dégagées en ce qui concerne les options. Les citoyens de l’UE, les organisations de consommateurs et les institutions académiques ont vivement soutenu l’adoption, au minimum, des mesures concernant la charge de la preuve. Ils ont également plaidé en faveur de la mesure la plus forte, à savoir l’harmonisation de la responsabilité objective assortie d’une obligation d’assurance.

Les entreprises étaient plus partagées, notamment en fonction de leur taille. La responsabilité objective a été jugée disproportionnée. L’harmonisation des allégements de la charge de la preuve a recueilli davantage de soutien, en particulier auprès des PME. Les entreprises ont cependant mis en garde contre un basculement total de la charge de la preuve.

C. Incidence de l’option privilégiée

Quels sont les avantages de l’option privilégiée (le cas échéant; à défaut, des options principales)?

L’option privilégiée garantirait que les victimes de produits et services dotés d’IA (personnes physiques, entreprises et autres entités publiques ou privées) ne soient pas moins protégées que les victimes des technologies traditionnelles. Elle accroîtrait la confiance dans l’IA et favoriserait son adoption.

En outre, l’initiative réduirait l’insécurité juridique et empêcherait la fragmentation, appuyant ainsi les entreprises, et surtout les PME, qui, pour tirer pleinement parti du marché unique de l’UE, souhaitent déployer des produits et services fondés sur l’IA par-delà les frontières.

L’initiative permettrait également aux assureurs de proposer des garanties pour les activités liées à l’IA dans de meilleures conditions, ce qui est essentiel à la gestion des risques, notamment pour les PME.

Pour ce qui est des effets bénéfiques pour l’environnement, l’initiative devrait engendrer des gains d’efficacité et contribuer à l’innovation en matière de technologies respectueuses de l’environnement.

Les produits et services de pointe que cette initiative vise à promouvoir ne sont, pour la plupart, pas encore sur le marché. C’est par anticipation que les mesures proposées adaptent le cadre juridique aux besoins et défis spécifiques à l’IA afin de créer un écosystème de confiance et de sécurité juridique.

Du fait de cette méthode d’action prospective, on ne dispose pas de suffisamment de données pour quantifier les incidences de l’option privilégiée. Ces incidences ont donc été évaluées principalement de manière qualitative, en tenant compte de l’ensemble des données, des estimations d’experts et des contributions des parties prenantes disponibles. Cela étant, sur la base d’hypothèses motivées, un certain nombre de méthodes de quantification ont été appliquées.

On estime ainsi que l’option privilégiée générerait une valeur supplémentaire comprise entre 500 000 000 EUR environ et 1 100 000 000 EUR environ sur le marché de l’IA dans l’EU-27 en 2025. En outre, une analyse microéconomique fondée sur des données du marché des aspirateurs-robots suggère que l’initiative entraînerait un gain de bien-être total compris entre 30 110 000 EUR et 53 740 000 EUR pour cette seule catégorie de produits dans l’EU-27.

Quels sont les coûts de l’option privilégiée (ou, à défaut, des options principales)?

L’option privilégiée comble les lacunes du régime de responsabilité qui résultent des caractéristiques spécifiques de l’IA. Elle garantirait que, dans les cas où les caractéristiques spécifiques de l’IA mettraient la victime dans l’impossibilité de prouver les faits nécessaires, la personne responsable du dommage, et non la victime, supporte les coûts liés à la charge de la preuve.

Elle est conforme à l’un des objectifs principaux du droit des responsabilités, à savoir faire en sorte que toute personne qui cause un dommage à autrui de manière illicite indemnise la victime de son préjudice. Elle s’inscrit également dans l’objectif stratégique de la Commission qui vise à garantir aux victimes de dommages causés au moyen de systèmes d’IA le même degré de protection qu’aux victimes dont le préjudice résulte de technologies traditionnelles. Elle permet de répartir les coûts de manière plus efficace en les mettant à la charge de la personne qui a effectivement causé le dommage et qui est le plus à même d’en prévenir la survenue.

Les personnes potentiellement responsables (notamment les entreprises exerçant des activités sur le marché de l’IA) ont de grandes chances d’être couvertes par une assurance. Les solutions d’assurance permettent de mutualiser la charge de la responsabilité au sein de la communauté des assurés et de plafonner ainsi les coûts supportés par les personnes responsables à hauteur des primes d’assurance annuelles. Les personnes responsables assurées ne percevraient donc le coût de l’indemnisation de la victime que comme une augmentation marginale de leurs primes d’assurance.

Une quantification extrêmement rigoureuse et précise des coûts n’a pas été possible car les produits et services de pointe promus par cette initiative ne sont, pour la plupart, pas encore sur le marché. Selon des estimations fondées sur les données disponibles, ainsi que sur des analyses d’experts et des hypothèses motivées, l’option privilégiée pourrait entraîner une hausse comprise entre 5 350 000 EUR et 16 100 000 EUR du montant total des primes d’assurance en responsabilité générale payées annuellement dans l’UE.

Quelles sont les incidences sur les PME et la compétitivité?

En améliorant les conditions de fonctionnement du marché intérieur des produits et services dotés d’IA, l’initiative aurait une incidence positive sur la compétitivité des entreprises exerçant les activités sur le marché européen de l’IA. Ces entreprises deviendraient plus compétitives à l’échelle mondiale, ce qui renforcerait la position de l’UE par rapport à ses concurrents dans la course mondiale à l’IA (à savoir principalement les États-Unis et la Chine). L’IA étant une technologie générique transversale, ces avantages ne se limiteraient pas à certains secteurs mais se manifesteraient — à des degrés certes divers — dans tous les secteurs où l’IA est développée ou utilisée.

Les PME profiteraient encore plus que les autres parties prenantes de la réduction de l’insécurité juridique et de la fragmentation, étant davantage touchées par ces problèmes dans le cadre des règles actuelles en matière de responsabilité. L’initiative améliorerait les conditions particulièrement pour les PME qui souhaitent déployer des produits ou services fondés sur l’IA dans d’autres États membres. Cet aspect est essentiel car le marché de l’IA de l’UE doit une grande partie de son activité aux PME qui développent, déploient ou utilisent des technologies de l’IA.

Les PME bénéficieraient également de cette initiative en tant que victimes de dommages causés par l’IA car elles pourraient invoquer les allégements de la charge de la preuve qui leur incombe pour demander réparation.

Y aura-t-il une incidence notable sur les budgets nationaux et les administrations nationales?

Aucune incidence notable sur les budgets nationaux et les administrations nationales n’est prévue.

Les mesures envisagées visant à alléger la charge de la preuve pesant sur les victimes pourraient s’insérer sans difficulté dans le cadre existant de chaque État membre en matière de procédures et de responsabilités.

Les États membres devront faire rapport sur la mise en œuvre de l’initiative et fournir certaines informations aux fins du réexamen ciblé par la Commission. Toutefois, ces exigences en matière de rapports se limiteront aux informations disponibles dans les bases de données existantes des États membres et aux informations communiquées au titre d’autres instruments juridiques (par exemple, la législation sur l’IA ou la directive sur l’assurance automobile), ce qui permettra de créer des synergies et de garantir la cohérence de l’action future des pouvoirs publics dans différents domaines.

Y aura-t-il d’autres incidences notables?

Droits fondamentaux: l’initiative contribuera à favoriser une mise en œuvre effective des droits fondamentaux à l’initiative de la sphère privée, et à préserver le droit à un recours effectif lorsque des risques inhérents à l’IA en matière de droits fondamentaux (par exemple les risques de discrimination) viennent à se concrétiser.

Dimension internationale: en proposant une approche équilibrée en matière de responsabilité pour les dommages causés par l’IA, l’Union a la possibilité de définir une référence mondiale et de promouvoir son approche en tant que solution à l’échelle mondiale, ce qui, à terme, procurerait un avantage concurrentiel à l’«IA de facture européenne».

Proportionnalité

L’option privilégiée vise à préparer le terrain pour le développement et l’utilisation de l’IA et, en même temps, à atteindre l’objectif principal consistant à en promouvoir le déploiement dans l’UE.

Cependant, cette option n’ira pas au-delà de ce qui est nécessaire. Premièrement, l’intervention de l’UE est ciblée car elle ne fera qu’alléger la charge de la preuve pesant sur victimes. Elle se bornera à harmoniser les éléments en matière de responsabilité pour lesquels l’IA pose un défi, les autres éléments, tels que la détermination de la faute et du lien de causalité, restant régis par la législation nationale existante.

Deuxièmement, l’option privilégiée prévoit de reporter l’évaluation de la nécessité d’harmoniser la responsabilité objective à un stade ultérieur où davantage d’informations pourront être réunies sur l’IA et ses utilisations (voir plus de détails ci-après).

Troisièmement, l’option privilégiée proposera une approche d’harmonisation minimale. Si l’harmonisation minimale n’établit pas une égalité de concurrence parfaite, elle garantit en revanche que les nouvelles règles puissent s’insérer sans difficulté dans le cadre juridique existant de chaque État membre en matière de responsabilité civile.

Ainsi, les États membres pourront intégrer dans leur droit national les interventions ciblées de l’UE prévues par l’option privilégiée, et l’initiative renforcera la sécurité juridique dans l’ensemble de l’UE, évitera toute nouvelle fragmentation juridique et garantira aux victimes une protection effective d’un degré comparable à celle des victimes d’autres dommages.

D. Suivi

Quand la législation sera-t-elle réexaminée?

L’option privilégiée adopte une approche par étapes qui consiste, d’abord, à introduire des mesures visant à alléger la charge de la preuve qui incombe aux victimes et, ensuite, à évaluer, sur la base d’une clause de réexamen, la situation cinq ans plus tard. Ce processus permettra à la Commission d’évaluer, à la lumière de l’évolution des technologies et de leurs utilisations, si, au-delà des mesures d’allégement de la charge de la preuve, une harmonisation de la responsabilité objective et de l’obligation d’assurance est également nécessaire.