| Résumé de l’analyse d’impact |
| Analyse d’impact sur un cadre réglementaire pour l’intelligence artificielle |
| A. Nécessité d’une action |
| Quel est le problème et pourquoi se situe-t-il au niveau de l’UE? |
| L’intelligence artificielle (IA) est une technologie émergente à usage général: une famille de techniques de programmation informatique très puissantes. Les systèmes d’IA recèlent un fort potentiel d’avantages sociétaux, de croissance économique, de stimulation de l’innovation dans l’UE et de renforcement de la compétitivité de l’UE à l’échelle mondiale. Dans certains cas, cependant, l’utilisation de ces systèmes peut poser des problèmes. Les spécificités de certains systèmes d’IA peuvent créer de nouveaux risques liés 1) à la sûreté et à la sécurité et 2) aux droits fondamentaux, et accélérer la probabilité ou l’intensité des risques existants. Par ailleurs, les systèmes d’IA 3) nuisent à la capacité des autorités répressives de vérifier le respect des règles existantes et de contrôler leur application. Cette série de problèmes entraîne à son tour 4) une insécurité juridique pour les entreprises, 5) un ralentissement potentiel de l’adoption des technologies de l’IA par les entreprises et les particuliers, du fait d’un manque de confiance, ainsi que 6) des réponses réglementaires de la part des autorités nationales visant à atténuer les éventuels effets externes, susceptibles de fragmenter le marché intérieur. |
| Quels sont les objectifs à atteindre? |
| Le cadre réglementaire vise à remédier à ces problèmes afin de garantir le bon fonctionnement du marché unique en créant les conditions propices au développement et à l’utilisation d’une IA digne de confiance dans l’Union. Les objectifs spécifiques sont les suivants: 1) veiller à ce que les systèmes d’IA mis sur le marché et utilisés soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux et les valeurs de l’Union; 2) garantir la sécurité juridique pour faciliter les investissements et l’innovation dans le domaine de l’IA; 3) renforcer la gouvernance et l’application effective de la législation existante en matière de droits fondamentaux et des exigences de sécurité applicables aux systèmes d’IA; et 4) faciliter le développement d’un marché unique pour des systèmes d’IA légaux, sûrs et fiables et empêcher la fragmentation du marché. |
| Quelle est la valeur ajoutée de l’action au niveau de l’UE (subsidiarité)? |
| Compte tenu de la nature transfrontière des données et ensembles de données à grande échelle sur lesquels reposent souvent les applications d’IA, les objectifs de l’initiative ne sauraient être atteints de manière efficace par les États membres agissant séparément. Le cadre réglementaire européen pour une IA digne de confiance vise à établir des règles harmonisées concernant le développement, la mise sur le marché et l’utilisation de produits et de services intégrant une technologie d’IA ou d’applications d’IA autonomes dans l’Union. Son objectif est de garantir des conditions de concurrence équitables et de protéger tous les citoyens européens, tout en renforçant la compétitivité de l’Europe et sa base industrielle dans le domaine de l’IA. L’action de l’UE dans ce domaine stimulera le marché intérieur et offre à l’industrie européenne des possibilités importantes pour se doter d’un avantage concurrentiel au niveau mondial, grâce à des économies d’échelle qui ne peuvent être réalisées par les seuls États membres. |
| B. Solutions |
| Quelles sont les différentes options pour atteindre les objectifs? Y a-t-il une option privilégiée? Si tel n’est pas le cas, pourquoi? |
| Les options suivantes ont été examinées: option nº 1: instrument législatif de l’UE instituant un système de label non obligatoire; option nº 2: une approche sectorielle ad hoc; option nº 3: un instrument législatif horizontal de l’UE établissant des exigences obligatoires pour les applications d’IA à haut risque; option nº 3+: la même que l’option nº 3, mais avec des codes de conduite volontaires pour les applications d’IA ne présentant pas de risque élevé; et option nº4: un instrument législatif horizontal de l’UE établissant des exigences obligatoires pour toutes les applications d’IA. L’option privilégiée est l’option nº 3+ car elle offre des garanties proportionnées contre les risques posés par l’IA, tout en limitant le plus possible les coûts administratifs et de mise en conformité. La question spécifique de la responsabilité pour les applications d’IA sera traitée dans le cadre de futures règles distinctes et n’est donc pas couverte par les options. |
| Quelles sont les positions des différentes parties prenantes? Qui soutient quelle option? |
| Les entreprises, les pouvoirs publics, les universitaires et les organisations non gouvernementales conviennent tous qu’il existe des lacunes législatives ou qu’une nouvelle législation est nécessaire, bien que la majorité parmi les entreprises soit plus faible. L’industrie et les pouvoirs publics partagent l’idée de limiter les exigences obligatoires aux applications d’IA à haut risque. Les citoyens et la société civile seraient plutôt contre l’idée de limiter les exigences obligatoires aux applications à haut risque. |
| C. Incidence de l’option privilégiée |
| Quels sont les avantages de l’option privilégiée (ou, à défaut, des options principales)? |
| Pour les citoyens, l’option privilégiée permettra d’atténuer les risques pour leur sécurité et leurs droits fondamentaux. Pour les fournisseurs de systèmes d’IA, cette option créera une sécurité juridique et garantira qu’aucun obstacle ne s’oppose à la fourniture transfrontière de services et de produits liés à l’IA. Pour les entreprises utilisant l’IA, cette option permettra d’augmenter la confiance de leurs clients. Pour les administrations publiques nationales, elle favorisera la confiance du public dans l’utilisation de l’IA et renforcera les mécanismes de contrôle de l’application (en introduisant un mécanisme européen de coordination, en prévoyant des capacités appropriées et en facilitant les vérifications des systèmes d’IA par l’instauration de nouvelles exigences en matière de documentation, de traçabilité et de transparence). |
| Quels sont les coûts de l’option privilégiée (ou, à défaut, des options principales)? |
| Les entreprises ou les pouvoirs publics qui développent ou utilisent des applications d’IA présentant un risque élevé pour la sécurité ou les droits fondamentaux des citoyens devraient se conformer à des exigences et obligations horizontales spécifiques, qui seront mises en place au moyen de normes techniques harmonisées. Le coût total agrégé de la mise en conformité est estimé entre 100 000 000 EUR et 500 000 000 EUR d’ici à 2025, ce qui correspond à un maximum de 4 à 5 % des investissements dans l’IA à haut risque (estimée entre 5 % et 15 % de toutes les applications d’IA). Les coûts de vérification pourraient représenter 2 à 5 % supplémentaires des investissements dans l’IA à haut risque. Les entreprises ou les pouvoirs publics qui développent ou utilisent des applications d’IA n’étant pas classées à haut risque n’auraient pas à supporter de coûts. Toutefois, ils pourraient choisir d’adhérer à des codes de conduite volontaires afin de respecter des exigences appropriées et de garantir que leur application d’IA est digne de confiance. Dans de tels cas, les coûts pourraient, tout au plus, être aussi élevés que pour les applications à haut risque, mais seraient probablement inférieurs. |
| Quelles sont les incidences sur les PME et la compétitivité? |
| L’avantage associé à un niveau général de confiance plus élevé dans l’IA sera plus important pour les PME que pour les grandes entreprises, qui peuvent également s’appuyer sur leur image de marque. Les PME qui développent des applications classées à haut risque devraient supporter des coûts similaires à ceux des grandes entreprises. En effet, en raison de la grande évolutivité des technologies numériques, les petites et moyennes entreprises peuvent avoir une portée considérable en dépit de leur petite taille et avoir une incidence sur des millions de personnes. En conséquence, pour ce qui est des applications à haut risque, exclure les PME fournissant de l’IA de l’application du cadre réglementaire pourrait compromettre fortement l’objectif consistant à renforcer la confiance. Le cadre prévoira toutefois des mesures spécifiques, y compris des bacs à sable réglementaires ou une assistance par l’intermédiaire des pôles d’innovation numérique, afin d’aider les PME à se conformer aux nouvelles règles, en prenant en considération leurs besoins particuliers. |
| Y aura-t-il une incidence notable sur les budgets nationaux et les administrations nationales? |
| Les États membres devraient désigner des autorités de surveillance chargées de mettre en œuvre les exigences législatives. Leur fonction de surveillance pourrait s’appuyer sur les dispositifs existants, par exemple en ce qui concerne les organismes d’évaluation de la conformité ou la surveillance du marché, mais nécessiterait une expertise technologique et des ressources suffisantes. En fonction de la structure préexistante dans chaque État membre, cela pourrait représenter de 1 à 25 équivalents temps plein par État membre. |
| Y aura-t-il d’autres incidences notables? |
| L’option privilégiée atténuerait considérablement les risques pour les droits fondamentaux des citoyens ainsi que pour les valeurs de l’Union au sens plus large, et renforcerait la sécurité de certains produits et services intégrant une technologie d’IA ou d’applications d’IA autonomes. |
| Proportionnalité? |
| La proposition est proportionnée et nécessaire pour atteindre les objectifs, car elle suit une approche fondée sur les risques et n’impose des charges réglementaires que lorsque les systèmes d’IA sont susceptibles de présenter des risques élevés pour les droits fondamentaux ou la sécurité. Lorsque tel n’est pas le cas, seules des obligations de transparence minimales sont imposées, notamment en ce qui concerne la fourniture d’informations pour signaler l’utilisation d’un système d’IA lors d’interactions avec des êtres humains ou le recours à des hypertrucages s’ils ne sont pas utilisés à des fins légitimes. Des normes harmonisées et des outils d’orientation et de mise en conformité aideront les fournisseurs et les utilisateurs à se conformer aux exigences et à réduire le plus possible leurs coûts. |
| D. Suivi |
| Quand la législation sera-t-elle réexaminée? |
| La Commission publiera un rapport évaluant et réexaminant le cadre cinq ans après la date de son entrée en application. |
COMMISSION EUROPÉENNE