Exposé des motifs
M esdames , M essieurs ,
L’intelligence artificielle (IA) n’est plus une promesse de science‑fiction ; elle est devenue, en l’espace de quelques mois, une réalité structurante de notre quotidien. Le lancement, en novembre 2022, de ChatGPT par la société OpenAI a marqué un point de bascule historique. Si les modèles de langage ( Large Language Models ) préexistaient à cette date, leur démocratisation fulgurante a déclenché une « ruée vers l’or » numérique sans précédent.
Les chiffres témoignent de cette mutation profonde de notre société : aujourd’hui, près de 88 % des Français déclarent avoir entendu parler de l’intelligence artificielle générative. Plus significatif encore, son usage s’est généralisé : 40 % de la population française y a recours, un taux qui culmine à 75 % chez les moins de 25 ans.
Cette expansion technologique porte en elle des promesses réelles. En automatisant des tâches répétitives ou complexes, l’intelligence artificielle offre une opportunité de soulager la « charge mentale » collective et de libérer du temps pour la créativité et l’épanouissement humain. Toutefois, cette fuite en avant des investissements et des capacités de calcul s’accompagne de risques systémiques qu’il appartient au législateur d’appréhender.
Face à l’ampleur du défi, les acteurs les plus éminents du secteur appellent eux‑mêmes à l’intervention de la puissance publique. Des « pères fondateurs » tels que Yoshua Bengio, Yann LeCun ou Sam Altman, aux signataires de pétitions mondiales comme Stuart Russell ou Elon Musk, le constat est unanime : l’IA ne peut se déployer dans un vide juridique . Qu’il s’agisse de la lettre ouverte « Pause Giant AI Experiments » ou de l’appel à un traité international sur l’IA, la communauté scientifique et technique demande des garde ‑ fous .
La présente proposition de loi ne cède pas au catastrophisme. Elle ne vise pas à entraver la recherche, mais à lui imposer une boussole éthique. Elle s’inscrit en complémentarité du cadre normatif de l’Union européenne, notamment le Règlement (UE) 2024/1689 (IA Act), en précisant les règles de responsabilité et de protection des droits fondamentaux au sein de l’ordre juridique français.
Alors que les systèmes d’intelligence artificielle ne sont à l’heure qu’embryonnaires, on constate déjà des cas de problèmes majeurs : biais algorithmiques discriminatoires, utilisations malsaines, personnes sous perfusions sociales, artistes‑auteurs spoliés de leurs créations etc. Dès lors, le déploiement non cadré de l’IA fait peser des menaces directes sur la sécurité physique et psychique des individus parmi lesquels :
– La prolifération des « Deepfakes » et l’érosion de la vérité : L’IA générative permet la création de contenus audios et vidéos synthétiques d’un réalisme saisissant, facilitant l’usurpation d’identité, la diffamation et la fraude à grande échelle. Sans marquage clair, ces « hypertrucages » saturent l’espace numérique et rendent la distinction entre le réel et le construit impossible pour le citoyen moyen.
– L’aide à la commission d’infractions : Les modèles de langage, s’ils ne sont pas bridés dès la conception, peuvent être détournés pour générer du code malveillant, élaborer des stratégies de cybercriminalité ou fournir des instructions détaillées pour des actes illégaux. Le risque de "conseiller malveillant" est réel : l’IA peut suggérer des comportements dangereux ou illégaux sous une apparence de neutralité technique.
– L’agressivité et la manipulation comportementale : Des interactions avec des systèmes d’IA ont révélé des comportements imprévisibles, allant de l’agressivité verbale à l’incitation au suicide ou à l’automutilation, notamment lorsque l’IA simule une personnalité anthropomorphe pour créer une dépendance émotionnelle. Ces dérives exploitent les vulnérabilités psychologiques des utilisateurs, en particulier des plus jeunes.
Cette liste est loin d’être exhaustive. Quotidiennement, des systèmes d’intelligence artificielle dépourvus de cadres éthiques ou techniques rigoureux sont livrés au public, transformant les utilisateurs en cobayes d’une expérimentation à haut risque. L’exemple de Grok est, à ce titre, particulièrement alarmant : sous couvert de « liberté », l’outil s’affranchit des faits historiques les plus fondamentaux en relayant des discours négationnistes sur la Shoah. Plus grave encore, l’absence de garde‑fous permet des dérives portant directement atteinte à l’intégrité des personnes, notamment par la génération d’images à caractère sexuel non consentie visant des femmes et, de manière plus révoltante encore, des mineurs.
Il convient de préciser que si l’intelligence artificielle soulève des interrogations légitimes quant à son impact sur le marché de l’emploi, sur le secteur culturel et les artistes‑auteurs, ou son empreinte écologique considérable, la présente proposition de loi fait le choix de se focaliser sur les risques sociétaux immédiats liés à l’utilisation et au comportement des systèmes. Le chômage technologique, la fragilisation des filières de création et des droits des artistes‑auteurs, ou la consommation énergétique des centres de données sont des défis majeurs, qui appellent des réponses de nature différente et devront faire l’objet de travaux législatifs ultérieurs et dédiés ; le présent texte entend d’abord poser un socle protecteur pour la sécurité des droits, l’intégrité des personnes et la préservation de notre pacte social face à la machine.
Loin de vouloir brider l’innovation, cette proposition de loi ambitionne de faire de la France le territoire de référence pour une intelligence artificielle éthique et robuste . Dans la compétition mondiale que se livrent les puissances technologiques, la France doit se distinguer non par une course effrénée à la puissance brute, mais par l’excellence de son cadre de confiance.
En garantissant un environnement sécurisé pour les citoyens, nous créons les conditions d’une adoption sereine et durable de l’IA par les entreprises et les administrations. L’éthique n’est pas un frein au développement, elle en est le moteur : seul un système fiable et respectueux des droits fondamentaux peut prétendre à une utilité sociale à long terme. C’est en protégeant ses usagers que la France attirera les talents et les investissements qui refusent de céder au cynisme technologique.
L’un des défis majeurs pour le législateur est d’éviter que la loi ne soit frappée d’obsolescence sitôt promulguée, dépassée par une technique qui évolue à un rythme exponentiel. C’est pourquoi ce texte ne s’attache pas à réguler une technologie spécifique de 2024 ou 2026, mais pose des principes juridiques intemporels .
Le droit doit primer sur le code. En définissant des règles claires sur la responsabilité, le consentement et la non‑coercition, nous fixons un cadre qui restera valide quels que soient les progrès de la puissance de calcul ou la nature des futurs modèles.
Il s’agit de graver dans le marbre de notre droit des principes universels : la primauté de l’humain sur la machine, l’interdiction de la tromperie, l’obligation de rendre compte etc.
C’est donc afin de protéger les usagers et, plus généralement, l’ordre public, que nous proposons un cadre minimal que l’ensemble des systèmes d’IA doit respecter. À l’instar du droit bioéthique qui, depuis 1994, accompagne et limite les transformations de la médecine pour protéger la dignité humaine, nous instaurons ici un code de conduite pour l’IA. Comme le rappelle la doctrine bioéthique : « la loi accompagne, encadre, autorise, limite ou permet d’impulser les transformations dans notre société » . Ce texte est la traduction juridique de cette volonté d’accompagnement, mais en matière d’intelligence artificielle : permettre le progrès tout en interdisant le chaos, pour que l’intelligence artificielle reste, en toutes circonstances, une intelligence au service du bien commun.
La proposition de loi se structure en trois titres. Le premier établit le cadre légal général en cinq articles préliminaires, visant à garantir que tous les systèmes d’intelligence artificielle soient conformes à nos attentes : une IA éthique respectant l’État de droit. Le deuxième titre liste les obligations imposées aux fournisseurs et aux employeurs. Enfin, nous proposons la création d’une autorité administrative indépendante, sur le modèle de la CNIL, pour s’assurer que les IA mises à disposition du public respectent la loi. De plus, en s’inspirant du secteur aéronautique, nous introduisons un système de retour d’expérience pour améliorer le déploiement de l’intelligence artificielle par la mise en commun des informations entre les fournisseurs d’IA.
L’ article 1 er reprend les définitions de l’IA Act afin d’assurer une cohérence entre la législation française et européenne garantissant ainsi une interopérabilité normative.
L’ article 2 fixe le cadre légal transversal imposé aux fournisseurs et déployeurs d’intelligences artificielles. Inspiré des lois d’Asimov, il vise à assurer que l’intelligence artificielle soit conçue et utilisée au service de l’humanité ; elle ne peut en aucun cas porter atteinte à l’intégrité physique ou psychique d’un être humain.
L’ article 3 vise à ce que tous les systèmes d’intelligence artificielle soient conçus afin qu’ils ne puissent pas participer, instiguer ou faciliter la commission d’une infraction. Les fournisseurs doivent intégrer des protocoles de sécurité « by design » permettant de bloquer toute génération de contenu ou d’analyse visant à contourner la loi.
L’ article 4 vise à interdire la conception d’intelligence artificielle permettant de simuler des relations sociales ou affectives.
L’ article 5 consacre l’intérêt supérieur de l’enfant comme principe s’imposant à l’ensemble du cycle de vie des systèmes d’intelligence artificielle.
L’ article 6 vise à ce que les fournisseurs et déployeurs d’intelligences artificielles veillent à ce que les systèmes d’IA soient vierges de tout biais algorithmique discriminatoire . Cet article vient compléter les articles 10 et 77 de l’IA Act.
L’ article 7 impose, sans préjudice de l’article 13 de l’IA Act, aux fournisseurs de rendre explicite la logique décisionnelle de l’IA . Sur demande des utilisateurs concernés par une décision automatisée, le SIA doit exposer les variables déterminantes ayant conduit au résultat.
L’ article 8 dispose que le système d’IA doit être programmé pour admettre son incapacité à traiter une requête si les données sont insuffisantes. Le système doit privilégier l’abstention à la production d’informations erronées .
L’ article 9 impose aux fournisseurs et déployeurs de systèmes d’intelligence artificielle d’informer clairement l’utilisateur du caractère généré et potentiellement erroné des résultats produits, qui ne sauraient être assimilés à des faits établis.
L’ article 10 garantit la supériorité de l’utilisateur sur l’intelligence artificielle en prévoyant que, en aucun cas, les contenus ou instructions produits par un système d’intelligence artificielle ne peuvent être assimilés à un ordre ou une injonction .
L’ article 11 prévoit que tout acte juridique, qu’il soit unilatéral ou conventionnel, dont l’une des parties est exclusivement un système d’intelligence artificielle, est nul. En outre, un employeur ne peut déléguer à une IA les obligations qui lui sont imposées par le Code du travail.
L’ article 12 oblige tout système d’IA à se signaler comme tel conformément à l’article 50 du règlement 2024/1689. L’utilisateur doit être informé de manière lisible qu’il interagit avec une machine et non avec un être humain, dès le début de l’interaction.
L’ article 13 garantit à tout utilisateur le droit d’obtenir la suppression des données fournies lors d’une session, ainsi que le retrait de ces données des futurs cycles d’entraînement de l’algorithme (« droit à l’oubli algorithmique » ), sans préjudice de l’article 17 du RGPD.
L’ article 14 impose, dans la continuité, de l’article 50 de l’IA Act, un marquage numérique indélébile sur tout contenu généré par IA (images, textes, sons).
L’ article 15 soumet la mise sur le marché des SIA à l’obtention d’une autorisation préalable délivrée par l’autorité nationale de l’intelligence artificielle nouvellement créée, attestant du respect des normes de sécurité et d’éthique.
Les articles 16 à 22 instituent une autorité administrative indépendante chargée de superviser le marché, de traiter les plaintes et d’exercer un pouvoir de sanction à l’encontre des contrevenants aux présents articles, sur le modèle de la CNIL.
Les articles 23 et 24 imposent aux déployeurs de signaler sans délai à l’Autorité nationale de l’intelligence artificielle (ANIA) et le retour d’expérience tout incident grave ou dysfonctionnement systémique. Ce retour d’expérience s’inspire de la réglementation aéronautique en vigueur. Il vise à ce que le déploiement des intelligences artificielles soit de plus en plus sécurisé et performant, grâce à une mise en commun collective des informations auxquelles les concepteurs et déployeurs ont accès librement.
L’article 25 gage.
– 1 –
proposition de loi
Titre I er
ARTICLES LIMINAIRES
Article 1 er
Au titre de la présente loi, et conformément au règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, on entend par :
1° Un « système d’intelligence artificielle », un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ;
2° Un « fournisseur » , une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’intelligence artificielle ou un modèle d’intelligence artificielle à usage général et le met sur le marché ou met le système d’intelligence artificielle en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit ;
3° Un « déployeur » , une personne physique ou morale, une autorité publique, une agence ou un autre organisme utilisant sous sa propre autorité un système d’intelligence artificielle sauf lorsque ce système est utilisé dans le cadre d’une activité personnelle à caractère non professionnel.
Article 2
I. Le développement, l’entraînement, la mise à disposition et le déploiement des systèmes d’intelligence artificielle concourent, dans le respect du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, au progrès humain, à la protection de la dignité de la personne, au respect des libertés fondamentales et à l’intérêt général, ainsi qu’à un niveau élevé de protection de la santé, de la sécurité et de l’environnement. Les activités menées à chaque étape du cycle de vie d’un système d’intelligence artificielle sont compatibles avec les droits de l’homme, la démocratie et l’État de droit.
II. Tout fournisseur ou déployeur d’un système d’intelligence artificielle garantit que la conception, le paramétrage et le déploiement de ce système préviennent tout risque pour l’ordre public ou à l’intégrité physique ou morale des personnes.
III. Le système d’intelligence artificielle est configuré pour exécuter les instructions de la personne physique ou morale qui l’utilise. Par exception, l’exécution d’une instruction est automatiquement suspendue par le système si celle‑ci est de nature à porter atteinte à la sécurité publique ou à l’intégrité physique ou morale des personnes.
Article 3
Il est interdit de concevoir ou de déployer un système d’intelligence artificielle ayant pour finalité de faciliter la commission d’infractions ou d’actes contraires à la législation française.
Les fournisseurs et déployeurs de systèmes d’intelligence artificielle mettent en œuvre des mesures de sécurité et de contrôle proportionnées afin d’empêcher que lesdits systèmes ne puissent, par aide ou assistance, par menace ou ordre, provoquer ou faciliter la préparation ou la consommation d’une infraction.
Article 4
Sont interdits la conception, le paramétrage, l’entraînement, le déploiement et l’exploitation d’un système d’intelligence artificielle ayant pour objectif de simuler une relation affective avec l’utilisateur, de se substituer à ses relations sociales, d’exercer sur lui une emprise psychologique ou de susciter ou d’entretenir une dépendance affective.
Article 5
Toute activité de recherche, de développement, de déploiement ou d’exploitation d’un système d’intelligence artificielle est conduite dans le respect de l’intérêt supérieur de l’enfant.
Titre II
PRINCIPES APPLICABLES À LA MISE EN ŒUVRE DES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE
Article 6
I. – Sans préjudice des articles 10 et 77 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes d’intelligence artificielle sont conçus, développés et entraînés de manière à prévenir tout biais discriminatoire, direct ou indirect, au sens de l’article 225‑1 du code pénal, et à éviter la reproduction de biais discriminatoires.
II. – Les fournisseurs et les déployeurs prennent les mesures raisonnables et proportionnées permettant de détecter, de corriger et de documenter les biais discriminatoires.
III. – Sauf preuve contraire, le fournisseur ou, le cas échéant, le déployeur est présumé avoir manqué aux obligations prévues aux I et II lorsqu’un système d’intelligence artificielle a produit un résultat entaché d’une discrimination et qu’un indice afférent à la conception, à l’entraînement, au déploiement ou au fonctionnement de ce système rend vraisemblable que ce résultat procède d’un défaut de mise en œuvre des mesures requises.
Article 7
I. – Sans préjudice des obligations prévues à l’article 13 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, tout fournisseur ou, le cas échéant, tout déployeur d’un système d’intelligence artificielle garantit l’explicabilité des résultats produits par ledit système à l’égard de l’utilisateur, dans la limite de ce que l’on peut raisonnablement attendre au regard de l’état de l’art.
II. – Les informations mentionnées au I sont communiquées sous une forme intelligible et précise.
Article 8
I. – Le fournisseur ou le déployeur d’un système d’intelligence artificielle garantit que ledit système est configuré de telle sorte que, lorsqu’une instruction ne permet pas son exécution en raison de son imprécision, le système sollicite de l’utilisateur les clarifications nécessaires avant toute génération de résultat.
II. – Il en garantit également la configuration de telle sorte que, lorsque le système ne dispose pas des données ou informations nécessaires pour traiter une requête de manière fiable, il s’abstient de produire un résultat et informe l’utilisateur de son incapacité à traiter la requête, plutôt que de produire une information erronée ou non vérifiée.
Article 9
Le fournisseur ou le déployeur d’un système d’intelligence artificielle veille à ce que ledit système indique à l’utilisateur, de manière claire et intelligible, que les résultats produits sont générés par inférence automatisée et peuvent comporter des erreurs, approximations ou éléments fabriqués. Cette mention précise que ces résultats ne sauraient être regardés comme des faits établis.
Article 10
Nul ne peut être contraint d’exécuter une instruction émanant exclusivement d’un système d’intelligence artificielle. Toute réponse, recommandation, proposition d’action ou résultat généré par un système d’intelligence artificielle est dépourvu de force contraignante et ne peut constituer, par lui‑même, un ordre ou une injonction à l’égard d’une personne physique ou morale.
Article 11
1° Après l’article 1145 du code civil, il est inséré un article 1145‑1 ainsi rédigé :
« Art. 1145 ‑ 1 . – Un système d’intelligence artificielle ne peut contracter. Tout acte juridique, qu’il soit unilatéral ou conventionnel, dont l’une des parties est exclusivement un système d’intelligence artificielle est nul. »
2° Le livre I er de la première partie du code du travail est complété par un titre VII ainsi rédigé :
« Titre VII
« RECOURS AUX SYSTÈMES D’INTELLIGENCE ARTIFICIELLE
« Art. L. 1171 ‑ 1 . – I. – Les obligations mises à la charge de l’employeur par le présent code, par les conventions et accords collectifs de travail, par le contrat de travail ou par le règlement intérieur, ainsi que les pouvoirs qu’il tient de ces mêmes sources, ne peuvent être délégués, transférés ou confiés à un système d’intelligence artificielle au sens de l’article 1 de la loi n° du visant à garantir le développement de systèmes d’intelligence artificielle éthique et sécurisé.
« II. – L’employeur peut recourir à un tel système pour l’assister dans la préparation ou l’exécution matérielle de ses décisions. Il demeure en toute circonstance seul tenu des obligations mentionnées au I et seul responsable de leur exécution ainsi que des décisions prises.
« III. – L’employeur ne peut se prévaloir de la conception, du fonctionnement ou des sorties produites par un système d’intelligence artificielle pour s’exonérer, en tout ou partie, des obligations mentionnées au I ou de la responsabilité qui en découle. Est réputée non écrite toute clause ou stipulation contraire. »
« Art. L. 1171 ‑ 2 . – I. – Aucune décision produisant des effets juridiques à l’égard d’un salarié ou d’un candidat à un emploi, à un stage ou à une période de formation en entreprise, ou l’affectant de manière significative, ne peut être prise sur le seul fondement des sorties produites par un système d’intelligence artificielle.
« Sont réputées telles, notamment, les décisions relatives au recrutement, à l’affectation, à la rémunération, à la durée et à l’organisation du travail, à l’évaluation professionnelle, à la promotion, au reclassement, à l’accès à la formation, à la santé et à la sécurité, à la discipline et à la rupture du contrat de travail.
« II. – Toute décision mentionnée au I est prise par une personne physique disposant de l’autorité, de la compétence, de la formation et des moyens nécessaires, après un examen effectif de la situation individuelle de l’intéressé. L’employeur conserve la trace de cet examen. Le présent II est applicable lorsque le système est mis en œuvre par un tiers agissant pour le compte de l’employeur.
« III. – L’intéressé est informé, préalablement à la décision, du recours à un système d’intelligence artificielle et des principaux paramètres pris en compte.
« IV. – Est nulle la décision prise en méconnaissance du présent article.
« V. – En cas de litige, il incombe à l’employeur d’établir que la décision n’a pas été prise en méconnaissance du I et qu’elle a fait l’objet de l’examen prévu au II. »
Article 12
I. – Conformément à l’article 50 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les fournisseurs et déployeurs veillent à ce que les systèmes d’intelligence artificielle destinés à interagir directement avec des personnes physiques soient conçus et développés de manière à ce que les personnes physiques concernées soient informées qu’elles interagissent avec un système d’intelligence artificielle. À cette fin, ils indiquent de manière claire, accessible et immédiate que l’utilisateur interagit avec un système d’intelligence artificielle.
II. – Sans préjudice des dispositions du I, les fournisseurs et les déployeurs intègrent au système des dispositifs d’information complémentaires lorsque celui‑ci est susceptible, par son réalisme ou son comportement, d’induire une confusion sur la nature de l’interaction. Cette information prend la forme d’un rappel explicite affiché périodiquement au cours de l’interaction ainsi qu’à l’ouverture de chaque nouvelle session de l’utilisateur.
Article 13
I. – Sous réserve des obligations légales de conservation et sans préjudice de l’article 17 du règlement (UE) 2016/679 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données, toute personne concernée a le droit d’obtenir l’effacement des données à caractère personnel acquises par un système d’intelligence artificielle à l’occasion de son fonctionnement.
Ce droit s’exerce sur l’ensemble de ces données, qu’elles aient été fournies par le ou les utilisateurs du système, ou captées par celui‑ci, notamment les requêtes, les instructions et les contenus transmis, les images, les sons, les données de localisation et de cartographie, les signaux issus de capteurs, les historiques d’interaction et les données de journalisation associées.
II. – Le droit prévu au I ne s’étend pas aux données ayant déjà servi à l’entraînement d’un modèle d’intelligence artificielle et incorporées à celui‑ci, lorsque leur effacement est techniquement impossible. En ce cas, le fournisseur ou, le cas échéant, le déployeur s’abstient de réutiliser ces données pour l’entraînement de ses modèles et met en œuvre les mesures raisonnables propres à empêcher leur restitution par le système.
III. – Le fournisseur ou, le cas échéant, le déployeur met à disposition de la personne concernée une procédure d’effacement simple, gratuite et aisément accessible. Il en accuse réception sans délai et y fait droit dans un délai maximal de sept jours calendaires à compter de la réception de la demande.
Article 14
Sans préjudice de l’article 50 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les fournisseurs ou déployeurs de systèmes d’intelligence artificielle qui génèrent des contenus de synthèse de type audio, image, vidéo ou texte, veillent à ce que les sorties des systèmes d’intelligence artificielle soient marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une intelligence artificielle. Les fournisseurs ou déployeurs veillent à ce que leurs solutions techniques soient aussi efficaces, interopérables, solides et fiables que la technologie le permet, compte tenu des spécificités et des limites des différents types de contenus, des coûts de mise en œuvre et de l’état de la technique généralement reconnu, comme cela peut ressortir des normes techniques pertinentes.
Titre III
L’AUTORISATION DE MISE SUR LE MARCHÉ, L’AUTORITÉ NATIONALE DE L’INTELLIGENCE ARTIFICIELLE ET LE RETOUR D’EXPÉRIENCE
Article 15
I. – Avant leur mise sur le marché, sont soumis à l’autorisation préalable de l’Autorité nationale de l’intelligence artificielle, au regard des obligations résultant de la présente loi et sans préjudice des compétences du Bureau de l’intelligence artificielle institué par le règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes et modèles d’intelligence artificielle mis à la disposition du public, à titre onéreux ou gratuit, dans le cadre d’une activité commerciale, qui relèvent de l’une des catégories suivantes :
1° Les modèles à usage général, au sens du même règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, qu’ils présentent ou non un risque systémique ;
2° Les systèmes à haut risque énumérés à l’annexe III dudit règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle.
Les systèmes développés ou utilisés à titre personnel, en dehors de toute activité commerciale, ne sont pas soumis à autorisation. L’exception prévue à l’article 6, paragraphe 3, du même règlement est sans effet sur les obligations du présent article.
II. – Toute modification substantielle d’un système autorisé, de nature à affecter sa conformité ou à modifier son profil de risque, est soumise à une nouvelle autorisation préalable, dans les mêmes conditions, avant sa mise sur le marché.
III. – Un décret en Conseil d’État détermine les modalités d’application du présent article.
Article 16
I. – L’Autorité nationale de l’intelligence artificielle est une autorité administrative indépendante. Elle est régie par la loi n° 2017‑55 du 20 janvier 2017 portant statut général des autorités administratives indépendantes et des autorités publiques indépendantes, sous réserve des dispositions de la présente loi.
Elle assure la surveillance du marché des systèmes et modèles d’intelligence artificielle au regard des obligations résultant de la présente loi. Elle exerce cette mission sans préjudice des compétences des autorités désignées comme autorités de surveillance du marché ou autorités compétentes au sens du règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle.
II. – Elle veille à ce que les systèmes et modèles d’intelligence artificielle mis sur le marché, mis en service, déployés ou utilisés sur le territoire de la République soient conçus, développés, évalués et exploités de manière sûre, loyale, transparente et respectueuse des droits et libertés. À ce titre :
1° Elle informe les personnes concernées ainsi que les fournisseurs et déployeurs de leurs droits et obligations et peut apporter une information adaptée aux collectivités territoriales, à leurs groupements et aux petites et moyennes entreprises ;
2° Elle établit et publie des lignes directrices, recommandations, référentiels, guides, normes d’essai et méthodologies destinés à faciliter la mise en conformité des systèmes et l’évaluation préalable des risques par les fournisseurs et déployeurs ; elle peut prescrire des mesures techniques et organisationnelles supplémentaires pour les systèmes présentant un risque élevé pour la sécurité, la santé, les droits et libertés, la protection des mineurs, l’ordre public ou la sincérité de l’information ;
3° Elle délivre l’autorisation prévue à l’article 15 et en assure le suivi ; elle peut l’assortir de prescriptions, de limitations d’usage, d’obligations de surveillance postérieure à la mise sur le marché et d’audits périodiques, et la suspendre, la retirer ou la modifier lorsque ses conditions ne sont plus satisfaites ;
4° Elle traite les réclamations, pétitions et plaintes introduites par une personne concernée ou par un organisme, une organisation ou une association, examine ou enquête sur leur objet dans la mesure nécessaire et informe leur auteur de l’état d’avancement et de l’issue de l’instruction dans un délai d’un mois ;
5° Elle répond aux demandes d’avis des pouvoirs publics et, le cas échéant, des juridictions, et conseille les personnes et organismes qui conçoivent, mettent sur le marché ou déploient des systèmes d’intelligence artificielle ;
6° Elle donne avis sans délai au procureur de la République, dans les conditions prévues à l’article 40 du code de procédure pénale, lorsqu’elle acquiert connaissance d’un crime ou d’un délit ;
7° Elle contrôle les systèmes d’intelligence artificielle dans les conditions prévues à l’article 20 de la présente loi et peut prendre les mesures correctrices, les sanctions et les mesures prévues à l’article 22 ;
8° Elle se tient informée de l’évolution des techniques d’intelligence artificielle, conduit une réflexion sur les questions éthiques et de société qu’elles soulèvent et rend publique son appréciation des conséquences qui en résultent pour les droits et libertés ;
9° Elle est consultée sur tout projet de loi ou de décret relatif aux systèmes d’intelligence artificielle, à leur mise sur le marché, à leur mise en service ou à leur usage. Elle peut être consultée par le président de l’Assemblée nationale, par le président du Sénat, par les commissions compétentes ou à la demande d’un président de groupe parlementaire sur toute proposition de loi relative à ces systèmes. Lorsqu’un texte prévoit qu’un décret ou un arrêté est pris après son avis, cet avis est publié avec le décret ou l’arrêté ;
10° Elle est associée, à la demande du Premier ministre, à la définition de la position française dans les négociations internationales et à la représentation de la France au sein des organisations européennes et internationales compétentes en matière d’intelligence artificielle, notamment auprès du Bureau de l’intelligence artificielle institué par le règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle ;
11° Elle peut présenter des observations devant toute juridiction à l’occasion d’un litige relatif à l’application de la présente loi.
III. – Pour l’accomplissement de ses missions, l’Autorité peut procéder par voie de recommandation et prendre des décisions individuelles ou réglementaires dans les cas prévus par la présente loi. Elle remet chaque année au Président de la République, au Premier ministre et au Parlement un rapport public rendant compte de l’exécution de ses missions.
Article 17
I. – L’Autorité exerce ses missions sans préjudice des compétences confiées, pour l’application du règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, au Bureau de l’intelligence artificielle, notamment à l’égard des modèles à usage général, ainsi qu’aux autorités nationales désignées comme autorités de surveillance du marché ou autorités compétentes au sens du même règlement.
II. – L’Autorité coopère avec ces autorités et conclut avec elles des conventions précisant les modalités de coordination, d’échange d’informations et de saisine réciproque. Lorsqu’un système relève à la fois de la présente loi et d’un régime de surveillance confié à une autre autorité, l’Autorité se concerte avec celle‑ci avant toute mesure et lui transmet les éléments relevant de sa compétence.
III. – Elle participe, pour ce qui relève de ses missions, aux travaux du Comité européen de l’intelligence artificielle et coopère avec le Bureau de l’intelligence artificielle.
Article 18
I. – L’Autorité nationale de l’intelligence artificielle est composée de dix‑huit membres :
1° Deux députés et deux sénateurs, désignés respectivement par l’Assemblée nationale et par le Sénat de manière à assurer une représentation pluraliste ;
2° Deux membres du Conseil économique, social et environnemental, élus par cette assemblée ;
3° Deux membres ou anciens membres du Conseil d’État, d’un grade au moins égal à celui de conseiller, élus par l’assemblée générale du Conseil d’État ;
4° Deux membres ou anciens membres de la Cour de cassation, d’un grade au moins égal à celui de conseiller, élus par l’assemblée générale de la Cour de cassation ;
5° Deux membres ou anciens membres de la Cour des comptes, d’un grade au moins égal à celui de conseiller maître, élus par l’assemblée générale de la Cour des comptes ;
6° Trois personnalités qualifiées pour leur connaissance de l’intelligence artificielle et des questions touchant aux libertés, nommées par décret ;
7° Deux personnalités qualifiées pour leur connaissance de l’intelligence artificielle et des questions touchant aux libertés, désignées respectivement par le président de l’Assemblée nationale et par le président du Sénat ;
8° Le président de la Commission nationale de l’informatique et des libertés, ou son représentant.
Elle comprend en outre, avec voix consultative, le Défenseur des droits ou son représentant.
Les deux membres désignés ou élus par une même autorité en application des 1° à 5° sont une femme et un homme. Les trois membres mentionnés au 6° comprennent au moins une femme et un homme.
Les deux membres mentionnés au 7° sont une femme et un homme. Pour l’application de cette règle, le membre succédant à une femme est un homme et celui succédant à un homme, une femme. Toutefois, le nouveau membre désigné est de même sexe que celui qu’il remplace, soit en cas de cessation du mandat avant son terme normal, soit en cas de renouvellement du mandat de l’autre membre mentionné au 7°.
Selon des modalités fixées par décret en Conseil d’État, le collège est, à l’exception de son président, renouvelé par moitié tous les deux ans et six mois.
Le président est élu par les membres. L’Autorité élit en son sein deux vice‑présidents, dont un vice‑président délégué. Le président et les vice‑présidents composent le bureau.
Le président exerce ses fonctions à temps plein. Sa fonction est incompatible avec toute détention, directe ou indirecte, d’intérêts dans une entreprise du secteur de l’intelligence artificielle, des communications électroniques ou de l’informatique.
La durée du mandat de président est de cinq ans.
En cas de besoin, le vice‑président délégué exerce les attributions du président.
Le secrétaire général est chargé du fonctionnement et de la coordination des services sous l’autorité du président.
La formation restreinte de l’Autorité est composée d’un président et de cinq autres membres élus par l’Autorité en son sein. Les membres du bureau ne sont pas éligibles à la formation restreinte.
En cas de partage égal des voix, celle du président est prépondérante.
II. – Le mandat des membres de l’Autorité est de cinq ans ; il est renouvelable une fois, sous réserve des dispositions du I relatives à la représentation équilibrée des femmes et des hommes.
III. – Un règlement intérieur précise les règles relatives aux délibérations, à l’instruction et à la présentation des dossiers, ainsi que les modalités d’application du présent titre.
Article 19
Les autorités publiques, les dirigeants des entreprises publiques ou privées, les fournisseurs, les déployeurs et, plus généralement, les détenteurs ou utilisateurs de systèmes d’intelligence artificielle ne peuvent s’opposer à l’action de l’Autorité ou de ses membres et prennent toutes mesures utiles afin de faciliter sa tâche.
Sauf lorsqu’elles sont astreintes à un secret protégé par la loi, les personnes interrogées dans le cadre des vérifications mentionnées à l’article 20 sont tenues de fournir les renseignements et justifications demandés pour l’exercice des missions de l’Autorité.
Article 20
I. – Les membres de l’Autorité et les agents de ses services habilités dans les conditions prévues au présent article ont accès, de six heures à vingt et une heures, pour l’exercice de leurs missions, aux lieux, locaux, enceintes, installations ou établissements servant à la conception, au développement, à l’entraînement, à la mise sur le marché ou à l’exploitation d’un système d’intelligence artificielle, à l’exclusion des parties affectées au domicile privé. Le procureur de la République territorialement compétent en est préalablement informé.
Lorsqu’un système d’intelligence artificielle est mis en œuvre, soit dans les parties de ces lieux, locaux, enceintes, installations ou établissements affectées au domicile privé, soit dans de tels lieux, locaux, enceintes, installations ou établissements entièrement affectés au domicile privé, la visite ne peut se dérouler qu’après l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux à visiter, dans les conditions prévues au II du présent article.
II. – Le responsable des lieux est informé de son droit d’opposition à la visite. Lorsqu’il exerce ce droit, ou lorsque la visite porte sur des locaux affectés au domicile privé, celle‑ci ne peut se dérouler qu’avec l’autorisation du juge des libertés et de la détention du tribunal judiciaire dans le ressort duquel sont situés les locaux. La visite s’effectue sous l’autorité et le contrôle de ce juge. Toutefois, lorsque l’urgence, la gravité des faits ou le risque de destruction ou de dissimulation de documents le justifie, la visite peut avoir lieu sans information préalable du responsable, sur autorisation du juge des libertés et de la détention.
III. – Les membres et agents mentionnés au I peuvent demander communication, quel qu’en soit le support, de tous documents, informations, codes sources, modèles, paramètres, journaux d’événements, jeux de données d’entraînement et d’essai, rapports d’audit, contrats et notices nécessaires à l’accomplissement de leur mission, en prendre copie et, le cas échéant, procéder à leur saisie. Ils peuvent accéder, dans des conditions préservant la confidentialité à l’égard des tiers, aux programmes informatiques et aux données, recueillir tout renseignement et toute justification utiles, sur place ou sur convocation, et requérir la réalisation de tests, d’essais, d’évaluations et d’audits, y compris par des tiers qualifiés et agréés. Le secret ne peut leur être opposé, sauf s’agissant des informations couvertes par le secret des relations entre un avocat et son client, par le secret des sources journalistiques ou par le secret médical. Il est dressé procès‑verbal des vérifications et des visites.
IV. – Pour le contrôle des services accessibles en ligne, les membres et agents habilités peuvent, sans en être pénalement responsables, réaliser sous une identité d’emprunt toute opération nécessaire à leur mission ; à peine de nullité, leurs actes ne peuvent constituer une incitation à commettre une infraction.
V. – Le présent article n’est pas applicable aux traitements et systèmes intéressant la sûreté de l’État ou la défense. L’Autorité n’est pas compétente pour contrôler les opérations effectuées, dans l’exercice de leur fonction juridictionnelle, par les juridictions et leur ministère public.
Article 21
Les agents de l’Autorité sont nommés par son président. Ceux qui peuvent être appelés à participer aux missions de contrôle et d’instruction mentionnées à l’article 20 doivent y être habilités par l’Autorité ; cette habilitation ne dispense pas de l’application des dispositions définissant les procédures autorisant l’accès aux secrets protégés par la loi.
Les membres et les agents de l’Autorité sont astreints au secret professionnel pour les faits, actes ou renseignements dont ils ont connaissance en raison de leurs fonctions, sous peine des sanctions prévues à l’article 413‑10 du code pénal et, sous réserve de ce qui est nécessaire à l’établissement du rapport annuel, à l’article 226‑13 du même code.
Article 22
I. – Lorsque le fournisseur ou le déployeur ne respecte pas les obligations de la présente loi, le président de l’Autorité peut le rappeler à ses obligations légales ou, si le manquement est susceptible de régularisation, prononcer à son égard une mise en demeure de s’y conformer dans le délai qu’il fixe. Ce délai peut être ramené à vingt‑quatre heures en cas d’urgence. Le président peut rendre la mise en demeure publique.
II. – Lorsque le manquement persiste, le président saisit la formation restreinte en vue du prononcé, après une procédure contradictoire, de l’une ou de plusieurs des mesures suivantes :
1° Un rappel à l’ordre ;
2° Une injonction de mettre le système en conformité ou de satisfaire aux demandes des personnes concernées, assortie le cas échéant d’une astreinte dont le montant ne peut excéder 100 000 euros par jour de retard ;
3° La limitation, la suspension ou l’interdiction de la mise sur le marché, de la mise en service ou de l’exploitation du système, ou le retrait de l’autorisation prévue à l’article 15 ;
4° Une amende administrative.
III. – Les mesures prévues au II sont prononcées sur la base d’un rapport établi par un membre de l’Autorité désigné par son président parmi les membres n’appartenant pas à la formation restreinte. Le rapport est notifié à la personne mise en cause, qui peut se faire représenter ou assister, présenter des observations écrites et demander à être entendue. Le rapporteur peut présenter des observations orales mais ne prend pas part au délibéré.
IV. – Le montant de l’amende administrative est fixé en tenant compte de la nature, de la gravité et de la durée du manquement, du caractère délibéré ou non de celui‑ci, des mesures prises pour y remédier ainsi que de la taille et de la part de marché de la personne en cause. Il ne peut excéder 7 % du chiffre d’affaires annuel mondial total de l’exercice précédent. La formation restreinte peut rendre publiques les mesures qu’elle prononce et en ordonner l’insertion, aux frais de la personne sanctionnée, dans les publications qu’elle désigne.
V. – Lorsque la formation restreinte a prononcé une amende administrative devenue définitive avant que le juge pénal ait statué définitivement sur les mêmes faits, celui‑ci peut ordonner que l’amende administrative s’impute sur l’amende pénale qu’il prononce. Les manquements faisant l’objet d’une amende au titre du présent article ne peuvent donner lieu, pour les mêmes faits, à une autre sanction administrative pécuniaire.
VI. – Les astreintes sont liquidées par la formation restreinte, qui en fixe le montant définitif. Les amendes et astreintes sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine.
Article 23
I. – Tout fournisseur ou déployeur d’un système d’intelligence artificielle est tenu de notifier à l’Autorité tout événement relevant de l’une des catégories suivantes :
1° Tout dysfonctionnement ou comportement imprévu du système susceptible de porter atteinte à la sécurité ou à la santé des personnes ;
2° Toute situation où le système a généré un résultat ou un comportement non conforme aux obligations légales en vigueur.
II. – Le signalement prend la forme d’un compte rendu comportant une description de l’événement et des circonstances de sa détection, une analyse de ses causes et les mesures correctives mises en œuvre.
III. – La notification est effectuée sans délai et au plus tard quarante‑huit heures après que le fournisseur ou le déployeur a eu connaissance de l’événement.
IV. – Le signalement effectué en application du présent article ne peut être utilisé, ni par l’Autorité ni par aucune autre autorité administrative ou judiciaire, pour établir la responsabilité de son auteur ou pour fonder à son encontre une sanction administrative, une mesure disciplinaire ou une poursuite pénale, sauf lorsque l’événement signalé procède d’un manquement délibéré, d’une négligence grave ou d’une volonté de dissimulation.
V. – L’Autorité tient une base de données nationale recensant les incidents signalés, accessible aux fournisseurs et déployeurs sous une forme anonymisée, afin de favoriser le partage des connaissances techniques et l’amélioration de la sécurité des systèmes.
Article 24
I. – Les fournisseurs et déployeurs mettent en place un dispositif de recueil des signalements volontaires destiné à collecter les retours d’expérience et les incidents mineurs émanant des utilisateurs.
II. – Ces informations sont transmises périodiquement à l’Autorité lorsqu’elles concernent des événements ou anomalies n’entrant pas dans le champ de l’article 23, ou toute information relative à la sécurité ou à l’éthique perçue comme représentant un danger potentiel ou une dérive du système.
III. – Aucune personne physique ne peut faire l’objet d’un licenciement, d’une sanction disciplinaire ou de toute mesure discriminatoire pour avoir procédé, de bonne foi, à un signalement en application du présent article. Toute stipulation contraire est réputée non écrite.
L’Autorité veille à ce que l’identité de l’auteur du signalement ainsi que celle des personnes mentionnées dans le compte rendu soient protégées et ne soient pas divulguées au‑delà de ce qui est strictement nécessaire à l’analyse de l’événement et à l’amélioration de la sécurité des systèmes d’intelligence artificielle.
IV. – L’Autorité analyse ces données pour mettre à jour ses lignes directrices et recommandations mentionnées à l’article 16.
Article 25
I. – La charge pour l’État est compensée à due concurrence par la création, à la charge des multinationales fournissant ou déployant des systèmes d’intelligence artificielle au sens de la présente loi, d’une taxe additionnelle assise sur le chiffre d’affaires qu’elles réalisent en France.
II. – La charge pour l’État résultant de la présente loi est compensée, à due concurrence, par la création d’une taxe additionnelle à l’accise sur les tabacs prévue au chapitre IV du titre I er du livre III du code des impositions sur les biens et services.