Garantir le développement de systèmes d'intelligence artificielle éthique et sécurisé

Passages cités dans le texte officiel

Les alinéas sur lesquels s'appuie la synthèse ci-dessus, reproduits à l'identique. Le texte complet (25 articles) est dans l'onglet « Le texte ». Texte intégral sur assemblee-nationale.fr

1. Exposé des motifs

   Alinéa 2L’intelligence artificielle (IA) n’est plus une promesse de science‑fiction ; elle est devenue, en l’espace de quelques mois, une réalité structurante de notre quotidien. Le lancement, en novembre 2022, de ChatGPT par la société OpenAI a marqué un point de bascule historique. Si les modèles de langage ( Large Language Models ) préexistaient à cette date, leur démocratisation fulgurante a déclenché une « ruée vers l’or » numérique sans précédent.

   Alinéa 6La présente proposition de loi ne cède pas au catastrophisme. Elle ne vise pas à entraver la recherche, mais à lui imposer une boussole éthique. Elle s’inscrit en complémentarité du cadre normatif de l’Union européenne, notamment le Règlement (UE) 2024/1689 (IA Act), en précisant les règles de responsabilité et de protection des droits fondamentaux au sein de l’ordre juridique français.

   Alinéa 7Alors que les systèmes d’intelligence artificielle ne sont à l’heure qu’embryonnaires, on constate déjà des cas de problèmes majeurs : biais algorithmiques discriminatoires, utilisations malsaines, personnes sous perfusions sociales, artistes‑auteurs spoliés de leurs créations etc. Dès lors, le déploiement non cadré de l’IA fait peser des menaces directes sur la sécurité physique et psychique des individus parmi lesquels :

   Lire la suite dans le texte officiel

2. Article 2

   Alinéa 1I.  Le développement, l’entraînement, la mise à disposition et le déploiement des systèmes d’intelligence artificielle concourent, dans le respect du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, au progrès humain, à la protection de la dignité de la personne, au respect des libertés fondamentales et à l’intérêt général, ainsi qu’à un niveau élevé de protection de la santé, de la sécurité et de l’environnement. Les activités menées à chaque étape du cycle de vie d’un système d’intelligence artificielle sont compatibles avec les droits de l’homme, la démocratie et l’État de droit.

   Lire Article 2 en entier

   I.  Le développement, l’entraînement, la mise à disposition et le déploiement des systèmes d’intelligence artificielle concourent, dans le respect du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, au progrès humain, à la protection de la dignité de la personne, au respect des libertés fondamentales et à l’intérêt général, ainsi qu’à un niveau élevé de protection de la santé, de la sécurité et de l’environnement. Les activités menées à chaque étape du cycle de vie d’un système d’intelligence artificielle sont compatibles avec les droits de l’homme, la démocratie et l’État de droit. II.  Tout fournisseur ou déployeur d’un système d’intelligence artificielle garantit que la conception, le paramétrage et le déploiement de ce système préviennent tout risque pour l’ordre public ou à l’intégrité physique ou morale des personnes. III.  Le système d’intelligence artificielle est configuré pour exécuter les instructions de la personne physique ou morale qui l’utilise. Par exception, l’exécution d’une instruction est automatiquement suspendue par le système si celle‑ci est de nature à porter atteinte à la sécurité publique ou à l’intégrité physique ou morale des personnes.

3. Article 6

   Alinéa 1I. – Sans préjudice des articles 10 et 77 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes d’intelligence artificielle sont conçus, développés et entraînés de manière à prévenir tout biais discriminatoire, direct ou indirect, au sens de l’article 225‑1 du code pénal, et à éviter la reproduction de biais discriminatoires.

   Lire Article 6 en entier

   I. – Sans préjudice des articles 10 et 77 du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, les systèmes d’intelligence artificielle sont conçus, développés et entraînés de manière à prévenir tout biais discriminatoire, direct ou indirect, au sens de l’article 225‑1 du code pénal, et à éviter la reproduction de biais discriminatoires. II. – Les fournisseurs et les déployeurs prennent les mesures raisonnables et proportionnées permettant de détecter, de corriger et de documenter les biais discriminatoires. III. – Sauf preuve contraire, le fournisseur ou, le cas échéant, le déployeur est présumé avoir manqué aux obligations prévues aux I et II lorsqu’un système d’intelligence artificielle a produit un résultat entaché d’une discrimination et qu’un indice afférent à la conception, à l’entraînement, au déploiement ou au fonctionnement de ce système rend vraisemblable que ce résultat procède d’un défaut de mise en œuvre des mesures requises.

4. Article 9

   Alinéa 1Le fournisseur ou le déployeur d’un système d’intelligence artificielle veille à ce que ledit système indique à l’utilisateur, de manière claire et intelligible, que les résultats produits sont générés par inférence automatisée et peuvent comporter des erreurs, approximations ou éléments fabriqués. Cette mention précise que ces résultats ne sauraient être regardés comme des faits établis.

5. Article 22

   Alinéa 1I. – Lorsque le fournisseur ou le déployeur ne respecte pas les obligations de la présente loi, le président de l’Autorité peut le rappeler à ses obligations légales ou, si le manquement est susceptible de régularisation, prononcer à son égard une mise en demeure de s’y conformer dans le délai qu’il fixe. Ce délai peut être ramené à vingt‑quatre heures en cas d’urgence. Le président peut rendre la mise en demeure publique.

   Lire Article 22 en entier

   I. – Lorsque le fournisseur ou le déployeur ne respecte pas les obligations de la présente loi, le président de l’Autorité peut le rappeler à ses obligations légales ou, si le manquement est susceptible de régularisation, prononcer à son égard une mise en demeure de s’y conformer dans le délai qu’il fixe. Ce délai peut être ramené à vingt‑quatre heures en cas d’urgence. Le président peut rendre la mise en demeure publique. II. – Lorsque le manquement persiste, le président saisit la formation restreinte en vue du prononcé, après une procédure contradictoire, de l’une ou de plusieurs des mesures suivantes : 1° Un rappel à l’ordre ; 2° Une injonction de mettre le système en conformité ou de satisfaire aux demandes des personnes concernées, assortie le cas échéant d’une astreinte dont le montant ne peut excéder 100 000 euros par jour de retard ; 3° La limitation, la suspension ou l’interdiction de la mise sur le marché, de la mise en service ou de l’exploitation du système, ou le retrait de l’autorisation prévue à l’article 15 ; 4° Une amende administrative. III. – Les mesures prévues au II sont prononcées sur la base d’un rapport établi par un membre de l’Autorité désigné par son président parmi les membres n’appartenant pas à la formation restreinte. Le rapport est notifié à la personne mise en cause, qui peut se faire représenter ou assister, présenter des observations écrites et demander à être entendue. Le rapporteur peut présenter des observations orales mais ne prend pas part au délibéré. IV. – Le montant de l’amende administrative est fixé en tenant compte de la nature, de la gravité et de la durée du manquement, du caractère délibéré ou non de celui‑ci, des mesures prises pour y remédier ainsi que de la taille et de la part de marché de la personne en cause. Il ne peut excéder 7 % du chiffre d’affaires annuel mondial total de l’exercice précédent. La formation restreinte peut rendre publiques les mesures qu’elle prononce et en ordonner l’insertion, aux frais de la personne sanctionnée, dans les publications qu’elle désigne. V. – Lorsque la formation restreinte a prononcé une amende administrative devenue définitive avant que le juge pénal ait statué définitivement sur les mêmes faits, celui‑ci peut ordonner que l’amende administrative s’impute sur l’amende pénale qu’il prononce. Les manquements faisant l’objet d’une amende au titre du présent article ne peuvent donner lieu, pour les mêmes faits, à une autre sanction administrative pécuniaire. VI. – Les astreintes sont liquidées par la formation restreinte, qui en fixe le montant définitif. Les amendes et astreintes sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine.