Intelligence artificielle : la première réglementation européenne est validée

L’Union européenne vient d’approuver la première régulation en matière d’intelligence artificielle (IA). Première en Europe et dans le monde. Thierry Breton a indiqué sur Twitter que “les 27 membres ont approuvé à l’unanimité l’accord politique conclu en décembre, reconnaissant l’équilibre trouvé par les négociateurs entre innovation et sécurité”. Et s'est réjouit : “l’UE, c’est l’IA.” La philosophie de la réglementation réside dans une approche par les risques. Selon le Conseil de l’Europe, “l'accord de compromis prévoit une couche horizontale de protection, incluant une classification à haut risque, afin de ne pas englober les systèmes d'IA qui ne sont pas susceptibles de causer des violations graves des droits fondamentaux ou d'autres risques importants”.

 Lire aussi  IA : les eurodéputés trouvent un accord pionnier

Protection des droits fondamentaux, de la démocratie et de l’État de droit

La proposition de règlement sur l’IA datant du 24 avril 2021 se veut rassurante :“Les règles en matière d’IA qui s’appliquent au marché de l’Union ou qui touchent d’une autre façon les personnes de l’Union devraient par conséquent être axées sur le facteur humain.” Le but ? Que “les personnes puissent avoir confiance dans le fait que la technologie est utilisée d’une façon sûre et conforme à la loi, notamment en ce qui concerne le respect des droits fondamentaux”. L’arrivée de l’IA fait craindre également pour le fonctionnement de l’État. Dans une lettre ouverte du 28 septembre 2023, 70 associations européennes, dont la française LDF, avaient appelé les décideurs européens à protéger l’État de droit de certaines applications d’IA qui pourraient contourner les obligations européennes.

C'est pour prévenir ces dérives que, pour les domaines sensibles comme la justice, l’organisation d’élections, le secteur médical ou certaines industries clefs (hydrauliques ou gazières ou de transport), le texte prévoit un niveau renforcé de transparence, de supervision et de cybersécurité. Comprendre : l’IA appliquée à ces domaines fera obligatoirement l’objet de mesures de surveillance humaines pour limiter les risques.  Les ministres européens ont pris le soin d'exclure l’identification biométrique à distance dans des espaces accessibles au public à des fins répressives. Toutefois, l’interdiction saute dans certains cas : un enfant disparu, une menace terroriste spécifique et imminente ou une infraction pénale grave.

Le règlement envisage également l’hypothèse du risque inacceptable. Dans laquelle l’usage de l’IA est tout simplement interdit. Les sites des instances européennes fournissent quelques exemples orwelliens : la reconnaissance d'émotions sur le lieu de travail et dans les établissements d'enseignement, la notation sociale, la catégorisation biométrique pour en déduire des données sensibles, telles que l'orientation sexuelle ou des croyances religieuses, la manipulation comportementale cognitive ou encore le moissonnage non ciblé d'images faciales provenant d'Internet ou de la vidéosurveillance. À l'opposé, en cas de risque minimal ou nul, les utilisateurs d’IA auront carte blanche. Selon le site de la Commission, ce cas de figure recouvre la majorité des systèmes d’IA actuellement utilisées dans l’UE, et vise notamment les filtres anti-spam ou les jeux vidéo.

Inquiétudes présidentielles

À l’issue des négociations de décembre dernier, Emmanuel Macron avait exprimé des doutes quant à l’accord trouvé. Et déclarait que ce n’était “pas une bonne idée” de vouloir “beaucoup plus réguler que les autres”. Selon lui, les règles européennes menacent de freiner le développement des entreprises d’IA du Vieux Continent, au risque de porter un coup à la Start-up Nation. “Je demande à ce qu’on évalue de manière régulière cette réglementation. Et si on perd des leaders ou des pionniers à cause de ça, il faudra y revenir.” La Commission européenne a déjà lancé un train de mesures au soutien des start-up et des PME européennes.

Anne-Laure Blouin