La plénière de l’Eurocámara a approuvé ce mercredi -à une large majorité de pour, contre et abstentions- un réglementation pionnière dans le monde dont l’objectif est d’atténuer les risques posés par la Intelligence artificielle (IA) et faire en même temps de l’Union européenne un leader dans cette technologie.
Le nouveau règlement impose une série de restrictions sur les modèles d’IA génératifs comme ChatGPTdont le développement rapide a pris de court les législateurs communautaires.
Ces types d’applications doivent étiqueter le contenu (texte, audio ou vidéo) généré avec l’IA, introduire des garanties contre la génération de contenu illégal et publier résumés de données protégées pour les droits d’auteur utilisés pour former l’algorithme, ce qui permettra aux propriétaires de demander plus facilement une compensation.
[La UE y EEUU impulsan un código de conducta para mitigar los riesgos de la Inteligencia Artificial]
« La réglementation de l’IA établira des normes mondiales en matière de développement et de gouvernance de l’intelligence artificielleen veillant à ce que cette technologie, qui transformera radicalement nos sociétés grâce aux énormes avantages qu’elle peut offrir, évolue et soit utilisée conformément aux valeurs européennes de démocratie, de droits fondamentaux et d’État de droit », a déclaré le député libéral roumain Dragos Tudorache , l’un des rapporteurs parlementaires de la norme.
Le vote de ce mercredi à l’Eurochambre n’est pas encore la fin du chemin. La version finale du règlement n’a pas encore été être négocié et convenu entre les représentants du Parlement et les gouvernements, une tâche qui correspondra à la présidence espagnole à partir de juillet.
Bruxelles estime que l’entrée en vigueur de toutes les dispositions de la norme ne sera pas produit avant 2026 et c’est pourquoi elle prépare, avec les États-Unis, une code de conduite volontaire pour couvrir la période de transition.
Le nouveau règlement de l’UE est basé sur une approche basée sur les risques, tant pour la sécurité que pour les droits fondamentaux des citoyens. Au sommet de la pyramide se trouvent le nombre très limité d’applications d’intelligence artificielle qui, selon Bruxelles, posent un « risque inacceptable » et qu’ils seront strictement interdits.
Dans cette liste noire, Le Parlement européen a demandé d’inclure une interdiction totale des systèmes d’identification biométrique à distance, en temps réel ou non, dans l’espace public. Sur ce point, les eurodéputés prennent leurs distances avec la position commune adoptée par les gouvernements, qui prévoit toute une série d’exceptions pour des raisons de sécurité ou de maintien de l’ordre. Ce sera la principale pierre d’achoppement des négociations finales.
Sont également inclus dans cette liste noire les systèmes qui utilisent des techniques subliminales pour contourner la volonté des utilisateurs ; les modèles qui permettent la « ponctuation sociale » des citoyens, comme le fait la Chine par exemple; les systèmes de catégorisation biométrique qui utilisent des données sensibles (sexe, race, origine ethnique, statut de citoyen, religion, orientation politique) ; Les systèmes de police prédictifs (basé sur les profils, l’emplacement ou la conduite criminelle passée) ; les systèmes de reconnaissance des émotions ou la collecte indiscriminée de données biométriques à partir de réseaux sociaux ou de caméras de surveillance pour créer des bases de données de reconnaissance faciale.
Sur la deuxième marche de la pyramide se trouvent les applications d’intelligence artificielle qui, selon Bruxelles, présentent un risque élevé. Dans cette catégorie figurent, par exemple, technologies de notation des testsprogrammes de classification des programmes d’études pour les procédures de recrutement, systèmes de notation de crédit pour accéder à un prêt ou évaluation de la fiabilité des preuves dans les procédures judiciaires.
Le Parlement européen veut ajouter à cette liste les systèmes d’IA pour influencer les électeurs dans les campagnes politiques, ainsi que les systèmes de recommandation utilisés par les grandes plateformes de réseaux sociaux.
Ces systèmes à haut risque seront soumis à une série d’obligations strictes avant de pouvoir être mis sur le marché. Parmi eux, des procédures adéquates d’évaluation et d’atténuation des risques, des garanties de haute qualité des données utilisées, des enregistrements d’activité, des informations claires et adéquates pour les utilisateurs et mesures de surveillance humaine appropriées.
La troisième étape du règlement concerne les systèmes d’intelligence artificielle à usage général, qui seront imposés obligations de transparence spécifiques. C’est le cas de faux profond, des bots ou ChatGPT et modèles similaires.
Le Parlement européen souhaite également que le règlement reconnaisse un droit universel pour tous les citoyens de porter plainte contre les systèmes d’intelligence artificielle et de recevoir des explications sur les décisions basées sur des systèmes d’IA à haut risque qui ont un impact significatif sur leurs droits.
Suivez les sujets qui vous intéressent