L’Union européenne (UE) est en train de finaliser les procédures pour présenter la loi tant attendue qui réglementera l’utilisation des intelligence artificielle (IA). Mercredi prochain, les législateurs des principales commissions du Parlement européen se prononceront sur un accord politique qui sera déterminant pour déterminer les dangers d’une technologie Il avance à une vitesse vertigineuse. Bien que ce qui a été convenu alors ne soit pas définitif, plusieurs experts ont déjà dénoncé des lacunes potentielles qui présentent des « risques sérieux ».
Le 21 avril 2021, la Commission européenne a proposé un nouveau règlement pour réglementer la IA qui interdisait la manipulation, la ponctuation sociale et certains cas de la reconnaissance faciale. Après plus d’un an et demi, l’apparition en novembre dernier du populaire ChatGPT elle a bouleversé les négociations et obligé les eurodéputés à rouvrir la bataille politique pour débattre de la régulation d’une technologie de plus en plus présente dans nos vies.
La proposition originale de Bruxelles catégorise l’IA en fonction de ses risques. « Plus le risque que cela peut comporter est grand, plus la règle sera ferme et stricte », expliquait il y a deux ans le vice-président européen, Margrethe Vestager. Cet éventail va de l’interdiction aux usages qui supposent un « risque inadmissible », comme la catégorisation par données biométriques ou la police prédictive, pour ne pas imposer d’exigences pour ceux qui présentent un « risque minimum ou nul ».
Plus d’une centaine d’ONG européennes dénoncé Dès lors, les obligations et interdictions établies pour les systèmes « à haut risque » n’étaient pas suffisamment strictes pour garantir le respect des droits fondamentaux.
Chat régulierGPT
Qu’adviendra-t-il de ChatGPT ? Le célèbre chatbot de Ouvrir l’IA —déjà intégré dans les programmes de Microsoft— fait partie de ce que l’on appelle l’IA à usage général (GPAI), c’est-à-dire des systèmes capables de s’adapter à un large éventail de tâches. ChatGPT peut être utilisé pour générer des e-mails de manière plus productive, mais aussi pour accélérer la désinformation sur une grande Scale.
Les implications de l’utilisation de ChatGTP dans l’éducation : langage sexiste et préjugés raciaux
Ce large éventail d’usages a ouvert un débat délicat à Bruxelles qui ne cesse de s’affiner. La proposition des législateurs qui rédigent cette loi établit pour les fournisseurs de cette IA générale des obligations initialement conçues pour les systèmes à haut risque. Ainsi, ils veulent que des modèles comme ChatGPT s’adaptent aux exigences européennes de transparence et la gestion des risques pour atténuer leur impact, que les données qu’ils utilisent sont surveillées pour éviter Les préjugés et qu’ils sont périodiquement soumis à des contrôles stricts audits externe pour évaluer son bon fonctionnement. La génération automatique de textes sera considérée comme à haut risque tant qu’elle n’aura pas de supervision éditoriale.
division interne
Les interdictions établies par cette proposition, pas encore définitive, provoquent des frictions. Selon le portail euractiv, les libéraux veulent exclure l’utilisation de tout outil d’IA servant à détecter les contenus présumés illégaux, ce à quoi les conservateurs s’opposent. L’absence de consensus sur la réglementation des systèmes à usage général tels que ChatGPT signifie que le vote du mercredi 26 avril pourrait subir des retards.
Après l’approbation de la proposition, ce seront la Commission européenne, le Conseil de l’Europe et le Parlement européen qui auront le dernier mot pour négocier un texte définitif. Ongle enquête du groupe militant pour la transparence Corporate Europe Observatory a découvert que les géants de la technologie Silicon Valley alors que Microsoft et Google ont intensifié la pression sur les décideurs européens pour qu’ils excluent leurs systèmes généraux d’IA des obligations à haut risque.
La semaine dernière, un groupe de plus de 50 scientifiques et experts en IA a demandé dans un lettre à l’UE pas exclure les systèmes à usage général de sa réglementation. « Ces modèles comportent des risques inhérents et ont causé des dommages avérés et considérables », soulignent-ils. Mercredi, 42 associations et syndicats allemands représentant plus de 140 000 créatifs ont rejoint cette pétition, avertissant Bruxelles de la menace que les générateurs comme ChatGPT font peser sur leurs droits d’auteur.