Désormais, l’autorité de surveillance de la confidentialité des données personnelles (AP) évalue également les algorithmes des organisations et des entreprises. Ceci est important, car ils peuvent être utilisés, par exemple, pour des demandes d’emploi ou pour fournir des hypothèques. La nouvelle tutelle doit, entre autres, s’attaquer à la discrimination par les ordinateurs.
En bref, un algorithme est un ensemble de règles qu’un ordinateur suit pour atteindre un objectif. Au début de la nouvelle supervision des algorithmes lundi, le président de l’AP, Aleid Wolfsen, a une fois de plus souligné ce qui est possible avec ce type de règles.
De cette façon, ils peuvent détecter la fraude et diagnostiquer la dépression. « Mais ils peuvent également vous aider à inviter les personnes que vous invitez à un entretien », déclare Wolfsen. « Et ils peuvent décider qui doit payer à l’avance avec un achat en ligne et qui peut payer par la suite. »
Cela peut affecter beaucoup de gens si les algorithmes sont entraînés avec des informations erronées. Par exemple, les préjugés et la discrimination peuvent s’infiltrer. « Les logiciels nous offrent de grandes opportunités et des développements innovants, mais nous devons garder un œil sur les dangers qui existent », déclare Wolfsen.
Des algorithmes pas toujours nécessaires
Le fonctionnement exact des algorithmes doit devenir beaucoup plus transparent. « Nous voulons comprendre comment les décisions sont prises avec des algorithmes », explique la secrétaire d’État Alexandra van Huffelen (Numérisation).
De plus, les citoyens doivent avoir plus de contrôle sur la façon dont leurs données peuvent être utilisées par les algorithmes, ajoute le ministre Franc Weerwind (Protection juridique). Selon lui, le numérique doit être au service de l’humain et non l’inverse.
Les algorithmes ne sont pas toujours nécessaires non plus pour que les organisations puissent mener à bien leur travail, déclare Van Huffelen à NU.nl : « Parfois, les alternatives sont meilleures. » C’est pourquoi les entreprises doivent d’abord faire une analyse des risques avant d’utiliser des algorithmes pour automatiser des activités humaines, par exemple.
Nouvelle partie et plus de budget pour AP
L’AP disposera d’une nouvelle direction pour sa supervision des algorithmes : la Coordination Algorithmes. Il sera composé d’environ dix à quinze personnes, précise Wolfsen. En 2023, l’AP recevra 1 million d’euros pour ses nouvelles missions. Ce montant augmentera dans les années à venir pour atteindre un montant structurel de 3,6 millions d’euros en 2026.
Wolfsen « ne veut pas trop grogner lors de la réunion festive », mais qualifie toujours son organisation de « généreusement trop petite » pour pouvoir remplir ses fonctions. L’AP dit depuis des années qu’elle a trop de tâches à accomplir et trop peu de budget.
La supervision des algorithmes commence maintenant, mais il reste encore beaucoup à faire. « Le plus important est que nous commencions rapidement à collaborer avec d’autres régulateurs, car les algorithmes sont utilisés partout », a déclaré Wolfsen à NU.nl. En outre, des travaux sont en cours sur un cadre de normes, qui précise les exigences auxquelles les algorithmes doivent répondre. Il y aura également des obligations de transparence pour les organisations.
Première amende pour des algorithmes incorrects déjà distribués
Bien que certains aspects de la supervision ne prendront forme que dans un proche avenir, l’AP peut commencer à appliquer si les organisations n’ont pas leurs algorithmes en ordre. L’AP a déjà en tête des secteurs sur lesquels elle veut enquêter, bien que Wolfsen ne veuille encore rien dire à ce sujet.
« La première amende a en fait déjà été infligée », déclare Wolfsen. Il se réfère à l’administration fiscale et douanière. Fin 2021, cet organisme a été condamné à une amende de 2,75 millions d’euros pour le scandale des allocations, dans lequel des algorithmes discriminatoires ont joué un rôle majeur.