Ab sofort bewertet die Datenschutzbehörde Authority for Personal Data (AP) auch Algorithmen bei Organisationen und Unternehmen. Dies ist wichtig, da sie beispielsweise für Bewerbungen oder die Bereitstellung von Hypotheken verwendet werden können. Die neue Aufsicht muss unter anderem gegen die Diskriminierung durch Computer vorgehen.
Kurz gesagt, ein Algorithmus ist eine Reihe von Regeln, die ein Computer befolgt, um ein Ziel zu erreichen. Zum Auftakt der neuen Algorithmenaufsicht am Montag wies AP-Vorsitzender Aleid Wolfsen noch einmal darauf hin, was mit solchen Regeln möglich ist.
Auf diese Weise können sie Betrug aufdecken und Depressionen diagnostizieren. „Sie können aber auch dabei helfen, wen man zum Vorstellungsgespräch einlädt“, sagt Wolfsen. „Und sie können entscheiden, wer bei einem Online-Kauf vorab zahlen muss und wer danach zahlen darf.“
Es kann viele Menschen treffen, wenn Algorithmen mit falschen Informationen trainiert werden. Zum Beispiel können sich Vorurteile und Diskriminierung einschleichen. „Software bietet uns große Chancen und innovative Entwicklungen, aber wir müssen die bestehenden Gefahren im Auge behalten“, sagt Wolfsen.
Algorithmen nicht immer notwendig
Es muss viel transparenter werden, wie Algorithmen genau funktionieren. „Wir wollen verstehen, wie Entscheidungen mit Algorithmen getroffen werden“, sagt Staatssekretärin Alexandra van Huffelen (Digitalisierung).
Außerdem müssten die Bürger mehr Kontrolle darüber haben, wie ihre Daten von Algorithmen verwendet werden dürfen, fügt Minister Franc Weerwind (Rechtsschutz) hinzu. Ihm zufolge soll die digitale Technik dem Menschen dienen und nicht umgekehrt.
Algorithmen sind auch nicht immer notwendig, damit Organisationen ihre Arbeit erledigen können, sagt Van Huffelen gegenüber NU.nl: „Manchmal sind Alternativen besser.“ Deshalb müssen Unternehmen zunächst eine Risikoanalyse durchführen, bevor sie beispielsweise Algorithmen zur Automatisierung menschlicher Aktivitäten einsetzen.
Neuer Teil und mehr Budget für AP
Die AP wird eine neue Direktion für die Überwachung von Algorithmen haben: die Koordinierungsalgorithmen. Sie wird aus etwa zehn bis fünfzehn Personen bestehen, sagt Wolfsen. 2023 erhält die AP 1 Million Euro für ihre neuen Aufgaben. Dieser Betrag wird in den kommenden Jahren auf einen strukturellen Betrag von 3,6 Millionen Euro im Jahr 2026 steigen.
Wolfsen „will bei der festlichen Versammlung nicht zu sehr meckern“, nennt seine Organisation aber dennoch „großzügig zu klein“, um ihre Aufgaben erfüllen zu können. Die AP sagt seit Jahren, sie habe zu viele Aufgaben und zu wenig Budget.
Die Algorithmenaufsicht beginnt jetzt, aber es gibt noch viel zu tun. „Das Wichtigste ist, dass wir schnell mit anderen Regulierungsbehörden zusammenarbeiten, denn Algorithmen werden überall verwendet“, sagte Wolfsen gegenüber NU.nl. Darüber hinaus wird an einem Standard-Framework gearbeitet, das festlegt, welche Anforderungen Algorithmen erfüllen müssen. Auch für Organisationen wird es Transparenzpflichten geben.
Erste Geldstrafe wegen falscher Algorithmen bereits ausgehändigt
Obwohl einige Aspekte der Aufsicht erst in naher Zukunft Gestalt annehmen werden, kann der AP mit der Durchsetzung beginnen, wenn Organisationen ihre Algorithmen nicht in Ordnung haben. Die AP hat bereits Sektoren im Auge, die sie untersuchen will, wobei Wolfsen dazu noch nichts sagen will.
„Das erste Bußgeld ist eigentlich schon vergeben“, sagt Wolfsen. Er verweist auf die Steuer- und Zollverwaltung. Ende 2021 wurde die Organisation wegen des Sozialleistungsskandals, in dem diskriminierende Algorithmen eine große Rolle spielten, mit einer Geldstrafe von 2,75 Millionen Euro belegt.