Wie genau funktionieren KI-Steuerungssysteme?
Das erklärte Einzelhandelsexperte Eelco Hos Anfang dieses Jahres Brabants Dagblad wie solche KI-Steuerungssysteme aussehen könnten. Kameras könnten überprüfen, was der Kunde kauft und scannt. Wird ein Produkt nicht gescannt, fordert das Self-Scanning-Gerät den Kunden dazu auf.
Eine andere Möglichkeit besteht darin, dass ein Mitarbeiter vom Computer gewarnt wird, wenn jemand nicht alles bezahlt. Eine Kamera an der Kasse macht dann ein Foto des Einkaufswagens an der Kasse.
„Es ist wichtig zu beachten, dass dies anonym geschieht“, sagte Hos. „Zum Beispiel werden die Gesichter der Kunden nicht fotografiert oder sie werden unscharf.“ Ihm zufolge werden Bilder nicht gespeichert, sondern nur zur Signalisierung verwendet.
KI achtet ausdrücklich nicht auf individuelle Merkmale
Ob Jumbo das auch so macht, ist nicht bekannt. „Für die Ermittlung der Abweichungen sind individuelle Merkmale der Kunden nicht relevant“, sagt der Jumbo-Sprecher. „Die Algorithmen von KI-Software berücksichtigen dies ausdrücklich nicht. Wir beobachten dies weiterhin sorgfältig. Alles, was wir im Bereich KI tun, steht selbstverständlich im Einklang mit den geltenden Gesetzen und Vorschriften, beispielsweise im Bereich des Datenschutzes.“
Ob Jumbo im großen Stil künstliche Intelligenz zur Bekämpfung von Ladendiebstählen einsetzen wird, ist noch unklar. Die Supermarktkette testet die Technologie zunächst drei Monate lang. Sollte sich der Versuch als erfolgreich erweisen, wird Jumbo die Maßnahmen landesweit einführen.
Jumbo ist übrigens nicht der einzige Laden, der mit KI experimentiert. Das französische Unternehmen Veesion bietet eine Smartbox für Kameras an, die erkennt, wenn jemand etwas in die Tasche steckt.
Veesion gab letztes Jahr bekannt, dass hauptsächlich unabhängige Unternehmer die Technologie nutzen. Auch in den Niederlanden. „Alle von ihnen sind unabhängige Franchisenehmer, mit denen wir zusammenarbeiten“, sagte das Unternehmen. „Ladendiebstahl ist ein unmittelbares Problem für die Besitzer dieser Geschäfte.“
Die niederländische Datenschutzbehörde kann noch nichts zum neuen Versuch mit KI sagen. „Wir können erst dann ein Urteil darüber fällen, wenn wir es untersucht haben“, sagt Sprecherin Elizabeth Palandeng. „Und wir können nicht im Voraus sagen, ob wir das tun werden.“
„Es hat sich immer wieder gezeigt, dass es schlecht funktioniert“
Es bestehen Bedenken hinsichtlich des Einsatzes der Technologie. Beispielsweise bezeichnete die Politikberaterin Nadia Benaissa von der Datenschutzorganisation Bits of Freedom den Prozess als unverhältnismäßig. „Jumbo beschließt, das Filialpersonal zu reduzieren und alle Arten von Selbstbedienungskassen zu installieren. Dann nehmen die Ladendiebstähle zu, und das muss mit Überwachungstechnologie gelöst werden.“
Laut Benaissa sind die Risiken für die Bürger groß. Nicht nur bei diesem Test, sondern auch beim Einsatz der Technologie in anderen Geschäften. „Man muss nur einen einzigen falschen Schritt machen und schon kann man fälschlicherweise als verdächtig eingestuft werden.“ Es zeigt sich immer wieder, dass diese Art der Profiling-Technologie schlecht funktioniert und voller Vorurteile steckt. Mittlerweile gerät die Privatsphäre der Bürger zunehmend in Gefahr.“ sind bei dieser Art von Experimenten eingeschränkt.“
Auch Europaabgeordnete Kim van Sparrentak, die eng an der Entwicklung des europäischen KI-Gesetzes beteiligt ist, äußert ihre Bedenken. „Es ist natürlich absurd, wenn Geschäfte anfangen, Ihr Verhalten zu überwachen und Ihnen durch den Laden zu folgen. Wir werden bald täglich mit der Überwachung durch KI konfrontiert sein, nur weil Supermärkte Geld sparen wollen.“
Sie fragt sich auch, inwieweit bestimmte Verhaltensweisen als abweichend angesehen werden. Denn was ist, wenn Sie längere Zeit in einem Geschäft bleiben und nur für wenige Produkte bezahlen? Ist das verdächtig? „Das kann zu skurrilen Ergebnissen führen. Wird jemand, der Schwierigkeiten beim Gehen hat und langsam geht, bald systematisch zum Betrüger? Oder wird man bald nach der Kasse jedes Mal, wenn man es eilig hat, umfangreich kontrolliert?“