15 jul 2022 om 07:34
Die Proctorio-Software wird von verschiedenen niederländischen Universitäten für Prüfungen verwendet, die von zu Hause aus durchgeführt werden. Das Programm verwendet Algorithmen, um zu überprüfen, ob kein Betrug vorliegt.
Masterstudent Robin Pocornie hatte mehr als einmal Probleme, sich in die Anti-Cheating-Software einzuloggen. Es funktionierte nicht, bis sie ihr mit einer Lampe direkt ins Gesicht leuchtete. „Die Software hat mich nicht als Menschen erkannt“, erzählt sie de Volkskrant.
Pocornie reichte zunächst eine Beschwerde bei der VU ein, in der er darum bat, die Verwendung von Proctorio einzustellen. Darüber hinaus will sie sicherstellen, dass Maßnahmen ergriffen werden, um solche Probleme in Zukunft zu verhindern, und sie möchte, dass sich die VU öffentlich bei den ebenfalls betroffenen Studierenden entschuldigt.
Jetzt geht die Studentin aufs Human Rights College, weil die VU ihrer Meinung nach noch keine Verantwortung übernimmt. Sie erhofft sich durch die Einreichung der Beschwerde, dass die Institutionen künftig besser über die von ihnen eingesetzte Software informiert werden, damit diese nicht im Nachhinein diskriminierend wirkt.
„Schwarze Frauen werden von Software häufiger nicht erkannt“
Naomi Appelman vom Racism and Technology Center sagt, es sei seit einiger Zeit bekannt, dass die Gesichtserkennung bei People of Color weniger gut funktioniert. „Forscher des MIT und von Microsoft haben bereits 2018 gezeigt, dass schwarze Frauen in fast 35 Prozent der Fälle bei drei großen Anbietern von Gesichtserkennungssoftware nicht erkannt wurden“, sagt sie. „Bei weißen Männern ging das in weniger als 1 Prozent der Fälle schief.“
„Leider ist dies noch nicht in die breitere gesellschaftliche Diskussion vorgedrungen und die Software wird an immer mehr Orten eingesetzt“, sagt sie. Laut Appelman befassen sich Bildungseinrichtungen oft mit den Auswirkungen von Anti-Cheating-Software auf die Privatsphäre, stellen aber fast nie die Frage, ob alle gleich behandelt werden.