Der Einsatz künstlicher Intelligenz in Gerichtsverfahren ist „verfassungswidrig“, sagen malaysische Anwälte
Malaysische Anwälte sagen, der Einsatz eines KI-Systems im Justizsystem des Landes sei „verfassungswidrig“ und behaupten, dass niemand wirklich verstehe, wie es funktioniert. Dies geschah, nachdem Gerichte in zwei malaysischen Bundesstaaten ein Testprogramm gestartet hatten, um KI einzusetzen, um Richter bei der Verhängung von Strafen für verurteilte Drogendealer und Vergewaltiger zu unterstützen. Die von der staatlichen Regierungsfirma Sarawak Information Systems entwickelte KI-Software wurde 2020 erstmals an zwei Gerichten in Sabah und Sarawak auf der Insel Borneo im Rahmen eines Pilotprojekts eingeführt, um die Effizienz künstlicher Intelligenz bei Urteilsempfehlungen zu untersuchen. Der Test sollte im April 2022 enden. Das Gericht in Sabah war das erste im Land, das KI zur Verhängung eines Gerichtsurteils einsetzte, als es 2020 zwei Männer wegen Drogenbesitzes verurteilte. Hadid Ismail – ein Anwalt mit 20 Jahren Erfahrungsschatz, der die Angeklagten vertrat – stellte das Urteil in Frage und behauptete, dass das System verwendet wurde, bevor Richter, Anwälte und die Öffentlichkeit überhaupt die Chance hatten, es und seine Funktionsweise vollständig zu verstehen. „Unsere Strafprozessordnung sieht den Einsatz von KI vor Gericht nicht vor … Ich halte das für verfassungswidrig“, sagte Ismail gegenüber Reuters. „Bei der Urteilsverkündung betrachten Richter nicht nur die Fakten des Falles – sie ziehen auch mildernde Umstände in Betracht und nutzen ihren Ermessensspielraum. Aber die KI kann keine Diskretion walten lassen“, sagte er und fügte hinzu, dass die Strafe, die die KI gegen einen seiner Klienten wegen geringfügigen Drogenbesitzes verhängt hatte, zu hart war – 12 Monate Gefängnis für den Besitz von 0,01 Gramm Methamphetamin. Der malaysische Anwaltsrat, der Anwälte vertritt, hat ebenfalls seine Frustration über das KI-Pilotprogramm zum Ausdruck gebracht. Nachdem Gerichte in Kuala Lumpur, der Hauptstadt Malaysias, Mitte 2021 damit begonnen hatten, das System zu testen, um Strafen für 20 Arten von Straftaten vorzuschlagen, sagte der Rat, dass ihm „überhaupt keine Richtlinien gegeben wurden und wir keine Gelegenheit hatten, Feedback von Strafrechtspraktikern zu erhalten .“ Eine malaysische Denkfabrik, das Khazanah Research Institute, reichte 2020 ebenfalls einen Bericht über das System ein und argumentierte, dass die in der KI-Software installierten Abhilfemaßnahmen, wie das Entfernen der Rasse als Variable, es nicht geschafft hätten, das System perfekt zu machen. Sie stellten auch fest, dass das System „im Vergleich zu den umfangreichen Datenbanken, die bei globalen Bemühungen verwendet werden, etwas begrenzt“ sei, da der KI-Algorithmus nur mit einem Datensatz von fünf Jahren von 2014 bis 2019 trainiert wurde. Ein Sprecher des Bundesgerichtshofs erklärte, dass die Der Einsatz künstlicher Intelligenz vor Gericht befinde sich „noch im Versuchsstadium“, wollte sich aber nicht weiter zur Funktionsweise des Systems äußern.
Weiterlesen
Forscher entwickeln KI, die Kriminelle „strafrechtlich verfolgen“ kann – Medien
Inzwischen hat der Einsatz von KI im Strafjustizsystem weltweit schnell zugenommen, von der beliebten DoNotPay – einer mobilen App für Chatbot-Anwälte – über KI-Richter, die über geringfügige Forderungen in Estland entscheiden, Roboter-Mediatoren in Kanada und sogar KI-Richter in Estland Chinesische Gerichte. Die Befürworter dieser KI-Systeme bestehen darauf, dass sie die Verurteilung konsistenter gestalten und Rückstände in Fällen schnell und kostengünstig auflösen können, während die an den Gerichtsverfahren beteiligten Parteien Zeit und Geld sparen. Simon Chesterman, Rechtsprofessor an der National University of Singapore und Senior Director bei AI Singapore – einem von der Regierung betriebenen Programm – besteht darauf, dass Technologie das Potenzial hat, die Effizienz im Strafjustizsystem zu verbessern, hat jedoch die Legitimität solcher Systeme anerkannt hängt nicht nur von der Genauigkeit der getroffenen Entscheidungen ab, sondern auch von der Art und Weise, wie sie getroffen werden. „Viele Entscheidungen könnten richtig an die Maschinen übergeben werden. [But] ein Richter sollte die Diskretion nicht an einen undurchsichtigen Algorithmus auslagern“, sagte Chesterman. Zurück in Sabah legte Ismail Berufung gegen das harte Urteil seines Mandanten ein, das von der KI empfohlen wurde, und der Richter, der den Fall leitete, gab ihm schließlich die Berufung. Ismail hat jedoch gewarnt, dass viele andere Anwälte, insbesondere junge, sich entscheiden könnten, das KI-System nicht anzufechten – und ihre Mandanten möglicherweise zu unangemessen harten Strafen verurteilen. „Die KI verhält sich wie ein hochrangiger Richter, junge Richter denken vielleicht, dass es die beste Entscheidung ist, und akzeptieren sie ohne Frage“, sagte Ismail.
rrt-allgemeines