Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, startet Tech eine Reihe von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Da der KI-Boom anhält, werden wir im Laufe des Jahres mehrere Artikel veröffentlichen, in denen wir wichtige Arbeiten hervorheben, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Sandra Wachter ist Professorin und leitende Forscherin für Datenethik, KI, Robotik, Algorithmen und Regulierung am Oxford Internet Institute. Sie ist außerdem ehemaliges Mitglied des Alan Turing Institute, dem nationalen Institut für Datenwissenschaft und KI im Vereinigten Königreich.
Während seiner Zeit am Turing-Institut bewertete Watcher die ethischen und rechtlichen Aspekte der Datenwissenschaft und beleuchtete Fälle, in denen undurchsichtige Algorithmen rassistisch und sexistisch geworden sind. Sie untersuchte auch Möglichkeiten zur Prüfung von KI, um Desinformation zu bekämpfen und Gerechtigkeit zu fördern.
Fragen und Antworten
Kurz gesagt, wie haben Sie mit der KI begonnen? Was hat Sie an diesem Fachgebiet gereizt?
Ich kann mich an keine Zeit in meinem Leben erinnern, in der ich nicht daran geglaubt hätte, dass Innovation und Technologie ein unglaubliches Potenzial haben, das Leben der Menschen zu verbessern. Allerdings weiß ich auch, dass Technologie verheerende Folgen für das Leben der Menschen haben kann. Und so war ich – nicht zuletzt aufgrund meines ausgeprägten Gerechtigkeitssinns – stets bestrebt, einen Weg zu finden, diesen perfekten Mittelweg zu gewährleisten. Innovation ermöglichen und gleichzeitig die Menschenrechte schützen.
Ich hatte immer das Gefühl, dass das Recht eine sehr wichtige Rolle spielt. Das Gesetz kann der Mittelweg sein, der sowohl Menschen schützt als auch Innovationen ermöglicht. Jura als Disziplin war für mich eine Selbstverständlichkeit. Ich mag Herausforderungen, ich mag es zu verstehen, wie ein System funktioniert, zu sehen, wie ich es ausnutzen, Lücken finden und sie anschließend schließen kann.
KI ist eine unglaublich transformative Kraft. Es wird in den Bereichen Finanzen, Beschäftigung, Strafjustiz, Einwanderung, Gesundheit und Kunst umgesetzt. Das kann gut und schlecht sein. Und ob es gut oder schlecht ist, ist eine Frage des Designs und der Politik. Es hat mich natürlich angezogen, weil ich das Gefühl hatte, dass das Recht einen sinnvollen Beitrag dazu leisten kann, dass Innovation möglichst vielen Menschen zugute kommt.
Auf welche Arbeit sind Sie am meisten stolz (im KI-Bereich)?
Ich denke, das Werk, auf das ich derzeit am meisten stolz bin, ist ein gemeinsam mit Brent Mittelstadt (einem Philosophen), Chris Russell (einem Informatiker) und mir als Anwalt verfasstes Werk.
Unsere neueste Arbeit zum Thema Voreingenommenheit und Fairness: „Die Ungerechtigkeit des fairen maschinellen Lernens„zeigte die schädlichen Auswirkungen der Durchsetzung vieler Maßnahmen zur „Gruppengerechtigkeit“ in der Praxis. Konkret wird Gerechtigkeit dadurch erreicht, dass man „nach unten rutscht“ oder alle schlechter stellt, anstatt benachteiligten Gruppen zu helfen. Dieser Ansatz ist im Kontext der Antidiskriminierungsgesetze der EU und des Vereinigten Königreichs sehr problematisch und ethisch bedenklich. In einem Stück in Wired Wir haben darüber gesprochen, wie schädlich eine Herabstufung in der Praxis sein kann – im Gesundheitswesen beispielsweise könnte die Durchsetzung von Gruppengerechtigkeit dazu führen, dass mehr Krebsfälle als unbedingt nötig übersehen werden, während gleichzeitig ein System insgesamt weniger genau wird.
Für uns war das erschreckend und etwas, das für Menschen in der Technik, Politik und wirklich jeden Menschen wichtig zu wissen ist. Tatsächlich haben wir mit den Regulierungsbehörden des Vereinigten Königreichs und der EU zusammengearbeitet und ihnen unsere alarmierenden Ergebnisse mitgeteilt. Ich hoffe zutiefst, dass dies den politischen Entscheidungsträgern den notwendigen Einfluss gibt, um neue Richtlinien umzusetzen, die verhindern, dass KI solch schwerwiegende Schäden anrichtet.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Das Interessante ist, dass ich Technologie nie als etwas angesehen habe, das „Männern gehört“. Erst als ich in die Schule kam, wurde mir in der Gesellschaft klar, dass Technik keinen Platz für Leute wie mich hat. Ich erinnere mich noch daran, dass der Lehrplan als ich 10 Jahre alt war, vorschrieb, dass Mädchen stricken und nähen mussten, während die Jungen Vogelhäuschen bauten. Ich wollte auch ein Vogelhaus bauen und beantragte die Versetzung in die Jungenklasse, aber meine Lehrer sagten mir, dass „Mädchen das nicht tun“. Ich ging sogar zum Schulleiter und versuchte, die Entscheidung aufzuheben, scheiterte aber leider damals.
Es ist sehr schwer, gegen das Klischee anzukämpfen, dass man nicht Teil dieser Gemeinschaft sein sollte. Ich wünschte, ich könnte sagen, dass solche Dinge nicht mehr passieren, aber das stimmt leider nicht.
Allerdings hatte ich das unglaubliche Glück, mit Verbündeten wie Brent Mittelstadt und Chris Russell zusammenzuarbeiten. Ich hatte das Privileg, unglaubliche Mentoren wie meinen Doktorvater zu haben. Mein Vorgesetzter und ich verfügen über ein wachsendes Netzwerk von Gleichgesinnten aller Geschlechter, die ihr Bestes geben, um den Weg voranzutreiben und die Situation für alle, die sich für Technik interessieren, zu verbessern.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Versuchen Sie vor allem, Gleichgesinnte und Verbündete zu finden. Es ist von entscheidender Bedeutung, die eigenen Leute zu finden und sich gegenseitig zu unterstützen. Meine einflussreichste Arbeit ist immer das Gespräch mit aufgeschlossenen Menschen mit anderen Hintergründen und Disziplinen zur Lösung gemeinsamer Probleme, mit denen wir konfrontiert sind. Anerkannte Weisheit allein kann neuartige Probleme nicht lösen, daher verfügen Frauen und andere Gruppen, die in der Vergangenheit mit Hindernissen beim Einstieg in die KI und andere Technologiebereiche konfrontiert waren, über die Werkzeuge, um wirklich innovativ zu sein und etwas Neues anzubieten.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
Ich denke, es gibt eine Vielzahl von Themen, die einer ernsthaften rechtlichen und politischen Prüfung bedürfen. Um nur einige zu nennen: KI leidet unter verzerrten Daten, die zu diskriminierenden und unfairen Ergebnissen führen. KI ist von Natur aus undurchsichtig und schwer zu verstehen, dennoch hat sie die Aufgabe zu entscheiden, wer einen Kredit bekommt, wer den Job bekommt, wer ins Gefängnis muss und wer zur Universität gehen darf.
Generative KI hat damit verbundene Probleme, trägt aber auch zu Fehlinformationen bei, ist voller Halluzinationen, verstößt gegen Datenschutz und Rechte an geistigem Eigentum, gefährdet die Arbeitsplätze von Menschen und trägt mehr zum Klimawandel bei als die Luftfahrtindustrie.
Wir dürfen keine Zeit verlieren; Wir müssen diese Probleme gestern angesprochen haben.
Welche Probleme sollten KI-Benutzer beachten?
Ich denke, dass es eine Tendenz gibt, an eine bestimmte Erzählung zu glauben, die lautet: „KI ist hier und hier, um zu bleiben, einzusteigen oder zurückgelassen zu werden.“ Ich denke, es ist wichtig, darüber nachzudenken, wer dieses Narrativ vorantreibt und wer davon profitiert. Es ist wichtig, sich daran zu erinnern, wo die eigentliche Macht liegt. Die Macht liegt nicht bei denen, die innovativ sind, sondern bei denen, die KI kaufen und implementieren.
Verbraucher und Unternehmen sollten sich also fragen: „Hilft mir diese Technologie tatsächlich und in welcher Hinsicht?“ In elektrische Zahnbürsten ist mittlerweile „KI“ integriert. Für wen ist das? Wer braucht das? Was wird hier verbessert?
Mit anderen Worten: Fragen Sie sich, was kaputt ist und was repariert werden muss und ob KI das Problem tatsächlich beheben kann.
Diese Art des Denkens wird die Marktmacht verlagern, und die Innovation wird sich hoffentlich in eine Richtung entwickeln, die sich auf den Nutzen für eine Gemeinschaft und nicht nur auf den Profit konzentriert.
Was ist der beste Weg, KI verantwortungsvoll aufzubauen?
Es gibt Gesetze, die eine verantwortungsvolle KI fordern. Auch hier dominiert tendenziell ein sehr wenig hilfreiches und unwahres Narrativ: dass Regulierung Innovationen erstickt. Das ist nicht wahr. Regulierung erstickt schädlich Innovation. Gute Gesetze fördern und nähren ethische Innovation; Deshalb haben wir sichere Autos, Flugzeuge, Züge und Brücken. Die Gesellschaft hat nichts verloren, wenn die Regulierung das verhindert
Schaffung von KI, die die Menschenrechte verletzt.
Auch Verkehrs- und Sicherheitsvorschriften für Autos würden „Innovationen ersticken“ und „die Autonomie einschränken“. Diese Gesetze verhindern, dass Menschen ohne Führerschein fahren, verhindern, dass Autos auf den Markt kommen, die nicht über Sicherheitsgurte und Airbags verfügen, und bestrafen Menschen, die sich nicht an die Geschwindigkeitsbegrenzung halten. Stellen Sie sich vor, wie die Sicherheitsbilanz der Automobilindustrie aussehen würde, wenn es keine Gesetze zur Regulierung von Fahrzeugen und Fahrern gäbe. KI befindet sich derzeit an einem ähnlichen Wendepunkt, und aufgrund der Lobbyarbeit der Schwerindustrie und des politischen Drucks ist immer noch unklar, welchen Weg sie einschlagen wird.
Wie können Anleger verantwortungsvolle KI besser vorantreiben?
Ich habe vor ein paar Jahren einen Aufsatz geschrieben mit dem Titel „Wie faire KI uns reicher machen kann.“ Ich bin fest davon überzeugt, dass KI, die die Menschenrechte respektiert und unvoreingenommen, erklärbar und nachhaltig ist, nicht nur rechtlich, ethisch und moralisch richtig ist, sondern auch profitabel sein kann.
Ich hoffe wirklich, dass Investoren verstehen, dass sie auch bessere Produkte bekommen, wenn sie verantwortungsvolle Forschung und Innovation vorantreiben. Schlechte Daten, schlechte Algorithmen und schlechte Designentscheidungen führen zu schlechteren Produkten. Auch wenn ich Sie nicht davon überzeugen kann, dass Sie ethische Maßnahmen ergreifen sollten, weil es richtig ist, hoffe ich, dass Sie erkennen, dass ethische Maßnahmen auch profitabler sind. Ethik sollte als Investition und nicht als zu überwindende Hürde betrachtet werden.