Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, startet Tech eine Reihe von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Da der KI-Boom anhält, werden wir im Laufe des Jahres mehrere Artikel veröffentlichen, in denen wir wichtige Arbeiten hervorheben, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Miranda Bogen ist Gründungsdirektorin des AI Governance Lab des Center of Democracy and Technology, wo sie an der Entwicklung von Lösungen arbeitet, die KI-Systeme effektiv regulieren und steuern können. Sie half bei der Leitung verantwortungsvoller KI-Strategien bei Meta und arbeitete zuvor als leitende Politikanalystin bei der Organisation Uptown, die mithilfe von Technologie Gleichberechtigung und Gerechtigkeit fördern will.
Kurz gesagt, wie haben Sie mit der KI begonnen? Was hat Sie an diesem Fachgebiet gereizt?
Die Arbeit an maschinellem Lernen und KI faszinierte mich, als ich sah, wie diese Technologien mit grundlegenden Diskussionen über die Gesellschaft – Werte, Rechte und welche Gemeinschaften zurückgelassen werden – kollidierten. Meine frühen Arbeiten zur Erforschung der Schnittstelle zwischen KI und Bürgerrechten haben mich darin bestärkt, dass KI-Systeme weit mehr als nur technische Artefakte sind; Es handelt sich um Systeme, die durch ihre Interaktion mit Menschen, Bürokratien und Richtlinien sowohl geformt als auch geformt werden. Ich war schon immer ein Experte darin, zwischen technischen und nichttechnischen Zusammenhängen zu übersetzen, und die Gelegenheit, dazu beizutragen, den Anschein technischer Komplexität zu durchbrechen, um Gemeinschaften mit unterschiedlichem Fachwissen dabei zu helfen, die Art und Weise zu gestalten, wie KI von Grund auf aufgebaut wird, hat mich begeistert .
Auf welche Arbeit sind Sie am meisten stolz (im KI-Bereich)?
Als ich anfing, in diesem Bereich zu arbeiten, mussten viele Leute noch davon überzeugt werden, dass KI-Systeme diskriminierende Auswirkungen auf marginalisierte Bevölkerungsgruppen haben könnten, ganz zu schweigen davon, dass etwas gegen diese Schäden unternommen werden muss. Auch wenn die Kluft zwischen dem Status quo und einer Zukunft, in der Vorurteile und andere Schäden systematisch angegangen werden, immer noch zu groß ist, bin ich doch zufrieden mit der Forschung, die meine Mitarbeiter und ich durchgeführt haben Diskriminierung im personalisierten Online-Bereich Werbung und meine Arbeit in der Branche zur algorithmischen Fairness haben dazu beigetragen bedeutende Änderungen am Anzeigenauslieferungssystem von Meta und Fortschritte bei der Verringerung der Ungleichheiten beim Zugang zu wichtigen wirtschaftlichen Möglichkeiten.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Ich hatte das Glück, mit phänomenalen Kollegen und Teams zusammenzuarbeiten, die großzügig mit Möglichkeiten und aufrichtiger Unterstützung waren, und wir haben versucht, diese Energie in jeden Raum zu bringen, in dem wir uns befanden. Bei meinem letzten beruflichen Übergang war ich umso erfreuter Alle meine Möglichkeiten bestanden darin, in Teams oder in Organisationen zu arbeiten, die von phänomenalen Frauen geleitet werden, und ich hoffe, dass dieser Bereich weiterhin die Stimmen derjenigen erhebt, die sich traditionell nicht auf technologieorientierte Gespräche konzentriert haben.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Den gleichen Rat gebe ich jedem, der danach fragt: Finden Sie unterstützende Manager, Berater und Teams, die Sie antreiben und inspirieren, die Ihre Meinung und Perspektive wertschätzen und die sich aufs Spiel setzen, um für Sie und Ihre Arbeit einzustehen.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
Die Auswirkungen und Schäden, die KI-Systeme bereits auf Menschen haben, sind zu diesem Zeitpunkt wohlbekannt, und eine der größten drängenden Herausforderungen besteht darin, über die Beschreibung des Problems hinauszugehen und robuste Ansätze zu entwickeln, um diese Schäden systematisch anzugehen und Anreize für ihre Einführung zu schaffen. Wir haben das ins Leben gerufen KI-Governance-Labor bei CDT, um den Fortschritt in beide Richtungen voranzutreiben.
Welche Probleme sollten KI-Benutzer beachten?
In den meisten Fällen fehlen den KI-Systemen noch Sicherheitsgurte, Airbags und Verkehrszeichen. Gehen Sie daher vorsichtig vor, bevor Sie sie für Folgeaufgaben verwenden.
Was ist der beste Weg, KI verantwortungsvoll aufzubauen?
Der beste Weg, KI verantwortungsvoll aufzubauen, ist Bescheidenheit. Überlegen Sie, wie der Erfolg des KI-Systems, an dem Sie arbeiten, definiert wurde, wem diese Definition dient und welcher Kontext möglicherweise fehlt. Überlegen Sie, bei wem das System ausfallen könnte und was passiert, wenn es dazu kommt. Und bauen Sie Systeme nicht nur mit den Menschen auf, die sie nutzen, sondern auch mit den Gemeinschaften, die ihnen unterworfen sein werden.
Wie können Anleger verantwortungsvolle KI besser vorantreiben?
Investoren müssen den Technologieentwicklern Raum geben, bewusster vorzugehen, bevor sie unausgegorene Technologien überstürzt auf den Markt bringen. Der starke Wettbewerbsdruck, die neuesten, größten und glänzendsten neuen KI-Modelle auf den Markt zu bringen, führt zu einer besorgniserregenden Unterinvestition in verantwortungsvolle Praktiken. Während hemmungslose Innovation ein verlockendes Sirenenlied singt, ist es eine Fata Morgana, die alle schlechter stellen wird.
KI ist keine Zauberei; Es ist nur ein Spiegel, der der Gesellschaft vorgehalten wird. Wenn wir wollen, dass es etwas anderes widerspiegelt, müssen wir noch viel tun.