Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, startet Tech eine Reihe von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Da der KI-Boom anhält, werden wir im Laufe des Jahres mehrere Artikel veröffentlichen, in denen wir wichtige Arbeiten hervorheben, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Brandie Nonnecke ist Gründungsdirektor des CITRIS Policy Lab mit Sitz an der UC Berkeley, das interdisziplinäre Forschung zur Beantwortung von Fragen rund um die Rolle der Regulierung bei der Innovationsförderung unterstützt. Nonnecke ist außerdem Co-Direktorin des Berkeley Center for Law and Technology, wo sie Projekte zu KI, Plattformen und Gesellschaft leitet, sowie des UC Berkeley AI Policy Hub, einer Initiative zur Ausbildung von Forschern für die Entwicklung effektiver KI-Governance und politischer Rahmenbedingungen.
In ihrer Freizeit moderiert Nonnecke die Video- und Podcast-Serie TecHype, die neue Technologierichtlinien, -vorschriften und -gesetze analysiert, Einblicke in die Vorteile und Risiken bietet und Strategien identifiziert, um Technologie für immer zu nutzen.
Fragen und Antworten
Kurz gesagt, wie haben Sie mit der KI angefangen? Was hat Sie an diesem Fachgebiet gereizt?
Ich arbeite seit fast einem Jahrzehnt im Bereich verantwortungsvolle KI-Governance. Meine Ausbildung in Technologie, öffentlicher Politik und deren Überschneidung mit gesellschaftlichen Auswirkungen hat mich in dieses Fachgebiet geführt. KI ist bereits allgegenwärtig und hat tiefgreifende Auswirkungen auf unser Leben – im Guten wie im Schlechten. Es ist mir wichtig, einen sinnvollen Beitrag dazu zu leisten, dass die Gesellschaft diese Technologie für einen guten Zweck nutzen kann, anstatt nur am Rande zu stehen.
Auf welche Arbeit sind Sie am meisten stolz (im KI-Bereich)?
Ich bin wirklich stolz auf zwei Dinge, die wir erreicht haben. Erstens war die University of California die erste Universität, die verantwortungsvolle KI-Grundsätze und eine Governance-Struktur etablierte, um eine verantwortungsvolle Beschaffung und Nutzung von KI besser zu gewährleisten. Wir nehmen unsere Verpflichtung, der Öffentlichkeit verantwortungsvoll zu dienen, ernst. Ich hatte die Ehre, Co-Vorsitzender der UC Presidential Working Group on AI und ihres anschließenden ständigen AI Council zu sein. In diesen Rollen konnte ich Erfahrungen aus erster Hand sammeln und darüber nachdenken, wie wir unsere verantwortungsvollen KI-Prinzipien am besten umsetzen können, um unsere Fakultät, Mitarbeiter, Studenten und die breiteren Gemeinschaften, denen wir dienen, zu schützen. Zweitens halte ich es für entscheidend, dass die Öffentlichkeit neue Technologien und ihre tatsächlichen Vorteile und Risiken versteht. Wir haben TecHype ins Leben gerufen, eine Video- und Podcast-Reihe, die neue Technologien entmystifiziert und Anleitungen für wirksame technische und politische Interventionen bietet.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Seien Sie neugierig, beharrlich und lassen Sie sich vom Hochstapler-Syndrom nicht abschrecken. Ich habe es als entscheidend empfunden, Mentoren zu suchen, die Diversität und Inklusion unterstützen, und anderen, die in diesem Bereich Fuß fassen, die gleiche Unterstützung zu bieten. Der Aufbau integrativer Gemeinschaften im Technologiebereich war eine wirkungsvolle Möglichkeit, Erfahrungen, Ratschläge und Ermutigung auszutauschen.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Für Frauen, die in den KI-Bereich einsteigen, gebe ich drei Ratschläge: Streben Sie unermüdlich nach Wissen, denn KI ist ein sich schnell entwickelnder Bereich. Nutzen Sie die Vernetzung, denn Kontakte öffnen Ihnen Türen zu Chancen und bieten unschätzbare Unterstützung. Und setzen Sie sich für sich selbst und andere ein, denn Ihre Stimme ist entscheidend für die Gestaltung einer integrativen, gerechten Zukunft der KI. Denken Sie daran, dass Ihre einzigartigen Perspektiven und Erfahrungen das Fachgebiet bereichern und Innovationen vorantreiben.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
Ich glaube, dass eines der drängendsten Probleme der KI bei ihrer Weiterentwicklung darin besteht, sich nicht auf die neuesten Hype-Zyklen einzulassen. Das sehen wir jetzt bei der generativen KI. Sicherlich stellt die generative KI erhebliche Fortschritte dar und wird enorme Auswirkungen haben – im Guten wie im Schlechten. Heutzutage sind jedoch auch andere Formen des maschinellen Lernens im Einsatz, die heimlich Entscheidungen treffen, die sich direkt auf die Fähigkeit jedes Einzelnen auswirken, seine Rechte auszuüben. Anstatt uns auf die neuesten Wunder des maschinellen Lernens zu konzentrieren, ist es wichtiger, dass wir uns darauf konzentrieren, wie und wo maschinelles Lernen unabhängig von seiner technologischen Leistungsfähigkeit angewendet wird.
Welche Probleme sollten KI-Benutzer beachten?
KI-Nutzer sollten sich der Probleme im Zusammenhang mit Datenschutz und -sicherheit, dem Potenzial für Voreingenommenheit bei KI-Entscheidungen und der Bedeutung von Transparenz bei der Funktionsweise und Entscheidungsfindung von KI-Systemen bewusst sein. Das Verständnis dieser Probleme kann Benutzer dazu befähigen, verantwortungsvollere und gerechtere KI-Systeme zu fordern.
Was ist der beste Weg, KI verantwortungsvoll aufzubauen?
Der verantwortungsvolle Aufbau von KI erfordert die Berücksichtigung ethischer Überlegungen in jeder Phase der Entwicklung und Bereitstellung. Dazu gehören die vielfältige Einbindung von Stakeholdern, transparente Methoden, Strategien zum Voreingenommenheitsmanagement und laufende Folgenabschätzungen. Es ist von grundlegender Bedeutung, dem Gemeinwohl Priorität einzuräumen und sicherzustellen, dass bei der Entwicklung von KI-Technologien Menschenrechte, Fairness und Inklusivität im Mittelpunkt stehen.
Wie können Anleger verantwortungsvolle KI besser vorantreiben?
Das ist eine so wichtige Frage! Wir haben lange Zeit nie ausdrücklich über die Rolle der Investoren gesprochen. Ich kann gar nicht genug zum Ausdruck bringen, wie einflussreich Investoren sind! Meiner Meinung nach wird der Spruch „Regulierung erstickt Innovationen“ überstrapaziert und ist oft unwahr. Stattdessen bin ich fest davon überzeugt, dass kleinere Unternehmen einen Late-Mover-Vorteil genießen und von den größeren KI-Unternehmen lernen können, die verantwortungsvolle KI-Praktiken entwickelt haben, sowie von den Leitlinien aus Wissenschaft, Zivilgesellschaft und Regierung. Investoren haben die Macht, die Richtung der Branche zu bestimmen, indem sie verantwortungsvolle KI-Praktiken zu einem entscheidenden Faktor bei ihren Anlageentscheidungen machen. Dazu gehört die Unterstützung von Initiativen, die sich auf die Bewältigung gesellschaftlicher Herausforderungen durch KI konzentrieren, die Förderung von Vielfalt und Inklusion innerhalb der KI-Belegschaft und das Eintreten für eine starke Governance und technische Strategien, die dazu beitragen, dass KI-Technologien der Gesellschaft als Ganzes zugute kommen.