Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, startet Tech eine Reihe von Interviews, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Da der KI-Boom anhält, werden wir im Laufe des Jahres mehrere Artikel veröffentlichen, in denen wir wichtige Arbeiten hervorheben, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Francine Bennett ist Gründungsmitglied des Vorstands des Ada Lovelace Insititute und fungiert derzeit als Interimsdirektor der Organisation. Zuvor arbeitete sie in der Biotechnologie und nutzte KI, um medizinische Behandlungen für seltene Krankheiten zu finden. Sie war außerdem Mitbegründerin eines Beratungsunternehmens für Datenwissenschaft und Gründungs-Treuhänderin von DataKind UK, das britische Wohltätigkeitsorganisationen bei der Unterstützung von Datenwissenschaft unterstützt.
Kurz gesagt, wie haben Sie mit der KI angefangen? Was hat Sie an diesem Fachgebiet gereizt?
Ich begann mit reiner Mathematik und interessierte mich nicht so sehr für angewandte Mathematik – ich bastelte gerne an Computern, dachte aber, angewandte Mathematik sei nur Berechnung und intellektuell nicht sehr interessant. Zu KI und maschinellem Lernen kam ich erst später, als mir und allen anderen klar wurde, dass sich durch die immer größere Menge an Daten in vielen Kontexten spannende Möglichkeiten eröffnen, mithilfe von KI alle Arten von Problemen auf neue Weise zu lösen und maschinelles Lernen, und sie waren viel interessanter, als ich gedacht hatte.
Auf welche Arbeit sind Sie am meisten stolz (im KI-Bereich)?
Am stolzesten bin ich auf die Arbeit, die zwar technisch nicht besonders aufwändig ist, aber echte Verbesserungen für die Menschen mit sich bringt – zum Beispiel der Einsatz von ML, um bisher unbemerkte Muster in Berichten über Patientensicherheitsvorfälle in einem Krankenhaus zu finden, um den medizinischen Fachkräften dabei zu helfen, die Zukunft zu verbessern Patienten-Ergebnisse. Und ich bin stolz darauf, bei Veranstaltungen wie dem diesjährigen britischen AI Safety Summit zu vertreten, wie wichtig es ist, den Menschen und die Gesellschaft und nicht die Technologie in den Mittelpunkt zu stellen. Ich denke, das ist nur mit Autorität möglich, weil ich sowohl Erfahrung darin habe, mit der Technologie zu arbeiten, als auch von ihr begeistert zu sein und tief in die Frage einzutauchen, wie sie sich in der Praxis tatsächlich auf das Leben der Menschen auswirkt.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Hauptsächlich, indem ich mich dafür entscheide, an Orten und mit Menschen zu arbeiten, die sich für die Person und ihre Fähigkeiten und nicht für das Geschlecht interessieren, und indem ich versuche, meinen Einfluss zu nutzen, um dies zur Norm zu machen. Wann immer ich kann, arbeite ich auch in vielfältigen Teams – in einem ausgeglichenen Team zu sein und nicht eine außergewöhnliche „Minderheit“ zu sein, sorgt für eine ganz andere Atmosphäre und macht es für jeden viel einfacher, sein Potenzial auszuschöpfen. Im weiteren Sinne ist es offensichtlich, dass Menschen aus allen Lebensbereichen in den Aufbau und die Gestaltung von KI einbezogen werden müssen, wenn dies der Fall ist, da KI so vielfältig ist und wahrscheinlich Auswirkungen auf so viele Lebensbereiche haben wird, insbesondere auf Menschen in marginalisierten Gemeinschaften wird gut funktionieren.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Genießen Sie es! Dies ist ein so interessantes, intellektuell anspruchsvolles und sich ständig veränderndes Feld – es gibt immer etwas Nützliches und Spannendes zu tun, und es gibt viele wichtige Anwendungen, an die noch niemand gedacht hat. Machen Sie sich auch keine allzu großen Sorgen darüber, dass Sie jede einzelne technische Sache wissen müssen (im wahrsten Sinne des Wortes weiß niemand jede einzelne technische Sache) – beginnen Sie einfach mit etwas, das Sie fasziniert, und arbeiten Sie von dort aus.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
Im Moment mangelt es meiner Meinung nach an einer gemeinsamen Vision davon, was die KI für uns tun soll und was sie für uns als Gesellschaft tun kann und was nicht. Derzeit gibt es viele technische Fortschritte, die wahrscheinlich sehr große ökologische, finanzielle und soziale Auswirkungen haben werden, und es herrscht große Begeisterung über die Einführung dieser neuen Technologien, ohne dass ein fundiertes Verständnis der potenziellen Risiken oder unbeabsichtigten Folgen besteht. Die meisten Leute, die die Technologie entwickeln und über die Risiken und Folgen sprechen, stammen aus einer ziemlich kleinen Bevölkerungsgruppe. Wir haben jetzt die Gelegenheit zu entscheiden, was wir von der KI sehen wollen, und daran zu arbeiten, dass dies geschieht. Wir können an andere Arten von Technologien zurückdenken und wie wir mit ihrer Entwicklung umgegangen sind oder was wir gerne besser gemacht hätten – was sind unsere Äquivalente für KI-Produkte zum Crashtest neuer Autos? ein Restaurant haftbar machen, das Ihnen versehentlich eine Lebensmittelvergiftung zufügt; Beratung betroffener Personen während der Baugenehmigung; Sie können gegen eine KI-Entscheidung Berufung einlegen, wie Sie es gegen eine menschliche Bürokratie tun könnten.
Welche Probleme sollten KI-Benutzer beachten?
Ich möchte, dass Menschen, die KI-Technologien verwenden, sich darüber im Klaren sind, was die Tools sind und was sie tun können, und dass sie darüber sprechen, was sie von KI erwarten. Es ist leicht, KI als etwas Unerkennbares und Unkontrollierbares zu betrachten, aber eigentlich ist sie nur ein Werkzeugsatz – und ich möchte, dass sich Menschen in der Lage fühlen, die Kontrolle darüber zu übernehmen, was sie mit diesen Werkzeugen tun. Aber es sollte nicht nur in der Verantwortung der Menschen liegen, die die Technologie nutzen – Regierung und Industrie sollten Bedingungen schaffen, damit Menschen, die KI nutzen, selbstbewusst sein können.
Was ist der beste Weg, KI verantwortungsvoll aufzubauen?
Diese Frage stellen wir am Ada Lovelace Institute häufig, dessen Ziel es ist, Daten-KI für Menschen und die Gesellschaft nutzbar zu machen. Es ist eine schwierige Frage, und es gibt Hunderte von Blickwinkeln, die man einnehmen könnte, aber aus meiner Sicht gibt es zwei wirklich große.
Die erste besteht darin, manchmal bereit zu sein, nicht zu bauen oder aufzuhören. Ständig sehen wir KI-Systeme mit großer Dynamik, bei denen die Entwickler versuchen, nachträglich „Leitplanken“ anzubringen, um Probleme und Schäden abzumildern, sich aber nicht in eine Situation bringen, in der ein Stoppen möglich ist.
Die zweite Möglichkeit besteht darin, sich wirklich mit den unterschiedlichen Menschen auseinanderzusetzen und zu verstehen, wie sie das, was Sie bauen, erleben werden. Wenn man sich wirklich auf ihre Erfahrungen einlassen kann, dann hat man viel mehr Chancen auf die positive Art verantwortungsvoller KI – etwas aufzubauen, das ein Problem für Menschen wirklich löst, basierend auf einer gemeinsamen Vision davon, wie Gutes aussehen würde – und Das Negative vermeiden – nicht aus Versehen das Leben von jemandem verschlechtern, weil sich sein Alltag einfach stark von Ihrem unterscheidet.
Beispielsweise hat das Ada Lovelace Institute in Zusammenarbeit mit dem NHS eine algorithmische Folgenabschätzung entwickelt, die Entwickler als Voraussetzung für den Zugriff auf Gesundheitsdaten durchführen sollten. Dies erfordert, dass Entwickler vor der Implementierung die möglichen gesellschaftlichen Auswirkungen ihres KI-Systems bewerten und die gelebten Erfahrungen von Menschen und Gemeinschaften einbeziehen, die betroffen sein könnten.
Wie können Anleger verantwortungsvolle KI besser vorantreiben?
Indem sie Fragen zu ihren Investitionen und ihrer möglichen Zukunft stellen – wie sieht es für dieses KI-System aus, brillant zu arbeiten und Verantwortung zu übernehmen? Wo könnte etwas aus dem Ruder laufen? Welche möglichen Folgewirkungen ergeben sich für Mensch und Gesellschaft? Woher wissen wir, ob wir mit dem Bauen aufhören oder wesentliche Änderungen vornehmen müssen, und was würden wir dann tun? Es gibt kein allgemeingültiges Rezept, aber allein durch das Stellen von Fragen und das Signalisieren, dass Verantwortung wichtig ist, können Anleger ändern, worauf ihre Unternehmen Aufmerksamkeit und Anstrengungen richten.