Um KI-fokussierten Akademikerinnen und anderen ihre wohlverdiente – und überfällige – Zeit im Rampenlicht zu geben, hat Tech eine Reihe von Interviews veröffentlicht, die sich auf bemerkenswerte Frauen konzentrieren, die zur KI-Revolution beigetragen haben. Da der KI-Boom anhält, veröffentlichen wir diese Artikel das ganze Jahr über und heben wichtige Arbeiten hervor, die oft unerkannt bleiben. Weitere Profile lesen Sie hier.
Heute im Rampenlicht: Rachel Coldicutt ist der Gründer von Sorgfältige Branchen, das die sozialen Auswirkungen der Technologie auf die Gesellschaft erforscht. Zu den Kunden zählen Salesforce und die Royal Academy of Engineering. Vor Careful Industries war Coldicutt CEO des Think Tanks Doteveryone, der auch Untersuchungen darüber durchführte, wie sich Technologie auf die Gesellschaft auswirkt.
Vor Doteveryone arbeitete sie jahrzehntelang im Bereich Digitalstrategie für Unternehmen wie die BBC und das Royal Opera House. Sie besuchte die University of Cambridge und erhielt für ihre Arbeit in der digitalen Technologie die Auszeichnung OBE (Order of the British Empire).
Kurz gesagt, wie haben Sie mit der KI angefangen? Was hat Sie an diesem Fachgebiet gereizt?
Ich begann Mitte der 90er Jahre im technischen Bereich zu arbeiten. Mein erster richtiger technischer Job war 1997 die Arbeit an Microsoft Encarta. Davor half ich beim Aufbau von Inhaltsdatenbanken für Nachschlagewerke und Wörterbücher. In den letzten drei Jahrzehnten habe ich mit allen möglichen neuen und aufkommenden Technologien gearbeitet, daher ist es schwierig, den genauen Zeitpunkt zu bestimmen, an dem ich „zur KI gekommen bin“, weil ich automatisierte Prozesse und Daten verwendet habe, um Entscheidungen voranzutreiben, Erfahrungen zu schaffen, und produzieren seit den 2000er Jahren Kunstwerke. Stattdessen denke ich, dass die Frage wahrscheinlich lautet: „Wann wurde KI zu den Technologien, über die jeder sprechen wollte?“ und ich denke, die Antwort liegt wahrscheinlich etwa im Jahr 2014, als DeepMind von Google übernommen wurde – das war der Moment, in dem KI in Großbritannien alles andere überholte, obwohl viele der zugrunde liegenden Technologien, die wir heute „KI“ nennen, Dinge waren, die bereits ziemlich weit verbreitet waren allgemeiner Gebrauch.
Ich bin in den 1990er-Jahren fast durch Zufall in die Technikbranche gekommen, und was mich trotz vieler Veränderungen in diesem Bereich gehalten hat, ist die Tatsache, dass es voller faszinierender Widersprüche ist: Ich liebe es, wie bestärkend es sein kann, neue Fähigkeiten zu erlernen und Dinge herzustellen, Ich bin fasziniert davon, was wir aus strukturierten Daten entdecken können, und könnte den Rest meines Lebens gerne damit verbringen, zu beobachten und zu verstehen, wie Menschen die von uns verwendeten Technologien herstellen und gestalten.
Auf welche Arbeit im KI-Bereich sind Sie am meisten stolz?
Ein Großteil meiner KI-Arbeit bezog sich auf die Ausarbeitung von Richtlinien und auf soziale Folgenabschätzungen, wobei ich mit Regierungsbehörden, Wohltätigkeitsorganisationen und allen Arten von Unternehmen zusammenarbeitete, um ihnen dabei zu helfen, KI und damit verbundene Technologien gezielt und vertrauenswürdig einzusetzen.
In den 2010er Jahren leitete ich Doteveryone – einen Think Tank für verantwortungsvolle Technologie – der dazu beitrug, den Rahmen dafür zu verändern, wie britische politische Entscheidungsträger über neue Technologien denken. Unsere Arbeit hat deutlich gemacht, dass es sich bei KI nicht um eine Reihe von Technologien ohne Folgen handelt, sondern um etwas, das diffuse Auswirkungen auf die reale Welt für Menschen und Gesellschaften hat. Besonders stolz bin ich auf das kostenlose Angebot Konsequenz-Scan-Tool Das von uns entwickelte Tool wird heute von Teams und Unternehmen auf der ganzen Welt verwendet und hilft ihnen dabei, die sozialen, ökologischen und politischen Auswirkungen ihrer Entscheidungen bei der Auslieferung neuer Produkte und Funktionen zu antizipieren.
In jüngerer Zeit das Jahr 2023 KI- und Gesellschaftsforum war ein weiterer stolzer Moment. Im Vorfeld des von der Industrie dominierten KI-Sicherheitsforums der britischen Regierung hat mein Team von Care Trouble kurzfristig eine Versammlung von 150 Personen aus der gesamten Zivilgesellschaft einberufen und kuratiert, um gemeinsam dafür zu plädieren, dass es möglich ist, KI für 8 Milliarden Menschen nutzbar zu machen , nicht nur 8 Milliardäre.
Wie meistern Sie die Herausforderungen der männerdominierten Technologiebranche und damit auch der männerdominierten KI-Branche?
Als relativer Oldtimer in der Tech-Welt habe ich das Gefühl, dass einige der Fortschritte, die wir in der Geschlechterrepräsentation in der Tech-Welt in den letzten fünf Jahren erzielt haben, verloren gegangen sind. Untersuchungen des Turing-Instituts zeigen, dass weniger als 1 % der im KI-Sektor getätigten Investitionen in von Frauen geführte Start-ups getätigt wurden, während Frauen immer noch nur ein Viertel der gesamten Tech-Belegschaft ausmachen. Wenn ich KI-Konferenzen und -Veranstaltungen besuche, erinnert mich der Geschlechtermix – insbesondere im Hinblick darauf, wer eine Plattform erhält, auf der er seine Arbeit teilen kann – an die frühen 2000er Jahre, was ich wirklich traurig und schockierend finde.
Ich bin in der Lage, mich mit den sexistischen Einstellungen der Technologiebranche zurechtzufinden, weil ich das große Privileg habe, meine eigene Organisation gründen und leiten zu dürfen: Ich habe einen Großteil meiner frühen Karriere damit verbracht, täglich Sexismus und sexuelle Belästigung zu erleben – damit umzugehen Das steht einer großartigen Arbeit im Weg und stellt für viele Frauen unnötige Eintrittskosten dar. Stattdessen habe ich der Gründung eines feministischen Unternehmens Priorität eingeräumt, in dem wir gemeinsam bei allem, was wir tun, nach Gerechtigkeit streben, und ich hoffe, dass wir zeigen können, dass auch andere Wege möglich sind.
Welchen Rat würden Sie Frauen geben, die in den KI-Bereich einsteigen möchten?
Denken Sie nicht, dass Sie in einem „Frauenthema“-Bereich arbeiten müssen, lassen Sie sich nicht vom Hype abschrecken und suchen Sie Gleichgesinnte und bauen Sie Freundschaften mit anderen Menschen auf, damit Sie über ein aktives Unterstützungsnetzwerk verfügen. Was mich all die Jahre am Laufen gehalten hat, ist mein Netzwerk aus Freunden, ehemaligen Kollegen und Verbündeten – wir bieten einander gegenseitige Unterstützung, einen nie endenden Vorrat an aufmunternden Gesprächen und manchmal eine Schulter zum Ausweinen. Ohne das kann es sich sehr einsam anfühlen; Sie werden so oft die einzige Frau im Raum sein, dass es wichtig ist, einen sicheren Ort zu haben, an den Sie sich zum Entspannen wenden können.
Sobald Sie die Chance dazu bekommen, stellen Sie gut ein. Replizieren Sie nicht die Strukturen, die Sie gesehen haben, und verankern Sie nicht die Erwartungen und Normen einer elitären, sexistischen Industrie. Stellen Sie bei jeder Einstellung den Status Quo in Frage und unterstützen Sie Ihre neuen Mitarbeiter. Auf diese Weise können Sie überall mit dem Aufbau einer neuen Normalität beginnen.
Und suchen Sie nach der Arbeit einiger der großartigen Frauen, die wegweisend für großartige KI-Forschung und -Praxis sind: Lesen Sie zunächst die Arbeit von Pionierinnen wie Abeba Birhane, Timnit Gebru und Joy Buolamwini, die alle Grundlagenforschung geleistet haben, die unser Verständnis darüber geprägt hat, wie KI funktioniert verändert sich und interagiert mit der Gesellschaft.
Was sind einige der dringendsten Probleme, mit denen die KI im Zuge ihrer Weiterentwicklung konfrontiert ist?
KI ist ein Verstärker. Man kann den Eindruck haben, dass einige der Nutzungen unvermeidlich sind, aber als Gesellschaften müssen wir in der Lage sein, klare Entscheidungen darüber zu treffen, was es wert ist, intensiviert zu werden. Derzeit besteht der Haupteffekt des verstärkten Einsatzes von KI darin, die Macht und die Bankguthaben einer relativ kleinen Anzahl männlicher CEOs zu erhöhen, und das scheint unwahrscheinlich [it] gestaltet eine Welt, in der viele Menschen leben wollen. Ich würde gerne sehen, dass sich mehr Menschen, insbesondere in der Industrie und in der Politik, mit der Frage befassen, wie demokratischere und verantwortungsvollere KI aussieht und ob sie überhaupt möglich ist.
Die Klimaauswirkungen von KI – die Nutzung von Wasser, Energie und kritischen Mineralien – sowie die Auswirkungen auf Gesundheit und soziale Gerechtigkeit für Menschen und Gemeinschaften, die von der Ausbeutung natürlicher Ressourcen betroffen sind, müssen für eine verantwortungsvolle Entwicklung ganz oben auf der Liste stehen. Die Tatsache, dass insbesondere LLMs so energieintensiv sind, spricht dafür, dass das aktuelle Modell seinen Zweck nicht erfüllt; Im Jahr 2024 brauchen wir Innovationen, die die Natur schützen und wiederherstellen, und extraktive Modelle und Arbeitsweisen müssen abgeschafft werden.
Wir müssen auch realistisch sein, was die Auswirkungen einer zunehmend datenbasierten Gesellschaft auf die Überwachung angeht, und die Tatsache, dass in einer zunehmend volatilen Welt wahrscheinlich alle Allzwecktechnologien für unvorstellbare Schrecken in der Kriegsführung eingesetzt werden. Jeder, der in der KI arbeitet, muss den historischen, langjährigen Zusammenhang zwischen technischer Forschung und Entwicklung und militärischer Entwicklung realistisch einschätzen. Wir müssen uns für Innovationen einsetzen, sie unterstützen und fordern, die in den Gemeinschaften beginnen und von ihnen gesteuert werden, damit wir Ergebnisse erzielen, die die Gesellschaft stärken und nicht zu noch mehr Zerstörung führen.
Welche Probleme sollten KI-Benutzer beachten?
Neben dem ökologischen und wirtschaftlichen Nutzen, der in viele der aktuellen KI-Geschäfts- und Technologiemodelle integriert ist, ist es wirklich wichtig, über die alltäglichen Auswirkungen des verstärkten Einsatzes von KI nachzudenken und darüber, was dies für alltägliche menschliche Interaktionen bedeutet.
Während einige der Probleme, die für Schlagzeilen gesorgt haben, eher mit existenziellen Risiken zu tun haben, lohnt es sich, im Auge zu behalten, wie die von Ihnen verwendeten Technologien Ihnen im Alltag helfen oder behindern: Welche Automatisierungen können Sie ausschalten und umgehen, welche liefern sie? echter Nutzen, und wo können Sie als Verbraucher mit Ihren Füßen dafür stimmen, dass Sie wirklich mit einer echten Person und nicht mit einem Bot weiter sprechen möchten? Wir müssen uns nicht mit einer minderwertigen Automatisierung zufrieden geben und sollten uns zusammenschließen, um bessere Ergebnisse zu erzielen!
Was ist der beste Weg, KI verantwortungsvoll aufzubauen??
Verantwortungsvolle KI beginnt mit guten strategischen Entscheidungen – anstatt einfach nur einen Algorithmus zu verwenden und auf das Beste zu hoffen, ist es möglich, gezielt zu entscheiden, was und wie automatisiert werden soll. Ich spreche schon seit ein paar Jahren über die Idee „Gerade genug Internet“, und es scheint mir eine wirklich nützliche Idee zu sein, die uns bei der Entwicklung neuer Technologien als Orientierungshilfe dienen kann. Können wir KI stattdessen so aufbauen, dass sie den Nutzen für die Menschen und den Planeten maximiert und den Schaden minimiert, anstatt ständig die Grenzen zu verschieben?
Wir haben uns weiterentwickelt ein robuster Prozess dafür bei Careful Trouble, wo wir mit Vorständen und Führungsteams zusammenarbeiten, beginnend mit der Kartierung, wie KI Ihre Vision und Werte unterstützen kann und welche nicht; Verstehen, wo Probleme zu komplex und variabel sind, als dass sie durch Automatisierung verbessert werden könnten, und wo sie Vorteile bringt; und schließlich die Entwicklung eines aktiven Risikomanagementrahmens. Bei einer verantwortungsvollen Entwicklung handelt es sich nicht um die einmalige Anwendung einer Reihe von Grundsätzen, sondern um einen kontinuierlichen Prozess der Überwachung und Eindämmung. Kontinuierliche Bereitstellung und soziale Anpassung bedeuten, dass die Qualitätssicherung nicht mit der Auslieferung eines Produkts enden darf; Als KI-Entwickler müssen wir die Fähigkeit zur iterativen sozialen Wahrnehmung aufbauen und verantwortungsvolle Entwicklung und Bereitstellung als lebendigen Prozess behandeln.
Wie können Anleger verantwortungsvolle KI besser vorantreiben?
Indem wir geduldiger investieren, vielfältigere Gründer und Teams unterstützen und nicht nach exponentiellen Renditen streben.