Überbrückung der Chancenlücke in der KI im sozialen Sektor

Im letzten Jahrzehnt hat KI den kommerziellen Sektor und die Verbrauchergewohnheiten verändert – man denke an Empfehlungssysteme für Online-Shopping oder Streaming-Dienste. Während viele Unternehmen kopfüber in die künstliche Intelligenz eingestiegen sind, ist unklar, wie der Sozial- und Bildungssektor über diese Technologie denkt. Nutzen sie es derzeit, sind sie daran interessiert und wie?

„Dieser Sektor spielt eine unglaublich wichtige Rolle in der KI-Diskussion“, sagte Vanessa Parli, Direktorin für Forschungsprogramme des Stanford Institute for Human-Centered AI. „Wir wollten sehen, wie intensiv sie sich bereits mit dieser Technologie beschäftigen, und dies nutzen, um neue Programme hier bei HAI zu informieren.“

Zu diesem Zweck arbeitete Stanford HAI mit Project Evident zusammen, um gemeinnützige und philanthropische Organisationen zu ihrem aktuellen und zukünftigen Einsatz von KI zu befragen. Die Umfrage fanden heraus, dass die Hälfte der mehr als 230 Befragten bereits KI-Tools bei ihrer Arbeit nutzen, und 76 % glauben, dass ihre Organisationen von einer stärkeren Nutzung profitieren würden.

„Wir waren überrascht und aufgeregt, als wir die Chancenlücke sahen“, fügte Parli hinzu. „In den Medien wird viel über die erheblichen Risiken von KI gesprochen. Ich dachte, diese Stimmung würde sich auch im Sozial- und Bildungsbereich durchsetzen, aber unter unseren Befragten besteht ein tatsächlicher Wunsch zu verstehen, wie KI mehr Wirkungsmöglichkeiten schaffen und gleichzeitig die … Risiken im Auge behalten.“

Hier erläutert Parli die wichtigsten Ergebnisse und Empfehlungen zur Überbrückung dieser Chancenlücke sowie das Ziel von Stanford HAI, eine kollaborative Kohorte aus gemeinnützigen Organisationen, Geldgebern und Wissenschaftlern aufzubauen.

Was war der Anstoß für diese Umfrage?

Der Sozial- und Bildungssektor spielt eine entscheidende Rolle bei der Entwicklung von KI. Bei Stanford HAI möchten wir Programme entwickeln, um diese Zielgruppen anzusprechen und dabei zu helfen, über KI, die Vorteile und Risiken aufzuklären und darüber nachzudenken, wie man über den Einsatz dieser Technologien in gemeinnützigen Organisationen nachdenkt. Diese Umfrage war unser erster Schritt, um die KI-Forschung mit den Bedürfnissen der Community zu verbinden.

Wie nutzen soziale Organisationen KI jetzt und was wollen sie davon?

Meine Kollegin Haifa Badi-Uz-Zaman [Stanford HAI program manager] und ich hatte anekdotisch gehört, dass gemeinnützige Organisationen keine KI nutzten; Allerdings geben etwa 50 % unserer gemeinnützigen Befragten an, dass sie diese Technologien hauptsächlich für unterstützende Aufgaben nutzen – betriebliche Prozesse wie Finanzen, Personalwesen, Vertragsabschlüsse und Marketing. Viele von ihnen nutzen KI auch für missionsbezogene Arbeiten. Ein Beispiel hierfür hier in Stanford ist GeoMatch. Es wird durch das HAI Hoffman-Yee-Stipendienprogramm finanziert und ist ein maschinelles Lerntool, das mithilfe von KI Flüchtlingen neue Häuser zuordnet.

Insgesamt zeigten die Befragten Interesse an KI für prädiktive Analysen, virtuelle Assistenten, Datenerfassung/-analyse und Inhaltserstellung (generative KI).

Welche Erkenntnisse haben Sie überrascht?

Gemeinnützige Bildungsorganisationen scheinen der Zeit voraus zu sein. Unsere Umfrage zeigt, dass sie KI deutlich häufiger einsetzen als alle anderen Arten von gemeinnützigen Organisationen. Vielleicht macht das Sinn, weil in diesem Sektor viel investiert wurde.

Interessant fand ich auch die Größe der Chancenlücke. Wir haben die Leute gefragt: Was glauben Sie, dass Ihr Unternehmen vom Einsatz von mehr KI profitieren könnte? Etwa 75 % der Befragten glauben, dass ihre Organisation von mehr KI profitieren würde, insbesondere im Zusammenhang mit missionsbezogener Arbeit.

Darüber hinaus haben wir die Fördergeber gefragt, ob diese Organisationen einen spezifischen Schwerpunktbereich für die KI-Finanzierung haben oder dies planen. Die meisten Befragten haben keine besondere Priorität bei der Vergabe von Technologiezuschüssen und planen auch nicht, eine solche zu schaffen. Das bedeutet, dass sie ihre gesamte Organisation über die Risiken und Chancen dieser Tools aufklären müssen, anstatt spezielle KI-Expertise einzubringen.

Wenn hier also eine ziemlich große Chancenlücke besteht, was sind dann die Hindernisse für die Einführung?

Die größte Herausforderung bestand in der Besorgnis über Voreingenommenheit. Angesichts der sensiblen Daten, die diese Organisationen möglicherweise sammeln, ist das sinnvoll. Ebenfalls hoch eingestuft wurden mangelnde Klarheit darüber, wie KI der Organisation und dem Wissen über KI innerhalb der Organisation helfen wird, sowie Bedenken hinsichtlich der Kosten – für diese gemeinnützigen Befragten rangierten die Kosten auf Platz 2.

Was empfehlen Sie diesen Organisationen auf der Grundlage dieser Ergebnisse?

Im philanthropischen Bereich empfehlen wir, in die Entwicklung skalierbarer Ressourcen für Stipendiaten zu investieren. Gemeinnützige Organisationen verfügen möglicherweise nicht über das technische Fachwissen, um Ressourcen intern zu erstellen, oder über die Mittel, um Auftragnehmer einzustellen, daher wäre das wirklich nützlich.

Außerdem empfehlen wir gemeinnützigen Organisationen, Geldgebern und KI-Forschern, zusammenzuarbeiten und gemeinsam zu experimentieren. Allzu oft wird die Forschung im Entwicklungsprozess isoliert; Gemeinnützige Organisationen haben erst nach der Kommerzialisierung die Möglichkeit, das Tool zu nutzen. Indem alle diese Gruppen so früh wie möglich ins Gespräch gebracht werden, wird sichergestellt, dass diese Tools so entwickelt werden, dass sie auf die Missionen gemeinnütziger Organisationen abgestimmt sind und sich auf Gerechtigkeit konzentrieren.

Gemeinnützigen Organisationen empfehlen wir kluge und engagierte Käufer dieser Tools. Indem sie mit anderen gemeinnützigen Organisationen zusammenarbeiten, die diese Tools verwenden, und lernen, wie sich Voreingenommenheit manifestiert, können sie die Mindestschwelle festlegen, ab der Technologieunternehmen Voreingenommenheit in ihren Produkten bekämpfen müssen. Im Wesentlichen würde dies darin bestehen, gemeinsame Maßnahmen unter gemeinnützigen Organisationen zu schaffen, um die Belastung einer einzelnen Einrichtung zu verringern, die festlegen muss, ob ein Tool über ausreichend starke Leitplanken verfügt.

Wie wird Stanford HAI diese Organisationen unterstützen?

Haifa und ich möchten einige dieser Bildungsressourcen in Zusammenarbeit mit gemeinnützigen Organisationen und Geldgebern erstellen. Wir haben viele unserer Umfrageteilnehmer und andere Organisationen des sozialen Sektors diese Woche zu einem Treffen eingeladen, um das Gespräch darüber zu beginnen, welche Ressourcen sie möglicherweise benötigen. Wir planen außerdem, ein Programm zu entwickeln, um gemeinnützige Organisationen frühzeitig mit einigen unserer Forscher zusammenzubringen, um diese Tools gemeinsam zu entwerfen und zu entwickeln.