USC-Forscher haben ein künstliches Intelligenztool entwickelt, das sie als eine von mehreren Maßnahmen empfehlen, die Obdachlosenhilfeagenturen dabei helfen würden, potenzielle Vorurteile zu kontrollieren und sicherzustellen, dass Antragsteller eine faire Chance auf eine Unterkunft haben.
Das USC Center for AI in Society (CAIS) hat am Mittwoch ein neues veröffentlicht Bericht Darin wird das dreijährige gemeinsame Forschungsprojekt beschrieben, das mit dem California Policy Lab der UCLA und der Los Angeles Homeless Services Authority (LAHSA) durchgeführt wurde. Die LA-Agentur hatte eine Analyse und Empfehlungen zur Verbesserung ihres Triage-Systems eingeholt, da sie befürchtete, dass implizite rassistische Vorurteile zu Ungleichheit bei der Unterbringung und anderen Obdachlosendiensten führen würden.
Schwarze Menschen machen 7,6 % der Gesamtbevölkerung des Los Angeles County aus, aber sie stellen 31,7 % der geschätzten 75.000 obdachlosen Menschen im County, basierend auf der Studie Obdachlosenzählung im Großraum Los Angeles 2023. (Die Datenanalyse für die jährliche Zählung wird von USC-Forschern geleitet.)
In dem neuen Bericht „Coordinated Entry System Triage Tool Research and Refinement“ empfehlen die Wissenschaftler der LAHSA, sozialwissenschaftliches Fachwissen mit KI zu kombinieren, um faire und gerechte Praktiken bei Risikobewertungen und Wohnungsvermittlung sicherzustellen.
„Wir haben für Los Angeles einen wichtigen Schritt vorwärts bei der Bewältigung der wirklich herausfordernden sozialen Probleme von Rassenvoreingenommenheit und Obdachlosigkeit gemacht, und wir haben dies auf eine Weise getan, die sowohl technologisch innovativ als auch von den Werten der Gemeinschaft geprägt ist“, sagte Eric Rice, Professor an der USC Suzanne Dworak-Peck School of Social Work, Co-Direktor von CAIS und Projektleiter.
„Die Partnerschaft zwischen Sozialarbeit und Ingenieurwesen ermöglicht es uns, über die Daten hinauszugehen, die menschliche Seite dahinter zu verstehen und KI-Lösungen zu entwickeln, die auf die spezifischen Bedürfnisse der Bevölkerung zugeschnitten sind“, sagte Phebe Vayanos, Mitarbeiterin der USC Viterbi School of Engineering Professor, Co-Direktor von CAIS und Leiter des USC Data Science and Computerized System Design Teams für das Projekt. „Unser vorgeschlagenes System ist außerdem transparenter, was dazu beiträgt, Vertrauen aufzubauen und die Beteiligung zu verbessern.“
Zum CAIS-Team gehören mehr als ein Dutzend Forscher der USC Suzanne Dworak-Peck School of Social Work und des USC Viterbi. Unterstützung für das Projekt kam von der Conrad N. Hilton Foundation, der Home for Good Funders Collaborative und dem Homeless Policy Research Institute.
CAIS ist Teil des „Moonshot“ von USC Frontiers of Computing, der von USC-Präsidentin Carol Folt mit folgenden Hauptzielen ins Leben gerufen wurde: Verbesserung des Computerlehrplans der Universität für Studenten, Stärkung der Forschung, die Ethik berücksichtigt, und Förderung der Rekrutierung von Spitzenwissenschaftlern und Studenten in Bereichen wie KI und Quantencomputing. Ziel der Universität ist es, die computergestützte Forschung und Entwicklung mit einem menschenzentrierten Ansatz voranzutreiben.
Voreingenommenheit durch KI-Entwicklung bekämpfen
Für das Feedback stützten sich die Forscher auf einen Community-Beirat. Zu den Mitgliedern gehören Menschen, die einst obdachlos waren, Fallmanager an vorderster Front und Ressourcenvermittler, die Unterkünfte vergeben.
„Wir haben mit diesem Prozess versucht, dazu beizutragen, weniger Verzerrungen im Modell zu erzeugen, aber auch dazu beizutragen, weniger Verzerrungen in der Art und Weise zu erzeugen, wie wir die Daten sammeln“, erklärte Rice den Ansatz des CAIS-Teams.
Das Triage-Tool umfasst eine Bewertung, um den Schweregrad der Bedürfnisse und Verletzlichkeit der Kunden einzuschätzen. Die Forscher identifizierten 19 Fragen, die zukünftige unerwünschte Ereignisse für einen Klienten und seine Wahrscheinlichkeit, aus der Obdachlosigkeit herauszukommen, am genauesten vorhersagen würden. Der Gemeindebeirat arbeitete mit den Forschern zusammen, um diese Punkte so umzuformulieren, dass sie den Erfahrungen von Trauma und Rassismus gerecht werden, die Menschen mit Obdachlosigkeit häufig erleben.
Die Wissenschaftler empfahlen außerdem Richtlinien für die Anwendung des Tools, um den Stress der Klienten während des Aufnahmeprozesses zu reduzieren und die Wahrscheinlichkeit zu erhöhen, dass Wohnungsvertreter genaue Informationen über ihre Gefährdung und Bedürfnisse erfassen können.
Die Forscher verstehen die Krise der Obdachlosigkeit eindeutig, sagte Marina Genchev, Direktorin für Systeme und Planung bei LAHSA.
„Wir sprechen vielleicht über riesige Datenmengen und darüber, wo KI oder Vorhersagen ins Spiel kommen können, aber es ist nie eine rein wissenschaftliche Übung. Es ist immer eine menschliche Übung, die Daten nutzt“, sagte sie.
Zwei Modelle zur Information über Wohnentscheidungen
Die Forscher entwickelten zwei Datensystemmodelle, die an unterschiedliche Anforderungen angepasst werden können. Das Team des California Policy Lab hat ein Datenvorhersagemodell entwickelt, das vorhandene Verwaltungsdaten von Kontaktpunkten im gesamten Landkreis Los Angeles verknüpft, um künftige negative Folgen vorherzusagen und die Priorität dieser Kunden für verfügbare Wohnressourcen zu erhöhen.
Mit ihrem Modell zielten die CAIS-Forscher darauf ab, die allgemeine Obdachlosigkeit zu bekämpfen, indem sie die Chancengleichheit in allen Gruppen verbessern, um erfolgreich aus der Obdachlosigkeit herauszukommen. In Tests verbesserte dieses Modell gleichzeitig die Fairness, Effizienz und Transparenz des Systems.
Es gab den Beteiligten die Möglichkeit, ihre Präferenzen hinsichtlich der Funktionsweise des Systems umzusetzen. Gleichzeitig sei dadurch die Zahl der Personen, die erfolgreich aus der Obdachlosigkeit herauskommen konnten, um 3 % gestiegen, wodurch die Gesamtobdachlosigkeit im Laufe der Zeit zurückgegangen sei, sagte Vayanos.
Rice und Vayanos entwickeln ähnliche Modelle für Obdachlosendienste in Missouri und Washington. Vayanos hat außerdem ein Python-Softwarepaket für soziale Dienste erstellt und stellt derzeit ein weiteres fertig, das es lokalen Gemeinschaften ermöglicht, die Modelle der Forscher an ihre Bedürfnisse anzupassen.
„Wir haben noch einen langen Weg vor uns, um das Problem der Obdachlosigkeit zu lösen“, sagte Rice. „Aber wir tun etwas, um einen gerechteren, faireren und von der Gemeinschaft getragenen Prozess zu ermöglichen, der dazu beiträgt, Menschen, die von Obdachlosigkeit betroffen sind – egal wer sie sind – auf durchdachtere und sinnvollere Weise zu helfen.“
Mehr Informationen:
Bericht: dworakpeck.usc.edu/sites/defau …iles/2023-11/CESTTRR%20Final%20Report%202023.pdf