Jugendliche nutzen das Internet häufig, um Unterstützung bei ihren Freunden zu suchen, erhalten aber nicht immer hilfreiche Antworten. Jüngste Fortschritte in der KI-Technologie können möglicherweise hilfreich sein.
Junge Menschen finden Unterstützung durch KI-generierte Antworten zu Themen von Beziehungen bis hin zu körperlicher Gesundheit. Wenn es um sensible Themen wie Selbstmordgedanken geht, bevorzugen sie menschliche Reaktionen, so eine Studie der University of Michigan und der Drexel University, die kürzlich auf der Conference on Human Factors in Computing Systems in Hawaii vorgestellt wurde.
Die Arbeit ist veröffentlicht im Tagebuch Tagungsband der CHI-Konferenz über menschliche Faktoren in Computersystemen.
Seit Jahrzehnten sind soziale Medien für junge Menschen zunehmend zum wichtigsten Medium für den Austausch von Peer Support geworden. Forscher wollten herausfinden, wann und wie KI diesen Austausch erleichtern und unterstützen kann.
Forscher der UM und der Drexel University analysierten die Umfrageantworten von 622 Personen im Alter von 18 bis 24 Jahren mit Erfahrung in der Suche und Bereitstellung von Online-Unterstützung. In der Studie bewerteten die Teilnehmer blinde, von Menschen und KI generierte Antworten auf hilfesuchende Nachrichten (das heißt, sie wussten nicht, wer die Antworten geschrieben hatte). Die menschlichen Reaktionen spiegelten verschiedene Arten menschlicher Unterstützung wider, auf die junge Menschen möglicherweise stoßen, darunter Gleichaltrige, erwachsene Mentoren und Therapeuten.
Die Ergebnisse zeigten, dass die Teilnehmer positiv auf die von der KI generierten Antworten zu Beziehungen, Selbstdarstellung und körperlicher Gesundheit reagierten und feststellten, dass sie fürsorglich wirkten und umsetzbare Vorschläge machten.
Sie bevorzugten jedoch deutlich die von Menschen erzeugte Reaktion gegenüber hilfesuchenden Nachrichten zu einem sensiblen Thema wie Selbstmordgedanken.
„Diese Art von Forschung ist wichtig, um zu verstehen, wie KI jungen Menschen auf sichere und effektive Weise helfen kann“, sagte Jordyn Young, Doktorandin an der UM School of Information und Hauptautorin der Studie. „Es kommt nicht nur darauf an, was das Modell sagt, sondern auch wie. Es ist gut, ehrlich über die Grenzen der Hilfeleistungsfähigkeiten der KI zu sprechen, aber wir müssen es vorsichtig formulieren – insbesondere als Reaktion auf sensible Offenlegungen.“
Da junge Menschen täglich auf das Internet zugreifen, könnte es den Forschern zufolge langfristig von Vorteil sein, ihre Gedanken auf unterschiedliche Weise mitzuteilen, insbesondere mit KI-generierten Antworten.
„Unsere Forschung legt nahe, dass KI-gestützte Tools jungen Gleichaltrigen dabei helfen können, sich in schwierigen Zeiten gegenseitig zu unterstützen, indem sie ihnen helfen, herauszufinden, was sie sagen sollen“, sagte Young.
Zu den Autoren der Studie bei Drexel gehörten Laala Jawara, Diep Nguyen, Brian Daly, Jina Huh-Yoo und Afsaneh Razi.
Mehr Informationen:
Jordyn Young et al., Die Rolle der KI bei der Peer-Unterstützung junger Menschen: Eine Studie über Präferenzen für von Menschen und KI generierte Antworten, Tagungsband der CHI-Konferenz über menschliche Faktoren in Computersystemen (2024). DOI: 10.1145/3613904.3642574