KI kann Vorurteile gegenüber Frauen bei Kreditentscheidungen abmildern und die Gewinne und den Ruf der Kreditgeber steigern

Aktuelle Forschungsergebnisse der University of Bath zeigen, dass die Diskriminierung von Frauen zunimmt, wenn Kreditgeber bei der Kreditvergabe auf künstliche Intelligenz (KI) zurückgreifen. Ethische Kreditgeber könnten sich jedoch dafür entscheiden, die KI-Algorithmen zu optimieren, um diese Voreingenommenheit zu beseitigen und dennoch ihre Gewinne sowie den Ruf ihrer Marke zu verbessern.

Die Studie über die Rolle der Provisionen des Vertriebsteams bei Kreditentscheidungen in Autohäusern in Kanada hat gezeigt, dass der Einsatz von KI die Gewinne der Kreditgeber deutlich steigerte und bestehende Vorurteile gegenüber Kundengruppen, die traditionell von der Gesellschaft marginalisiert werden – mit der eklatanten Ausnahme von Frauen – nicht verstärkte.

„Wir haben herausgefunden, dass Kreditgeber ihre Gewinne steigern können, indem sie bei Tausenden von Autokrediten Techniken des maschinellen Lernens anwenden. Dieser Gewinn bringt jedoch auch eine erhebliche Kehrseite mit sich: KI kann dazu führen, dass Autokredite für Frauen überproportional ungünstiger sind, was die soziale Ungerechtigkeit im System verschärft“, sagte Dr. Christopher Amaral von der School of Management der Universität.

Die Studie ergab, dass Kreditgeber, die KI zur Optimierung der Vertriebsprovisionen einsetzen, ihre Jahresgewinne um bis zu 8 % steigern konnten, was jedoch zu höheren Kosten für Frauen ging. Die Forscher stellten jedoch fest, dass die Voreingenommenheit gegenüber Frauen durch die Anpassung der KI-Algorithmen hinter den Vertriebsprovisionen gemildert werden könnte und dennoch eine Gewinnsteigerung von bis zu 4 % möglich wäre.

Die Forscher programmierten den Algorithmus des maschinellen Lernens so, dass er die Gewinne maximierte, gleichzeitig aber so einschränkte, dass Frauen nicht noch weiter benachteiligt wurden. Sie fanden heraus, dass Unternehmen ihre Gewinne immer noch steigern konnten, indem sie diese von der nicht marginalisierten Gruppe – den Männern – bezogen.

„Dies unterstreicht die positiven Auswirkungen, die KI auf das soziale Wohlergehen haben kann, während sie gleichzeitig den Unternehmen sowohl durch unmittelbare Gewinnsteigerungen als auch durch langfristige Reputationsvorteile aufgrund gerechten, sozial verantwortlichen Verhaltens zugutekommt“, sagte Dr. Amaral, Autor des Studie In Produktions- und Betriebsmanagementmit dem Titel „Optimierung der Preisdelegation an externe Vertriebsmitarbeiter über Provisionen: Eine empirische Untersuchung.“

Dr. Amaral sagte, dass die Voreingenommenheit gegenüber Frauen in diesem Sektor gut dokumentiert sei. Neuere Untersuchungen hätten gezeigt, dass Verkäufer für Frauen weniger günstige Kreditkonditionen aushandeln als für Männer. Einige Untersuchungen legen nahe, dass dieses Ergebnis darauf zurückzuführen sein könnte, dass Verkäufer davon ausgehen, dass Frauen weniger gut beurteilen können, ob Kreditkonditionen fair sind, da sie weniger Wissen als Männer über bestimmte Produktarten wie Autokredite haben, aber auch auf Frauen sind nicht so durchsetzungsfähig als Männer.

„Um Ungerechtigkeiten zu mildern und Maßnahmen der Regulierungsbehörden zu vermeiden, könnte es für Unternehmen sinnvoll erscheinen, ganz auf KI zu verzichten – doch damit gehen die mit KI-Tools möglichen Gewinnsteigerungen zunichte. Wir würden argumentieren, dass es einen Mittelweg gibt – dass KI verantwortungsvoller eingesetzt werden kann, um den Kompromiss zwischen Gewinnen und sozialer Gerechtigkeit auszubalancieren“, sagte Dr. Amaral.

„Es besteht kein Zweifel, dass KI, wenn sie gedankenlos eingesetzt wird, die Diskriminierung von Frauen verschlimmern kann. Aber wenn sie verantwortungsvoll eingesetzt wird, ist KI nicht die Bedrohung, als die sie in der Gesellschaft oft dargestellt wird. Anstatt den Einsatz von KI einzuschränken, sollten wir Unternehmen ermutigen, sie verantwortungsvoll einzusetzen und sicherzustellen, dass sie sowohl ihren Geschäftszielen als auch der sozialen Gerechtigkeit zugutekommt“, sagte Dr. Amaral.