Das Unternehmen ist nicht das erste, das solche Warnungen veröffentlicht. International Business Machines Corp, ein kleinerer Akteur in der Cloud, hat dies vor Jahren getan. Der Cloud-Anbieter Nr. 3, Google von Alphabet Inc., hat auch noch mehr Details zu den Datensätzen veröffentlicht, die er verwendet hat, um einen Teil seiner KI zu trainieren.
Die Entscheidung von Amazon, seine ersten drei Servicekarten am Mittwoch herauszugeben, spiegelt jedoch den Versuch des Branchenführers wider, sein Image zu ändern, nachdem ein öffentlicher Streit mit Kritikern der Bürgerrechte vor Jahren den Eindruck hinterlassen hatte, dass ihm die KI-Ethik weniger am Herzen liegt als seinen Konkurrenten. Der Umzug fällt mit der jährlichen Cloud-Konferenz des Unternehmens in Las Vegas zusammen. Michael Kearnsa Universität von Pennsylvania Professor und seit 2020 Wissenschaftler bei Amazon, sagte, die Entscheidung, die Karten auszustellen, sei auf Datenschutz- und Fairness-Audits der Software des Unternehmens zurückzuführen. Die Karten würden KI-Ethikbedenken öffentlich ansprechen, zu einer Zeit, als sich eine technische Regulierung abzeichnete, sagte Kearns. „Das Größte an diesem Start ist die Verpflichtung, dies kontinuierlich und auf einer erweiterten Basis zu tun“, sagte er. Amazon wählte Software, die heikle demografische Probleme berührt, als Start für seine Servicekarten, von denen Kearns erwartet, dass sie im Laufe der Zeit detaillierter werden. HAUTFARBEN
Ein solcher Dienst heißt „Anerkennung.“ Im Jahr 2019 bestritt Amazon eine Studie, in der es hieß, die Technologie habe Schwierigkeiten, das Geschlecht von Personen mit dunklerer Hautfarbe zu identifizieren. Aber nach der Ermordung von George Floyd, einem unbewaffneten Schwarzen, während einer Verhaftung im Jahr 2020 erließ das Unternehmen ein Moratorium für den Einsatz durch die Polizei seiner Gesichtserkennungssoftware. Jetzt sagt Amazon in einer von Reuters eingesehenen Service-Karte, dass Rekognition den Abgleich von „Bildern nicht unterstützt, die zu verschwommen und körnig sind, als dass das Gesicht von einem Menschen erkannt werden könnte, oder bei denen große Teile des Gesichts durch Haare, Hände usw. verdeckt sind andere Objekte.“ Es warnt auch vor übereinstimmenden Gesichtern in Cartoons und anderen „nichtmenschlichen Entitäten“. In einer anderen Warnkarte von Reuters zur Audiotranskription erklärt Amazon: „Eine uneinheitliche Änderung der Audioeingaben könnte zu unfairen Ergebnissen für verschiedene demografische Gruppen führen.“ Kearns sagte, er habe die breite Palette regionaler Akzente und Dialekte genau transkribiert Nordamerika allein war eine Herausforderung, an deren Bewältigung Amazon gearbeitet hatte. Jessica NeumannDirektor der AI Security Initiative bei der Universität von Kalifornien in Berkeleysagte, dass Technologieunternehmen solche Offenlegungen zunehmend als Signal für verantwortungsvolle KI-Praktiken veröffentlichen, obwohl sie noch einen weiten Weg vor sich haben. „Wir sollten nicht auf den guten Willen von Unternehmen angewiesen sein, grundlegende Details von Systemen bereitzustellen, die einen enormen Einfluss auf das Leben der Menschen haben können“, sagte sie und forderte mehr Industriestandards. Tech-Giganten haben damit gekämpft, solche Dokumente so kurz zu machen, dass die Leute sie lesen können, aber dennoch ausreichend detailliert und aktuell, um häufige Software-Optimierungen widerzuspiegeln, sagte eine Person, die bei zwei großen Unternehmen an Nährwertkennzeichnungen gearbeitet hat.