Da Innovationen in der künstlichen Intelligenz (KI) die Nachrichtenzyklen übertreffen und öffentliche Aufmerksamkeit erregen, wird ein Rahmen für ihre verantwortungsvolle und ethische Entwicklung und Nutzung immer wichtiger, um sicherzustellen, dass diese beispiellose Technologiewelle ihr volles Potenzial als positiver Beitrag zum wirtschaftlichen und gesellschaftlichen Fortschritt entfaltet .
Die Europäische Union hat bereits daran gearbeitet, Gesetze rund um verantwortungsvolle KI zu erlassen; Ich habe meine Gedanken zu diesen Initiativen mitgeteilt vor fast zwei Jahren. Damals war das KI-Gesetz, wie es genannt wird, „ein objektiver und maßvoller Ansatz für Innovation und gesellschaftliche Überlegungen“. Heute kommen führende Technologieunternehmen und die US-Regierung zusammen, um eine gemeinsame Vision für verantwortungsvolle KI zu entwerfen.
Die Kraft generativer KI
Die Veröffentlichung von ChatGPT durch OpenAI erregte letztes Jahr die Fantasie von Technologieinnovatoren, Wirtschaftsführern und der Öffentlichkeit, und das Interesse und Verständnis der Verbraucher für die Möglichkeiten generativer KI explodierte. Da künstliche Intelligenz jedoch immer mehr zum Mainstream wird, auch als politisches Thema, und die Menschen dazu neigen, zu experimentieren und Systeme zu testen, besteht die Gefahr, dass die Möglichkeit von Fehlinformationen, die Auswirkungen auf die Privatsphäre und das Risiko für die Cybersicherheit sowie betrügerisches Verhalten schnell in den Hintergrund geraten.
In einem ersten Versuch, diese potenziellen Herausforderungen anzugehen und eine verantwortungsvolle KI-Innovation sicherzustellen, die die Rechte und die Sicherheit der Amerikaner schützt, hat das Weiße Haus neue Maßnahmen zur Förderung einer verantwortungsvollen KI angekündigt.
In ein Faktenblatt, das letzte Woche vom Weißen Haus veröffentlicht wurde, skizzierte die Biden-Harris-Regierung drei Maßnahmen, um „verantwortungsvolle amerikanische Innovationen im Bereich der künstlichen Intelligenz (KI) zu fördern und die Rechte und die Sicherheit der Menschen zu schützen“. Diese beinhalten:
- Neue Investitionen zur Förderung verantwortungsvoller amerikanischer KI-Forschung und -Entwicklung.
- Öffentliche Bewertungen bestehender generativer KI-Systeme.
- Richtlinien, um sicherzustellen, dass die US-Regierung bei der Minderung von KI-Risiken und der Nutzung von KI-Chancen mit gutem Beispiel vorangeht.
Neue Investitionen
Was neue Investitionen anbelangt, so verblassen die 140 Millionen US-Dollar, die die National Science Foundation für die Gründung von sieben neuen nationalen KI-Forschungsinstituten bereitstellt, im Vergleich zu den Mitteln, die private Unternehmen aufgebracht haben.
Obwohl die Richtung korrekt ist, sind die Investitionen der US-Regierung in KI im Vergleich zu den staatlichen Investitionen anderer Länder im Großen und Ganzen winzig China, das 2017 mit Investitionen begann. Es besteht eine unmittelbare Chance, die Wirkung von Investitionen durch akademische Partnerschaften für die Entwicklung und Forschung von Arbeitskräften zu verstärken. Die Regierung sollte KI-Zentren neben akademischen und Unternehmenseinrichtungen finanzieren, die bereits an der Spitze der KI-Forschung und -Entwicklung stehen, Innovationen vorantreiben und neue Möglichkeiten für Unternehmen mit der Leistungsfähigkeit der KI schaffen.
Die Kooperationen zwischen KI-Zentren und führenden akademischen Institutionen, wie dem Schwarzman College des MIT und dem Institute for Experiential AI des Northeastern, tragen dazu bei, die Lücke zwischen Theorie und praktischer Anwendung zu schließen, indem sie Experten aus Wissenschaft, Industrie und Regierung zusammenbringen, um an Spitzenforschung und -forschung zusammenzuarbeiten Entwicklungsprojekte, die reale Anwendungen haben. Durch die Partnerschaft mit großen Unternehmen können diese Zentren Unternehmen dabei helfen, KI besser in ihre Abläufe zu integrieren und so die Effizienz, Kosteneinsparungen und bessere Verbraucherergebnisse zu steigern.
Darüber hinaus tragen diese Zentren dazu bei, die nächste Generation von KI-Experten auszubilden, indem sie den Studierenden Zugang zu modernster Technologie, praktische Erfahrungen mit realen Projekten und Mentoring durch Branchenführer bieten. Durch einen proaktiven und kollaborativen Ansatz in Bezug auf KI kann die US-Regierung dazu beitragen, eine Zukunft zu gestalten, in der KI die menschliche Arbeit verbessert, anstatt sie zu ersetzen. Dadurch können alle Mitglieder der Gesellschaft von den Möglichkeiten dieser leistungsstarken Technologie profitieren.
Öffentliche Einschätzungen
Die Modellbewertung ist von entscheidender Bedeutung, um sicherzustellen, dass KI-Modelle genau, zuverlässig und voreingenommen sind, was für den erfolgreichen Einsatz in realen Anwendungen unerlässlich ist. Stellen Sie sich zum Beispiel einen Anwendungsfall für die Stadtplanung vor, bei dem generative KI auf umrissene Städte mit historisch unterrepräsentierten armen Bevölkerungsgruppen trainiert wird. Leider wird es nur zu mehr Gleichem führen. Das Gleiche gilt für die Voreingenommenheit bei der Kreditvergabe, da immer mehr Finanzinstitute KI-Algorithmen verwenden, um Kreditentscheidungen zu treffen.
Wenn diese Algorithmen auf Daten trainiert werden, die bestimmte Bevölkerungsgruppen diskriminieren, können sie diesen Gruppen zu Unrecht Kredite verweigern, was zu wirtschaftlichen und sozialen Ungleichheiten führt. Obwohl dies nur einige Beispiele für Voreingenommenheit in der KI sind, muss dies im Auge behalten werden, unabhängig davon, wie schnell neue KI-Technologien und -Techniken entwickelt und eingesetzt werden.
Um Voreingenommenheit in der KI entgegenzuwirken, hat die Verwaltung eine neue Möglichkeit zur Modellbewertung im DEFCON 31 AI Village angekündigt, einem Forum für Forscher, Praktiker und Enthusiasten, um zusammenzukommen und die neuesten Fortschritte in der künstlichen Intelligenz und im maschinellen Lernen zu erkunden. Die Modellbewertung ist eine Gemeinschaftsinitiative mit einigen der wichtigsten Akteure in diesem Bereich, darunter Anthropic, Google, Hugging Face, Microsoft, Nvidia, OpenAI und Stability AI, die eine von Scale AI angebotene Plattform nutzt.
Darüber hinaus wird gemessen, wie die Modelle mit den Grundsätzen und Praktiken übereinstimmen, die im Blueprint for an AI Bill of Rights der Biden-Harris-Regierung und im AI Risk Management Framework des National Institute of Standards and Technology (NIST) dargelegt sind. Dies ist eine positive Entwicklung, da die Verwaltung direkt mit Unternehmen zusammenarbeitet und sich das Fachwissen technischer Führungskräfte in diesem Bereich zunutze macht, die zu unternehmensinternen KI-Laboren geworden sind.
Regierungspolitik
Im Hinblick auf die dritte Maßnahme in Bezug auf Richtlinien, mit denen sichergestellt werden soll, dass die US-Regierung bei der Minderung von KI-Risiken und der Nutzung von KI-Chancen mit gutem Beispiel vorangeht, soll das Office of Management and Budget politische Leitlinien für den Einsatz von KI-Systemen durch die US-Regierung zur öffentlichen Stellungnahme entwerfen . Auch hier wurden weder ein Zeitplan noch Einzelheiten zu diesen Richtlinien angegeben eine Durchführungsverordnung zur Rassengerechtigkeit, die Anfang dieses Jahres erlassen wurde wird voraussichtlich im Vordergrund stehen.
Die Durchführungsverordnung enthält eine Bestimmung, die Regierungsbehörden anweist, KI und automatisierte Systeme so zu nutzen, dass die Gerechtigkeit gefördert wird. Damit diese Maßnahmen eine sinnvolle Wirkung haben, müssen sie Anreize und Auswirkungen beinhalten; Sie können nicht lediglich eine optionale Anleitung sein. Beispielsweise sind NIST-Sicherheitsstandards wirksame Anforderungen für den Einsatz durch die meisten Regierungsbehörden. Die Nichteinhaltung dieser Vorschriften ist zumindest für die beteiligten Personen äußerst peinlich und in einigen Teilen der Regierung ein Grund für personelle Maßnahmen. Staatliche KI-Richtlinien, sei es als Teil des NIST oder anderweitig, müssen vergleichbar sein, um wirksam zu sein.
Darüber hinaus dürfen die Kosten für die Einhaltung solcher Vorschriften kein Hindernis für Startup-Innovationen darstellen. Was kann beispielsweise in einem Rahmen erreicht werden, bei dem die Kosten für die Einhaltung gesetzlicher Vorschriften mit der Größe des Unternehmens skalieren? Da die Regierung schließlich zu einem bedeutenden Käufer von KI-Plattformen und -Tools wird, ist es von größter Bedeutung, dass ihre Richtlinien zum Leitprinzip für die Entwicklung solcher Tools werden. Machen Sie die Einhaltung dieser Richtlinien zu einer wörtlichen oder sogar effektiven Kaufvoraussetzung (z. B. dem FedRamp-Sicherheitsstandard), und diese Richtlinien können den Ausschlag geben.
Da generative KI-Systeme immer leistungsfähiger und verbreiteter werden, ist es für alle Beteiligten – einschließlich Gründer, Betreiber, Investoren, Technologen, Verbraucher und Regulierungsbehörden – von entscheidender Bedeutung, bei der Verfolgung und Auseinandersetzung mit diesen Technologien umsichtig und zielstrebig vorzugehen. Während generative KI und KI im weiteren Sinne das Potenzial haben, Branchen zu revolutionieren und neue Möglichkeiten zu schaffen, birgt sie auch erhebliche Herausforderungen, insbesondere im Hinblick auf Fragen der Voreingenommenheit, des Datenschutzes und ethischer Erwägungen.
Daher müssen alle Beteiligten Transparenz, Verantwortlichkeit und Zusammenarbeit priorisieren, um sicherzustellen, dass KI verantwortungsvoll und nutzbringend entwickelt und genutzt wird. Das bedeutet, in ethische KI-Forschung und -Entwicklung zu investieren, sich mit unterschiedlichen Perspektiven und Gemeinschaften auseinanderzusetzen und klare Richtlinien und Vorschriften für die Entwicklung und den Einsatz dieser Technologien festzulegen.