Milliarden Dollar strömen in die KI. KI-Modelle sind jedoch bereits von Vorurteilen betroffen, wie die Hypothekendiskriminierung gegenüber schwarzen potenziellen Hausbesitzern zeigt.
Es ist vernünftig zu fragen, welche Rolle Ethik beim Aufbau dieser Technologie spielt und, was vielleicht noch wichtiger ist, wo Investoren ins Spiel kommen, wenn sie es eilig haben, sie zu finanzieren.
Ein Gründer sagte kürzlich gegenüber Tech+, dass es schwer ist, über Ethik nachzudenken, wenn Innovationen so schnell sind: Menschen bauen Systeme, zerstören sie und bearbeiten sie dann. Daher liegt eine gewisse Verantwortung bei den Investoren, um sicherzustellen, dass diese neuen Technologien von Gründern mit ethischen Grundsätzen entwickelt werden.
Um zu sehen, ob das passiert, sprach Tech+ mit vier aktiven Investoren aus dem Bereich darüber, wie sie über Ethik in der KI denken und wie Gründer ermutigt werden können, mehr über Vorurteile nachzudenken und das Richtige zu tun.
Wir erweitern unseren Horizont und suchen nach mehr Investoren, die an Tech-Umfragen teilnehmen, bei denen wir Top-Experten zu Herausforderungen in ihrer Branche befragen.
Wenn Sie ein Investor sind und an zukünftigen Umfragen teilnehmen möchten, füllen Sie das Formular aus diese Form.
Einige Investoren gaben an, dass sie dies angehen, indem sie die Ethik eines Gründers sorgfältig prüfen, um festzustellen, ob sie weiterhin Entscheidungen treffen werden, die das Unternehmen unterstützen kann.
„Gründerempathie ist für uns eine große grüne Flagge“, sagte Alexis Alston, Direktor bei Lightship Capital. „Solche Leute verstehen, dass wir zwar nach Marktrenditen suchen, aber auch darauf achten, dass unsere Investitionen keine negativen Auswirkungen auf die Welt haben.“
Andere Anleger glauben, dass das Stellen harter Fragen helfen kann, die Spreu vom Weizen zu trennen. „Jede Technologie bringt unbeabsichtigte Konsequenzen mit sich, sei es Voreingenommenheit, eingeschränkte menschliche Handlungsfähigkeit, Verletzung der Privatsphäre oder etwas anderes“, sagte Deep Nishar, Managing Director bei General Catalyst. „Unser Anlageprozess konzentriert sich darauf, solche unbeabsichtigten Folgen zu identifizieren, sie mit den Gründungsteams zu besprechen und zu beurteilen, ob Schutzmaßnahmen vorhanden sind oder sein werden, um sie abzuschwächen.“
Auch die Regierungspolitik zielt auf KI: Die EU hat bestanden Gesetze zum maschinellen Lernenund die USA eingeführt hat Pläne für eine KI-Task Force sich mit den Risiken im Zusammenhang mit KI zu befassen. Das ist zusätzlich zu den AI-Bill of Rights letztes Jahr eingeführt. Mit vielen Top-VC-Firmen, die Geld injizieren KI-Bemühungen in Chinaist es wichtig zu fragen, wie globale Ethik innerhalb der KI auch grenzüberschreitend durchgesetzt werden kann.
Lesen Sie weiter, um zu erfahren, wie Investoren mit Due Diligence umgehen, welche grünen Flaggen sie suchen und welche Erwartungen sie an Regulierungen in der KI haben.
Wir sprachen mit:
Alexis Alston, Direktor, Lightship Capital
Wenn Sie in ein KI-Unternehmen investieren, wie sorgfältig gehen Sie darauf ein, wie sein KI-Modell Voreingenommenheit vorgibt oder handhabt?
Für uns ist es wichtig, genau zu verstehen, welche Daten das Modell aufnimmt, woher die Daten kommen und wie sie sie bereinigen. Wir unternehmen mit unserem KI-fokussierten Hausarzt einiges an technischer Sorgfalt, um sicherzustellen, dass unsere Modelle so trainiert werden können, dass sie Verzerrungen mildern oder beseitigen.
Wir alle erinnern uns daran, dass sich Wasserhähne nicht automatisch öffnen ließen, um unsere dunkleren Hände zu waschen, und an die Zeiten, als die Google-Bildersuche „versehentlich“ schwarze Haut mit Primaten gleichsetzte. Ich werde alles dafür tun, dass wir solche Modelle nicht in unserem Portfolio landen.
Wie würde sich die Verabschiedung von Gesetzen zum maschinellen Lernen in den USA, die denen der EU ähneln, auf das Innovationstempo auswirken, das das Land in diesem Sektor sieht?
Angesichts des Mangels an technischem Wissen und Raffinesse in unserer Regierung habe ich sehr wenig Vertrauen in die Fähigkeit der USA, umsetzbare und genaue Gesetze zum maschinellen Lernen zu verabschieden. Wir haben so einen langen Schwanz, wenn es um rechtzeitige Gesetzgebung geht und wenn es darum geht, dass technische Experten Teil von Task Forces sind, um unsere Gesetzgeber zu informieren.
Ich sehe tatsächlich keine Gesetzgebung, die das Tempo der Entwicklung von ML wesentlich ändern wird, wenn man bedenkt, wie unsere Gesetze normalerweise strukturiert sind. Ähnlich wie beim Wettlauf um die Gesetzgebung zu Designerdrogen in den USA vor einem Jahrzehnt konnte die Gesetzgebung nie mithalten.