Garry Tan, Präsident und CEO von Y Combinator, erklärte diese Woche vor Publikum im Economic Club of Washington, DC, dass für künstliche Intelligenz „wahrscheinlich eine Regulierung notwendig“ sei.
Tan sprach im Rahmen eines Einzelinterviews mit Teresa Carlson, einem Vorstandsmitglied von General Catalyst, in dem er alles vom Einstieg bei Y Combinator bis hin zur künstlichen Intelligenz besprach und anmerkte, dass es „keinen besseren Zeitpunkt gibt, im Technologiebereich zu arbeiten, als jetzt“.
Tan sagte, er unterstütze „im Großen und Ganzen“ den Versuch des National Institute of Standards and Technology (NIST), ein Rahmenwerk zur Risikominderung für GenAI zu entwickeln, und sagte, dass „große Teile der EO der Biden-Administration sind wahrscheinlich auf dem richtigen Weg.“
Das Rahmenwerk des NIST schlägt Dinge vor So soll festgelegt werden, dass GenAI bestehende Gesetze zu Themen wie Datenschutz und Urheberrecht einhalten muss; dass Endnutzer über die Verwendung von GenAI informiert werden; dass Vorschriften erlassen werden, die GenAI die Erstellung von Material über sexuellen Kindesmissbrauch verbieten usw. Bidens Executive Order umfasst eine breite Palette von Vorgaben, von der Verpflichtung von KI-Unternehmen, Sicherheitsdaten mit der Regierung zu teilen, bis hin zur Gewährleistung eines fairen Zugangs kleiner Entwickler.
Doch wie viele andere Risikokapitalgeber aus dem Valley war Tan auch gegenüber anderen Regulierungsbemühungen misstrauisch. Er bezeichnete die Gesetzesentwürfe zur künstlichen Intelligenz, die derzeit in den kalifornischen und San Francisco-Parlamenten behandelt werden, als „sehr besorgniserregend“.
Ein Gesetzentwurf in Kalifornien, der für Aufsehen sorgt, ist der von Senator Scott Wiener, der es dem Generalstaatsanwalt erlauben würde, KI-Unternehmen zu verklagen, wenn ihre Produkte schädlich sind. Politico berichtet.
„Die große politische Diskussion dreht sich derzeit darum, wie eine gute Version davon wirklich aussehen kann“, sagte Tan. „Wir können uns an Leute wenden wie Ian Hogarthin Großbritannien, umsichtig zu sein. Sie sind sich auch dieser Idee der Machtkonzentration bewusst. Gleichzeitig versuchen sie herauszufinden, wie wir Innovationen unterstützen und gleichzeitig die schlimmsten möglichen Schäden abmildern können.“
Hogarth ist ein ehemaliger YC-Unternehmer und KI-Experte, der vom Vereinigten Königreich in eine KI-Modell-Taskforce berufen wurde.
„Was mir Angst macht, ist, dass wir versuchen, ein Science-Fiction-Problem anzusprechen, das gar nicht existiert“, sagte Tan.
Was die Art und Weise angeht, wie YC Verantwortung übernimmt, sagte Tan: Wenn die Organisation mit der Mission eines Startups oder dem Nutzen des Produkts für die Gesellschaft nicht einverstanden ist, „finanziert YC es einfach nicht.“ Er merkte an, dass er in den Medien mehrmals von Unternehmen gelesen habe, die sich bei YC beworben hatten.
„Wir schauen uns die Notizen des Interviews noch einmal an und kommen zu dem Schluss, dass das unserer Meinung nach nicht gut für die Gesellschaft ist. Und zum Glück haben wir es nicht finanziert“, sagte er.
Die führenden Köpfe der künstlichen Intelligenz machen immer wieder Fehler
Tans Richtlinie lässt Y Combinator immer noch Raum, viele KI-Startups als Absolventen hervorzubringen. Wie mein Kollege Kyle Wiggers berichtete, gab es im Winter 2024-Jahrgang 86 KI-Startups, fast doppelt so viele wie im Winter 2023-Jahrgang und fast dreimal so viele wie im Winter 2021, wie aus dem offiziellen Startup-Verzeichnis von YC hervorgeht.
Und aktuelle Nachrichtenereignisse lassen die Menschen darüber nachdenken, ob sie darauf vertrauen können, dass diejenigen, die KI-Produkte verkaufen, auch diejenigen sind, die verantwortungsvolle KI definieren. Letzte Woche berichtete Tech, dass OpenAI sein KI-Verantwortungsteam auflöst.
Dann kam es zu dem Debakel, als das Unternehmen bei der Vorführung seines neuen GPT-4o-Modells eine Stimme verwendete, die wie die der Schauspielerin Scarlet Johansson klang. Es stellte sich heraus, dass sie gefragt wurde, ob sie ihre Stimme verwenden würde, und sie lehnte ab. OpenAI hat die Sky-Stimme inzwischen entfernt, obwohl es bestritt, dass sie auf Johansson basierte. Dies und Probleme rund um OpenAIs Fähigkeit, unverfallbare Mitarbeiterbeteiligungen zurückzufordern, waren einige der Punkte, die führte dazu, dass die Leute offen hinterfragten Sam Altmans Skrupel.
Unterdessen machte Meta selbst Schlagzeilen im KI-Bereich, als es die Einrichtung eines KI-Beirats ankündigte, dem ausschließlich weiße Männer angehörten. Frauen und Menschen mit dunkler Hautfarbe, die zum Großteil eine Schlüsselrolle bei der Gründung und Innovation dieser Branche spielten, wurden damit praktisch außen vor gelassen.
Tan erwähnte keine dieser Fälle. Wie die meisten Risikokapitalgeber im Silicon Valley sieht er darin Möglichkeiten für neue, riesige und lukrative Geschäfte.
„Wir stellen uns Startups gerne als Ideenlabyrinth vor“, sagte Tan. „Wenn eine neue Technologie herauskommt, wie etwa große Sprachmodelle, gerät das ganze Ideenlabyrinth durcheinander. ChatGPT selbst war wahrscheinlich eines der am schnellsten erfolgreichen Verbraucherprodukte, das in jüngster Zeit auf den Markt kam. Und das sind gute Nachrichten für Gründer.“
Künstliche Intelligenz der Zukunft
Tan sagte auch, dass San Francisco das Zentrum der KI-Bewegung sei. Dort begannen beispielsweise Anthropic, das von YC-Absolventen gegründet wurde, und OpenAI, das ein Spin-off von YC war.
Tan scherzte auch, dass er nicht in Altmans Fußstapfen treten würde, und merkte an, dass Altman „meinen Job vor einigen Jahren hatte und daher keine Pläne habe, ein KI-Labor zu eröffnen.“
Eine weitere YC-Erfolgsgeschichte ist das Legal-Tech-Startup Casetext, das 2023 für 600 Millionen Dollar an Thomson Reuters verkauft wurde. Tan glaubte, Casetext sei eines der ersten Unternehmen weltweit gewesen, das Zugang zu generativer KI erhielt, und sei dann einer der ersten Exits im Bereich der generativen KI gewesen.
Mit Blick auf die Zukunft der KI sagte Tan, dass „wir diese Technologie natürlich mit Bedacht einsetzen müssen“, da sie mit den Risiken von Bioterror und Cyberangriffen verbunden sei. Gleichzeitig sagte er, dass es „einen viel maßvolleren Ansatz“ geben müsse.
Er geht außerdem davon aus, dass es wohl kein „Winner-take-all“-Modell geben wird, sondern vielmehr einen „unglaublichen Garten der Wahlfreiheit der Verbraucher und der Gründer, die in der Lage sind, etwas zu schaffen, das eine Milliarde Menschen berührt.“
Zumindest ist es das, was er sehen möchte. Das wäre in seinem und YCs Interesse – viele erfolgreiche Startups, die den Investoren viel Geld zurückgeben. Was Tan also am meisten Angst macht, sind nicht außer Kontrolle geratene böse KIs, sondern der Mangel an KIs, aus denen man wählen kann.
„Wir könnten uns tatsächlich in einer weiteren wirklich monopolistischen Situation wiederfinden, in der es eine große Konzentration auf nur wenige Modelle gibt. Dann spricht man von Rentenextraktion und hat eine Welt, in der ich nicht leben möchte.“