Ilya Sutskever, einer der Mitbegründer von OpenAI, hat nur einen Monat nach seinem Ausscheiden bei OpenAI ein neues Unternehmen, Safe Superintelligence Inc. (SSI), gegründet.
Sutskever, der langjährige Chefwissenschaftler von OpenAI, gründete SSI mit dem ehemaligen YC-Partner Daniel Gross und dem ehemaligen OpenAI-Ingenieur Daniel Levy.
Bei OpenAI war Sutskever maßgeblich an den Bemühungen des Unternehmens beteiligt, die Sicherheit von KI angesichts des Aufkommens „superintelligenter“ KI-Systeme zu verbessern, ein Bereich, an dem er gemeinsam mit Jan Leike arbeitete. Doch sowohl Sutskever als auch Leike verließen das Unternehmen im Mai dramatisch, nachdem sie sich mit der Führung von OpenAI über den Umgang mit der KI-Sicherheit gestritten hatten. Leike leitet jetzt ein Team bei Anthropic.
Sutskever widmet sich schon seit langem den heikleren Aspekten der KI-Sicherheit. In einem Blogeintrag In seinem im Jahr 2023 veröffentlichten Buch sagte er (gemeinsam mit Leike) voraus, dass es innerhalb dieses Jahrzehnts eine KI geben könnte, die intelligenter ist als der Mensch – und wenn das passiert, wird sie nicht unbedingt wohlwollend sein, sodass nach Möglichkeiten zu ihrer Kontrolle und Einschränkung geforscht werden muss.
„SSI ist unsere Mission, unser Name und unsere gesamte Produkt-Roadmap, denn es ist unser einziger Fokus. Unser Team, unsere Investoren und unser Geschäftsmodell sind alle darauf ausgerichtet, SSI zu erreichen. Wir gehen Sicherheit und Fähigkeiten gemeinsam an, als technische Probleme, die durch revolutionäre Technik und wissenschaftliche Durchbrüche gelöst werden müssen“, heißt es in dem Tweet.
„Wir planen, unsere Fähigkeiten so schnell wie möglich zu verbessern und gleichzeitig sicherzustellen, dass unsere Sicherheit immer an der Spitze bleibt. Auf diese Weise können wir in Ruhe skalieren. Unser einzigartiger Fokus bedeutet, dass wir nicht durch Management-Overhead oder Produktzyklen abgelenkt werden, und unser Geschäftsmodell bedeutet, dass Sicherheit, Schutz und Fortschritt von kurzfristigen kommerziellen Zwängen isoliert sind.“
SSI verfügt über Niederlassungen in Palo Alto und Tel Aviv, wo das Unternehmen derzeit technische Talente rekrutiert.