OpenAI hat die Ernennung eines neuen Vorstandsmitglieds bekannt gegeben: Zico Kolter.
Kolter, Professor und Direktor der Abteilung für maschinelles Lernen an der Carnegie Mellon, konzentriert seine Forschung vor allem auf die Sicherheit von KI. Dies macht ihn zu einem „unschätzbaren technischen Direktor für [OpenAI’s] Governance“, schreibt OpenAI in einem Beitrag auf seiner offiziellen Blog.
Die Sicherheit von KI war ein großes Thema im Unternehmen. Kolters Ernennung erfolgte wenige Monate, nachdem mehrere prominente Führungskräfte und Mitarbeiter von OpenAI, die sich auf Sicherheit konzentrierten, darunter Mitbegründer Ilya Sutskever, das Unternehmen verlassen hatten. Mehrere dieser Rücktritte kamen aus Sutskevers ehemaligem „Superalignment“-Team, das sich auf Möglichkeiten zur Steuerung „superintelligenter“ KI-Systeme konzentrierte, dem jedoch einer Quelle zufolge der Zugriff auf die ursprünglich versprochenen Computerressourcen verweigert wurde.
Kolter wird außerdem dem Sicherheitsausschuss des OpenAI-Vorstands beitreten, der neben den Direktoren Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, CEO Sam Altman und technischen Experten von OpenAI sitzt. Der Ausschuss ist dafür verantwortlich, Empfehlungen zu Sicherheitsentscheidungen für alle OpenAI-Projekte abzugeben – aber wie wir in einem Artikel im Mai bemerkten, besteht er hauptsächlich aus Insidern, was bei Experten Zweifel an seiner Wirksamkeit aufkommen lässt.
Der Vorstandsvorsitzende von OpenAI, Taylor, sagte in einer Erklärung: „Zico bringt tiefes technisches Verständnis und eine Perspektive in Bezug auf die Sicherheit und Robustheit von KI mit, die uns helfen werden, sicherzustellen, dass die allgemeine künstliche Intelligenz der gesamten Menschheit zugute kommt.“
Kolter, ehemals leitender Datenwissenschaftler bei C3.ai, schloss 2010 seinen Doktortitel in Informatik an der Stanford University ab und war von 2010 bis 2012 als Postdoktorand am MIT tätig. In seiner Forschung untersucht er unter anderem, wie sich bestehende KI-Sicherheitsvorkehrungen durch automatisierte Optimierungstechniken umgehen lassen.
Kolter ist mit Branchenkooperationen vertraut und ist derzeit „Chefexperte“ bei Bosch und leitender technischer Berater beim KI-Startup Gray Swan.