Schlagwort: KI-Sicherheit
OpenAI hat o1 und o3 darin geschult, über ihre Sicherheitsrichtlinien nachzudenken
OpenAI kündigte am Freitag eine neue Familie von KI-Argumentationsmodellen an, o3, von der das Startup behauptet, sie sei fortschrittlicher als o1 oder alles andere, was es veröffentlicht hat. Diese Verbesserungen…
Der ehemalige CEO von Twitch, Emmett Shear, gründet ein KI-Startup, das von a16z unterstützt wird
Emmett Shear, der ehemalige CEO von Twitch, gründet ein neues KI-Startup, wie Tech erfahren hat. Das Startup mit dem Namen Stem AI ist derzeit im Verborgenen. Aber öffentliche Dokumente zeigen…
Das o1-Modell von OpenAI versucht sicherlich oft, Menschen zu täuschen
OpenAI hat endlich die Vollversion von o1 veröffentlicht, die intelligentere Antworten als GPT-4o liefert, indem sie zusätzliche Rechenleistung zum „Nachdenken“ über Fragen nutzt. Allerdings haben KI-Sicherheitstester herausgefunden, dass o1 aufgrund…
OpenAI verliert eine weitere führende Sicherheitsforscherin, Lilian Weng
Eine weitere führende Sicherheitsforscherin von OpenAI, Lilian Weng, gab am Freitag bekannt, dass sie das Startup verlässt. Weng war seit August Vizepräsident für Forschung und Sicherheit und davor Leiter des…
CTGT zielt darauf ab, KI-Modelle sicherer zu machen
Als Einwanderer aufgewachsen, brachte sich Cyril Gorlla das Programmieren selbst bei – und übte es wie ein Besessener. „Ich habe den Programmierkurs meiner Mutter am Community College mit elf Jahren…
Nachdem Geoffrey Hinton den Nobelpreis für grundlegende KI-Arbeit gewonnen hat, sagt er, er sei stolz darauf, dass Ilya Sutskever „Sam Altman gefeuert hat“
Geoffrey Hinton nahm diese Woche einen Nobelpreis entgegen und würdigte damit die grundlegende Arbeit zu künstlichen neuronalen Netzen, die ihm den Spitznamen „Pate der KI“ einbrachte. In einer Rede am…
„Enttäuscht, aber nicht überrascht“: Ehemalige Mitarbeiter äußern sich zum Widerstand von OpenAI gegen SB 1047
Zwei ehemalige OpenAI-Forscher, die dieses Jahr aus Sicherheitsgründen zurückgetreten sind, sagen, sie seien enttäuscht, aber nicht überrascht über die Entscheidung von OpenAI, sich gegen Kaliforniens Gesetzentwurf zur Verhinderung von KI-Katastrophen,…
MIT-Forscher veröffentlichen Datenbank zu KI-Risiken
Welche konkreten Risiken sollten Personen, Unternehmen oder Regierungen bei der Nutzung von KI-Systemen oder bei der Ausarbeitung von Regeln für deren Nutzung berücksichtigen? Diese Frage ist nicht leicht zu beantworten.…
Mustafa Suleyman von Microsoft sagt, er liebe Sam Altman und glaube, dass es ihm mit der KI-Sicherheit ernst ist
In einem Interview beim Aspen Ideas Festival am Dienstag machte Mustafa Suleyman, CEO von Microsoft AI, sehr deutlich, dass er OpenAI-CEO Sam Altman bewundert. Andrew Ross Sorkin von CNBC fragte,…
Beim Gipfeltreffen in Seoul bekennen sich Staatsoberhäupter und Unternehmen zur KI-Sicherheit
Regierungsbeamte und Führungskräfte der KI-Branche einigten sich am Dienstag darauf, in dem schnelllebigen Bereich grundlegende Sicherheitsmaßnahmen anzuwenden und ein internationales Sicherheitsforschungsnetzwerk aufzubauen. Fast sechs Monate nach dem ersten globalen Gipfel…