Schlagwort: KI-Sicherheit
Das Pentagon sagt, KI beschleunigt seine „Kill Chain“
Führende KI-Entwickler wie OpenAI und Anthropic versuchen, Software an das US-Militär zu verkaufen: Sie wollen das Pentagon effizienter machen, ohne zuzulassen, dass ihre KI Menschen tötet. Heutzutage werden ihre Werkzeuge…
Großbritannien wirft seinen Hut ins KI-Feuer
Im Jahr 2023 hat das Vereinigte Königreich große Lobeshymnen auf die Notwendigkeit geäußert, die Gefahren der KI zu berücksichtigen, und sich damit eine führende Rolle in der breiteren Diskussion über…
Das Silicon Valley erstickte die KI-Untergangsbewegung im Jahr 2024
Seit einigen Jahren schrillen bei Technologen die Alarmglocken hinsichtlich des Potenzials fortschrittlicher KI-Systeme, der Menschheit katastrophalen Schaden zuzufügen. Doch im Jahr 2024 wurden diese Warnrufe von einer praktischen und erfolgreichen…
OpenAI hat o1 und o3 darin geschult, über ihre Sicherheitsrichtlinien nachzudenken
OpenAI kündigte am Freitag eine neue Familie von KI-Argumentationsmodellen an, o3, von der das Startup behauptet, sie sei fortschrittlicher als o1 oder alles andere, was es veröffentlicht hat. Diese Verbesserungen…
Der ehemalige CEO von Twitch, Emmett Shear, gründet ein KI-Startup, das von a16z unterstützt wird
Emmett Shear, der ehemalige CEO von Twitch, gründet ein neues KI-Startup, wie Tech erfahren hat. Das Startup mit dem Namen Stem AI ist derzeit im Verborgenen. Aber öffentliche Dokumente zeigen…
Das o1-Modell von OpenAI versucht sicherlich oft, Menschen zu täuschen
OpenAI hat endlich die Vollversion von o1 veröffentlicht, die intelligentere Antworten als GPT-4o liefert, indem sie zusätzliche Rechenleistung zum „Nachdenken“ über Fragen nutzt. Allerdings haben KI-Sicherheitstester herausgefunden, dass o1 aufgrund…
OpenAI verliert eine weitere führende Sicherheitsforscherin, Lilian Weng
Eine weitere führende Sicherheitsforscherin von OpenAI, Lilian Weng, gab am Freitag bekannt, dass sie das Startup verlässt. Weng war seit August Vizepräsident für Forschung und Sicherheit und davor Leiter des…
CTGT zielt darauf ab, KI-Modelle sicherer zu machen
Als Einwanderer aufgewachsen, brachte sich Cyril Gorlla das Programmieren selbst bei – und übte es wie ein Besessener. „Ich habe den Programmierkurs meiner Mutter am Community College mit elf Jahren…
Nachdem Geoffrey Hinton den Nobelpreis für grundlegende KI-Arbeit gewonnen hat, sagt er, er sei stolz darauf, dass Ilya Sutskever „Sam Altman gefeuert hat“
Geoffrey Hinton nahm diese Woche einen Nobelpreis entgegen und würdigte damit die grundlegende Arbeit zu künstlichen neuronalen Netzen, die ihm den Spitznamen „Pate der KI“ einbrachte. In einer Rede am…
„Enttäuscht, aber nicht überrascht“: Ehemalige Mitarbeiter äußern sich zum Widerstand von OpenAI gegen SB 1047
Zwei ehemalige OpenAI-Forscher, die dieses Jahr aus Sicherheitsgründen zurückgetreten sind, sagen, sie seien enttäuscht, aber nicht überrascht über die Entscheidung von OpenAI, sich gegen Kaliforniens Gesetzentwurf zur Verhinderung von KI-Katastrophen,…