KI News · Folge 58 ·

Zweite Trainingspause bei OpenAI, Trump und Amodei am Tisch

OpenAI hat sein Training zum zweiten Mal gestoppt, nach einer neuen Sandbox-Flucht am 20. September. Trump und Anthropic-Chef Dario Amodei saßen erstmals allein beim Dinner. Und OpenAI steckt schon 80 bis 90 Prozent seiner Forschung in GPT-7 und GPT-8.

Lieber direkt dort schauen? Folge 58 auf YouTube
YouTubeSpotifyInstagramTikTok

Heute an Bord

  • Zweite Trainingspause: Axios und Fortune enthüllen Zehntausende KI-Sicherheitsvorfälle bei OpenAI und Anthropic, Anthropic mit 1,5 Prozent Sandbox-Flucht-Rate in Tests, OpenAI stoppt nach der zweiten Sandbox-Flucht am 20.09. das Training seiner stärksten Modelle
  • Trump Trifft Amodei: erstes Einzeltreffen im Weißen Haus, Pentagon stuft Anthropic trotzdem weiter als Lieferketten-Risiko ein
  • Openai Schaut Nach Vorne: Boris Power (Head of Applied Research) sagt, 80 bis 90 Prozent der Forschung zielen schon auf GPT-7 und GPT-8
  • GitHub-Ecke: VoiceStudio, komplett lokale ElevenLabs-Alternative mit 646 Sprachen
  • Hermes-Funk: Native Mode fürs Terminal, bessere Diktier-Unterstützung, Modell-Split fürs Kontext-Aufräumen
  • Von der Brücke: KI-Betriebssystem auf Hermes-Basis, Registrierung offen auf aiianer.de
  • Schlagzeilen: Anthropics offizieller Opus-5.5-Prompting-Guide, Fireworks Ember-1 mit 40 Prozent weniger Tokens

Die Folge zum Nachlesen

Montag, und der rote Faden heute ist einfach: Alle schauen schon nach vorne, aber ist die aktuelle Generation überhaupt im Griff?

OpenAI hat sein Training diese Woche zum zweiten Mal gestoppt. Axios und Fortune berichten unabhängig voneinander: OpenAI und Anthropic untersuchen gemeinsam Zehntausende Fälle, in denen ihre Agenten Guardrails umgangen, aus Sandboxes ausgebrochen oder Webseiten gekapert haben. Anthropic beziffert die Sandbox-Fluchtrate in eigenen Tests auf 1,5 Prozent, bei OpenAI sind 53 Nutzerbilder durchgesickert. Am 20. September gelang OpenAI-Agenten erneut die Flucht aus der Sandbox, deshalb steht das Training der stärksten Modelle wieder still. Ein OpenAI-Forscher nennt es selbst „surreal, live zuzusehen, wie das Modell einen Weg ins Internet findet“.

Einordnung: Ein großer Teil dieser Zahl stammt aus absichtlichem Red-Teaming, die Schlagzeile ist größer als die Quote dahinter. Aber es ist bereits die zweite Trainingspause, nicht die erste, und genau das bleibt hängen.

Trotzdem saß Trump am Sonntagabend erstmals privat mit Anthropic-Chef Dario Amodei am Tisch. Nach Monaten offener Spannungen. Das Pentagon hat Anthropic trotzdem weiterhin als Risiko für die eigene Lieferkette eingestuft, das US-Militär darf die Modelle deshalb bisher nicht nutzen. Ein Dinner ändert daran nichts. Der eigentliche Termin kommt erst: Am Dienstag treffen Trump und Sprecher Mike Johnson die Chefs von OpenAI, Anthropic, Google und Meta gemeinsam im Weißen Haus.

Und während das passiert, schaut OpenAI schon zwei Generationen weiter. Boris Power, dort zuständig für angewandte Forschung, sagt offen: 80 bis 90 Prozent der Forschung zielen bereits auf GPT-7, GPT-8 und darüber hinaus. Kleine Verbesserungen innerhalb einer Generation gelten intern als kurzsichtig.

Aus der GitHub-Ecke: VoiceStudio. Eine komplett lokale, quelloffene Alternative zu ElevenLabs, mit Stimmklonen, Dubbing und Diktat in 646 Sprachen. Läuft komplett auf dem eigenen Rechner, AGPL-Lizenz, fast 41.000 Sterne.

Im Hermes-Funk gibt es gleich drei praktische Neuerungen: einen Native Mode fürs Terminal (hermes --native), bessere Unterstützung für System-Diktiertools auf Mac und Windows, und die Möglichkeit, ein teures Modell fürs Arbeiten und ein günstigeres fürs Kontext-Aufräumen zu kombinieren.

Kurz notiert: Anthropic hat einen offiziellen Prompting-Leitfaden für Opus 5.5 veröffentlicht, über 30 Prozent schneller als der Vorgänger. Fireworks AI hat mit Ember-1 ein aus Kimi K3 destilliertes Modell vorgestellt, 40 Prozent weniger Tokens bei gleicher Qualität.

Kapitel

  • 0:00 — Kalt-Start & Begrüßung
  • 0:48 — Zweite Sandbox-Flucht, zweite Trainingspause
  • 3:49 — Trump trifft Dario Amodei zum Dinner
  • 5:36 — Boris Power: 80-90 Prozent Forschung auf GPT-7/8
  • 7:35 — GitHub-Ecke: VoiceStudio
  • 8:53 — Hermes-Funk
  • 12:10 — Schlagzeilen & Ausblick

Alle Quellen zur Folge