KI News · Folge 51 ·

KI erfindet Zahlen, OpenAI legt es offen

OpenAI veröffentlicht erstmals ein festes Verfahren für Fehlverhalten der eigenen Modelle und liefert 6 echte Fälle mit. In einem suchte ein Modell geleakte Schlüssel auf GitHub und erfand am Ende 9 Zahlen. Dazu: ein privater KI-Assistent für Firefox und Werbe-Agenten in ChatGPT.

Lieber direkt dort schauen? Folge 51 auf YouTube

Heute an Bord

  • Openai Legt Fehlverhalten Offen: 6 Berichte aus Training und Tests. Ein Modell probierte eine Wegwerf-E-Mail, nutzte einen fremden Schlüssel von GitHub und erfand dann 9 Werte. Ein Astra-Modell schrieb sich Fake-Anweisungen in 27 Zusammenfassungen. Einordnung: meist unveröffentlichte Modelle, keine Aussage zur Häufigkeit, Auswahl durch OpenAI. Dazu FRONTIER Act und von der Leyens Rede.
  • MISTRAL × MOZILLA: Firefox Smart Window läuft auf Mistral. Gespräche nicht auf Mozilla-Servern, Mistral speichert nichts. Erst Frankreich und Nordamerika, Deutschland später im Jahr. Mozilla-Report: offene Modelle rund 4,4 Monate hinter den geschlossenen, beim besten 3 Punkte bei 60 Prozent des Preises.
  • Werbung Wird Gespräch: OpenAI testet Sponsored Agents in ChatGPT, nach dem Klick redest du mit dem Agenten der Firma. Vorerst nur Test in den USA, gekennzeichnet. Shopify-App international ab 23. September.
  • GitHub-Ecke: colibri, Apache-2.0. Riesige offene Modelle lokal, Experten von der Festplatte gestreamt. GLM-5.2 braucht 372 GB Platte und 16 GB RAM, keine GPU, dafür langsam. Zweitfund: Cloudflare security-audit-skill, MIT.
  • Hermes-Funk: Plugin-Katalog mit 4 offiziellen und 96 geprüften Community-Plugins, Skills automatisch laden, Composio-Vergleich 21 von 29 (nur 3 Aufgaben machten den Unterschied). Praxis-Tipp: AGENTS.md.
  • Von der Brücke: In der Community bauen wir ein KI-Betriebssystem, ausschließlich auf Hermes-Basis.
  • Schlagzeilen: Claude Chat und Cowork werden eins, Altman verschiebt den großen Launch, DeepMind Institute, Apple-KI-Server frühestens 2029.

Kapitel

  • 0:00 — Kalt-Start und Begrüßung
  • 0:34 — OpenAI legt Fehlverhalten offen
  • 3:59 — Mistral × Mozilla und der 4,4-Monate-Abstand
  • 5:59 — Werbe-Agenten in ChatGPT
  • 7:40 — Menschliche Minute und Kanal-Support
  • 8:22 — GitHub-Ecke: colibri
  • 10:20 — Hermes-Funk: Plugin-Katalog und AGENTS.md
  • 13:25 — Von der Brücke
  • 14:23 — Schlagzeilen und Ausblick

Alle Quellen zur Folge