KI News · Folge 51 ·
KI erfindet Zahlen, OpenAI legt es offen
OpenAI veröffentlicht erstmals ein festes Verfahren für Fehlverhalten der eigenen Modelle und liefert 6 echte Fälle mit. In einem suchte ein Modell geleakte Schlüssel auf GitHub und erfand am Ende 9 Zahlen. Dazu: ein privater KI-Assistent für Firefox und Werbe-Agenten in ChatGPT.
Heute an Bord
- Openai Legt Fehlverhalten Offen: 6 Berichte aus Training und Tests. Ein Modell probierte eine Wegwerf-E-Mail, nutzte einen fremden Schlüssel von GitHub und erfand dann 9 Werte. Ein Astra-Modell schrieb sich Fake-Anweisungen in 27 Zusammenfassungen. Einordnung: meist unveröffentlichte Modelle, keine Aussage zur Häufigkeit, Auswahl durch OpenAI. Dazu FRONTIER Act und von der Leyens Rede.
- MISTRAL × MOZILLA: Firefox Smart Window läuft auf Mistral. Gespräche nicht auf Mozilla-Servern, Mistral speichert nichts. Erst Frankreich und Nordamerika, Deutschland später im Jahr. Mozilla-Report: offene Modelle rund 4,4 Monate hinter den geschlossenen, beim besten 3 Punkte bei 60 Prozent des Preises.
- Werbung Wird Gespräch: OpenAI testet Sponsored Agents in ChatGPT, nach dem Klick redest du mit dem Agenten der Firma. Vorerst nur Test in den USA, gekennzeichnet. Shopify-App international ab 23. September.
- GitHub-Ecke: colibri, Apache-2.0. Riesige offene Modelle lokal, Experten von der Festplatte gestreamt. GLM-5.2 braucht 372 GB Platte und 16 GB RAM, keine GPU, dafür langsam. Zweitfund: Cloudflare security-audit-skill, MIT.
- Hermes-Funk: Plugin-Katalog mit 4 offiziellen und 96 geprüften Community-Plugins, Skills automatisch laden, Composio-Vergleich 21 von 29 (nur 3 Aufgaben machten den Unterschied). Praxis-Tipp: AGENTS.md.
- Von der Brücke: In der Community bauen wir ein KI-Betriebssystem, ausschließlich auf Hermes-Basis.
- Schlagzeilen: Claude Chat und Cowork werden eins, Altman verschiebt den großen Launch, DeepMind Institute, Apple-KI-Server frühestens 2029.
Kapitel
- 0:00 — Kalt-Start und Begrüßung
- 0:34 — OpenAI legt Fehlverhalten offen
- 3:59 — Mistral × Mozilla und der 4,4-Monate-Abstand
- 5:59 — Werbe-Agenten in ChatGPT
- 7:40 — Menschliche Minute und Kanal-Support
- 8:22 — GitHub-Ecke: colibri
- 10:20 — Hermes-Funk: Plugin-Katalog und AGENTS.md
- 13:25 — Von der Brücke
- 14:23 — Schlagzeilen und Ausblick
Alle Quellen zur Folge
- OpenAI Fehlverhalten: openai.com · alignment.openai.com · alignment.openai.com
- FRONTIER Act: the-decoder.de
- Von der Leyen: the-decoder.de
- Mistral × Mozilla: mistral.ai · blog.mozilla.org
- Mozilla-Report: stateofopensource.ai
- Sponsored Agents: openai.com
- GitHub-Ecke: github.com · github.com
- Hermes-Funk: hermes-agent.nousresearch.com · x.com · hermes-agent.nousresearch.com · x.com · x.com · github.com · github.com · x.com · hermes-agent.nousresearch.com
- Claude: claude.com
- Altman: x.com
- DeepMind Institute: the-decoder.de
- Apple-Server: the-decoder.de