KI News · Folge 57 ·

Trump lässt KI laufen, Agenten plündern Shops

Beim Gipfel mit Xi will Trump KI „genau da lassen, wo sie ist'. Seine Leitplanke: das Justizministerium. Am selben Tag zeigt ein Sicherheitsbericht, wie ein Angreifer mit KI-Agenten Hunderte Online-Shops angreift, für rund 25 Dollar pro Ziel. Die Frage des Tages: Wo sitzt eigentlich die Leitplanke? Und freitags ist Commander-Logbuch.

Lieber direkt dort schauen? Folge 57 auf YouTube
YouTubeSpotifyInstagramTikTok

Heute an Bord

  • TRUMP–XI-GIPFEL: Trump schreibt, KI sei großes Thema, er wolle sie aber lassen, wo sie ist. „Our guardrail is the DOJ!' Xi betont menschliche Kontrolle, China bestätigt erste KI-Gespräche. Einordnung: Tag 1 von 2, heißer Draht nur besprochen.
  • Agenten Plündern Online-Shops: Laut Gambit Security 105 Angriffe in 6 Tagen, mindestens 27 Firmen, über 600.000 Kreditkartendaten, 12.000 bis 18.000 Dollar Kosten. Gesteuert mit einem offenen Agenten namens Hermes. Einordnung: Zwischenbericht, neuere Modelle haben verweigert, ein Mensch hat gesteuert, Nous nicht genannt.
  • Commander-Logbuch: Opus 5.5 kam, Meta Connect lief (plus Datenschutzkonferenz: Brillenträger haftet), Aeon kam nicht, Sonnet/Haiku 5.5 offen, Anthropic-Gründer wollen 50,1 Prozent der Stimmrechte.
  • Kommentar Des Tages: Danke an @ElternVSZombies für das ehrliche Phrasen-Feedback, und an @fudashi5628 und @StefanYT2810.
  • GitHub-Ecke: Lap, der Foto-Manager mit lokaler KI-Suche, kostenlos, GPL. Zweitfund: Hindsight, Langzeitgedächtnis für Agenten.
  • Hermes-Funk: v0.21.5 ist da, Deutsch ab Werk. Websuche über Perplexity im Nous-Portal-Abo inklusive. Hermes bedient ein iPhone. Praxis-Tipp: Profil oder Subagent? Dazu die Frage von @dergreven.
  • Von der Brücke: In der Community bauen wir ein KI-Betriebssystem auf Hermes-Basis und richten Agenten so ein, dass sie nichts anstellen.
  • Schlagzeilen: ChatGPT Pro Max für 500 Dollar im Code, Google Suncatcher schickt KI-Chips ins All, Gemini 4 früher als geplant.

Die Folge zum Nachlesen

Freitag, und heute stellen wir an jede Geschichte dieselbe Frage: Wo sitzt eigentlich die Leitplanke?

Trump und Xi reden über KI, aber nicht über Grenzen. Vor dem Gipfel in Washington schrieb Trump, Super Intelligence sei ein großes Thema, er wolle sie aber „genau da lassen, wo sie ist“. Und: „Our guardrail is the DOJ!“ Die Leitplanke ist also das Justizministerium. Xi betonte dagegen, KI müsse „immer unter menschlicher Kontrolle“ bleiben. China bestätigte die ersten offiziellen KI-Gespräche mit den USA, ein heißer Draht für gefährliche KI-Vorfälle ist im Gespräch.

Zur Einordnung: Der Gipfel läuft zwei Tage, Ergebnisse gibt es noch keine. Dass China dieselbe Position hat, sagt Trump. Und eine Leitplanke, die erst nach dem Unfall greift, ist eher ein Abschleppdienst.

Agenten plündern Online-Shops. Gambit Security hat den Server eines Angreifers sichergestellt. Zwischen 10. und 15. September liefen 105 Angriffe, mindestens 27 Firmen wurden kompromittiert, über 600.000 Kreditkartendaten abgezogen. Die KI-Kosten lagen im Schnitt bei rund 25 Dollar pro Ziel. Gesteuert wurde die Kampagne mit einem offenen Agenten namens Hermes. Die Beschreibung passt auf Hermes Agent von Nous Research, genannt wird Nous im Bericht nicht.

Wichtig dazu: Das ist ein Zwischenbericht einer Sicherheitsfirma. Ein Mensch hat fast 2.000 Anweisungen getippt. Die Schutzfilter musste der Angreifer selbst ausbauen, und neuere Modelle haben abgelehnt. Die Leitplanke im Modell hat gehalten.

Commander-Logbuch. Opus 5.5 kam wie angekündigt. Meta Connect lief, und die Datenschutzkonferenz stellt klar: Wer eine smarte Brille trägt und andere filmt, haftet selbst. OpenAIs Agent Aeon kam dagegen nicht, nächste Chance ist der DevDay am Dienstag. Neu beim Anthropic-Börsengang: Laut The Information sollen die sieben Mitgründer zusammen 50,1 Prozent der Stimmrechte bekommen, bestätigt ist das nicht.

Aus der GitHub-Ecke: Lap. Ein kostenloser Foto-Manager für Mac, Windows und Linux, dessen KI-Suche komplett auf deinem Rechner läuft. Du tippst „Baustelle Fliesen“ und findest die Bilder. GPL-Lizenz, Version 0.3. Die Gesichtserkennung vor dem Einsatz in der Firma prüfen. https://github.com/julyx10/lap

Im Hermes-Funk die gute Nachricht: Version 0.21.5 ist erschienen, mit Deutsch, Französisch und Spanisch ab Werk. Einfach hermes update. Dazu sucht Hermes für Nous-Portal-Abonnenten jetzt über Perplexity, ohne eigenen Schlüssel. Und der Praxis-Tipp: Was morgen noch da sein soll, bekommt ein eigenes Profil, alles andere wird delegiert.

Kurz notiert: OpenAI testet laut Code-Fund ein ChatGPT Pro Max für 500 Dollar. Google schickt mit Project Suncatcher einen Test-Satelliten mit KI-Chips ins All. Und Gemini 4 soll früher kommen als zum Jahresende, der Wettmarkt setzt auf Oktober.

Kapitel

  • 0:00 — Kalt-Start und Begrüßung
  • 0:36 — Trump–Xi-Gipfel: Leitplanke Justizministerium
  • 2:34 — KI-Agenten plündern Online-Shops
  • 5:06 — Commander-Logbuch
  • 7:09 — Kommentar des Tages
  • 8:50 — Kanal-Support
  • 9:12 — GitHub-Ecke: Lap und Hindsight
  • 10:36 — Hermes-Funk: v0.21.5, Perplexity, Profil oder Subagent
  • 14:28 — Von der Brücke
  • 15:11 — Schlagzeilen: Pro Max, Suncatcher, Gemini 4
  • 16:07 — Ausblick und Outro

Alle Quellen zur Folge