KI Academy LeipzigWissen
KI. Verständlich. Praxisnah. Effizient.ki-academy-leipzig.de
← Zurück zum Briefing-ArchivKI-Briefing · 02.09.2026

KI-Briefing 02.09.2026

Zeitfenster: 01.09.2026 07:00 bis 02.09.2026 07:00 Uhr (Europe/Berlin) · Veröffentlicht: 3. September 2026 um 09:47

Hinweis zur KI-NutzungDieses Briefing wurde mit KI-Unterstützung recherchiert und verfasst. Alle Angaben sind mit Quelle belegt, unverifizierte Angaben sind als solche gekennzeichnet. Redaktionell verantwortlich: Ingo Günther, KI Academy Leipzig.

Was bedeuten Ampelstufen und Quellenstufen?

Die Ampelstufen zeigen, wie dringlich eine Meldung ist:

  • Auf dem Tisch

    ist jetzt handlungsrelevant.

  • Auf dem Radar

    sollten Sie beobachten.

  • Notiert

    ist ein Thema zur Kenntnis.

  • Unverifiziert

    bedeutet, dass sich der Sachverhalt nicht vollständig über eine belastbare Quelle belegen ließ. Die Meldung erscheint trotzdem, die Angaben sind aber mit Vorsicht zu behandeln.

Die Quellenstufen geben an, wie belastbar eine Quelle ist:

  • Stufe A: Primärquelle des Anbieters (Firmenblog, Release Notes, API-Dokumentation, Repository, Changelog, Statusseite, Preisseite)
  • Stufe B: Behörden und amtliche Quellen (Europäische Kommission, EU AI Office, BSI, ENISA, NIST, Datenschutzaufsichtsbehörden)
  • Stufe C: Recherchierende Fachmedien (etwa Reuters, Bloomberg, Financial Times, MIT Technology Review, heise, c't, Handelsblatt)
  • Stufe D: Wissenschaft (arXiv, Papers with Code, Fachjournale)
  • Stufe E: Newsletter, Blogs und Aggregatoren. Diese Stufe gilt nie als Beleg, sondern nur als Spur.

Jede Meldung stützt sich auf mindestens eine Quelle der Stufen A bis D. Lässt sich ein Sachverhalt nur über Stufe E belegen, ist die Meldung als unverifiziert gekennzeichnet.

Die Lage in fünf Zeilen

Fällige Wiedervorlagen

Meldungen

Auf dem TischAnthropicModelle, Preiseneu

Anthropic gibt Claude Fable 5.1 und Mythos 5.1 frei, zwischengespeicherte Eingaben werden 75 Prozent billiger

Anthropic hat am 01.09.2026 Claude Fable 5.1 und Claude Mythos 5.1 veröffentlicht. Die Grundpreise bleiben bei 10 US-Dollar je Million Eingabe-Token und 50 US-Dollar je Million Ausgabe-Token, der Preis für zwischengespeicherte Eingaben fällt von 1,00 auf 0,25 US-Dollar je Million Token. Beide Modelle verlangen weiterhin 30 Tage Datenaufbewahrung und stehen ohne ausdrückliche Genehmigung nicht unter Nullaufbewahrung zur Verfügung.

Bericht

Nach den Anmerkungen zur Veröffentlichung der Claude-Plattform tragen beide Modelle ein Kontextfenster von einer Million Token in der Voreinstellung, bis zu 128.000 Ausgabe-Token und ein dauerhaft eingeschaltetes anpassendes Nachdenken. Die Kennung lautet `claude-fable-5-1` beziehungsweise `claude-mythos-5-1`, letzteres ist auf Teilnehmende des Programms Project Glasswing beschränkt. Verfügbar ist Fable 5.1 über die Claude-Schnittstelle, Amazon Bedrock, die Claude-Plattform auf AWS, Google Cloud und Microsoft Foundry. Der Preis für das Lesen aus dem Zwischenspeicher liegt bei 0,025 des Grundeingabepreises statt der sonst üblichen 0,1, die Schreibvorgänge bleiben unverändert. Anthropic beziffert die Ersparnis für übliche Lasten auf rund 25 Prozent und für stark agentische Aufgaben auf bis zu 45 Prozent. An Messwerten nennt der Anbieter für Fable 5.1 auf Terminal-Bench-Science 52,6 Prozent gegenüber 24,7 Prozent bei Fable 5, auf Terminal-Bench 4.0 55,8 Prozent gegenüber 42,0 Prozent und auf OSWorld 2.0 für Computernutzung 41,7 Prozent in der strengen Wertung. Vier Änderungen an der Schnittstelle sind für bestehende Anwendungen erheblich: Die Werte `any` und `tool` für `tool_choice` werden nicht mehr angenommen und lösen einen Fehler 400 aus; Denkblöcke werden nur noch für dasselbe oder ein neueres Modell aufbewahrt, und für Konten, die ab dem 31.08.2026 angelegt wurden, führt ein nachträglich verändertes Gesprächsvorfeld ebenfalls zu einem Fehler 400; erzeugter Text trägt Anthropics Textmarkierung, erzeugte Bilder und Videos aus dem Werkzeug zur Codeausführung tragen C2PA-Herkunftsangaben; und beide Modelle verlangen eine Aufbewahrung von 30 Tagen. Nach der Anbieterseite greifen bei Mythos 5.1 gelockerte Schutzmechanismen im Cyberbereich mit rund 60 Prozent weniger Eingriffen je Sitzung, das Auffinden von Schwachstellen ist erlaubt, das Entwickeln von Angriffscode nicht. Der Zugang zu Mythos 5.1 läuft über zwei Prüfprogramme für Sicherheitsfachleute und für Lebenswissenschaften.

Einordnung

Der Preisschritt ist kein allgemeiner Nachlass, sondern eine gezielte Verbilligung eines einzigen Postens. [Schlussfolgerung] Wer eine Anwendung mit großem, gleichbleibendem Vorspann betreibt, etwa eine Wissensdatenbank oder einen Agenten mit umfangreicher Anweisung, spart deutlich; wer kurze Einzelanfragen stellt, spart nichts. Für Ingos Beratungsgespräche ist das ein brauchbares Beispiel dafür, warum eine Preisangabe je Million Token allein keine Kostenaussage ist. Der zweite, in der Berichterstattung untergegangene Punkt ist die Aufbewahrungspflicht: Ein Spitzenmodell, das nur mit 30 Tagen Datenhaltung zu haben ist, fällt für Betriebe mit strengen Löschzusagen bis auf Weiteres aus, und genau diese Lücke soll das Angebot aus Meldung 5 schließen. Die Änderungen an `tool_choice` und an den Denkblöcken sind der eigentliche Aufwand einer Umstellung und gehören in jede Aufwandsschätzung.

Quellen

Auf dem TischPerplexityDatenschutzneu

Perplexity hält sensible Dateien auf dem Mac und schickt nur den Rest in die Cloud

Perplexity hat am 01.09.2026 eine hybride Verarbeitung für die Mac-Anwendung freigeschaltet. Eine Vorprüfung auf dem Gerät erkennt sensible Inhalte und hält die betreffenden Arbeitsschritte lokal, während Planung, Recherche und Schlussfolgern in der Cloud laufen. Die Funktion steht Pro, Max und Enterprise offen und setzt einen Mac mit Apple-Silicon, macOS 15 und mindestens 24 Gigabyte gemeinsamem Speicher voraus.

Bericht

Nach dem Anbieterbeitrag zerlegt eine Steuerung in der Cloud die Aufgabe in Teilaufgaben und verteilt sie auf Unteragenten. Für die lokale Ausführung stehen drei Modelle zur Wahl: Gemma 4 E4B, Qwen3.6 35B-A3B und ein von Perplexity nachtrainiertes Modell, das der Anbieter empfiehlt. Die Vorprüfung, vom Anbieter Privacy Gate genannt, arbeitet als Einstufer auf dem Gerät und kann nach dem Beitrag vier Wege gehen: sensible Angaben maskieren, den Schritt lokal halten, die Handlung verweigern oder eine Zustimmung einholen. Am strengsten behandelt werden Zugangsdaten und Zahlungsangaben. Verwaltende können nach demselben Beitrag organisationsweite Vorgaben für den Umgang mit Daten setzen und auf Geräteebene nachvollziehen, wann Angaben das Gerät verlassen haben; als Zielgruppen nennt der Beitrag Rechtsberatung, Gesundheitswesen und Finanzwesen. VentureBeat ergänzt am 01.09.2026, dass für lokal ausgeführte Teile keine Token in die Cloud übertragen werden und dass die lokale Ausführung keine Kosten verursacht, während die Steuerung in der Cloud über Guthaben abgerechnet wird. Eine Angabe zu Preisen enthält der Anbieterbeitrag nicht, ebenso wenig eine Angabe zu Regionen. Eine Windows-Fassung nennt der Beitrag nicht.

Einordnung

Das ist die erste Umsetzung eines Musters, das in Beratungsgesprächen seit Monaten als Wunsch formuliert wird und bisher nur als Bastellösung existierte. [Schlussfolgerung] Bemerkenswert ist nicht der lokale Betrieb an sich, den es mit Ollama und LM Studio längst gibt, sondern die automatische Aufteilung: Der Betrieb muss nicht mehr entscheiden, ob eine Aufgabe lokal oder in der Cloud läuft, sondern nur noch, welche Angaben als sensibel gelten. Damit wandert die Entscheidung von der Technik in die Datenschutzorganisation, wo sie hingehört. Der offene Punkt ist die Prüfbarkeit: Ein Einstufer, der personenbezogene Angaben erkennen soll, hat eine Fehlerquote, und weder der Anbieterbeitrag noch der Fachbericht nennen eine. Solange die nicht belegt ist, ersetzt die Vorprüfung keine Regelung darüber, welche Dateien überhaupt in ein solches Werkzeug gelangen dürfen.

Quellen

Auf dem TischOpenAIWerkzeugeneu

Die ChatGPT-Erweiterung läuft jetzt in vier weiteren Browsern, der eingebaute Browser nutzt Website-Werkzeuge

OpenAI hat in den Anmerkungen zur Veröffentlichung von ChatGPT zum 31.08.2026 fünf Änderungen eingetragen. Zwei davon betreffen den Arbeitsalltag: Die Browsererweiterung unterstützt nun Microsoft Edge, Brave, Opera und Vivaldi, und der eingebaute Browser der Schreibtischanwendung kann Werkzeuge nutzen, die eine Website selbst bereitstellt. Die Einträge waren beim Lauf vom 01.09.2026 noch nicht sichtbar.

Bericht

Nach den Anmerkungen zur Veröffentlichung erkennt ChatGPT im eingebauten Browser der Schreibtischanwendung Werkzeuge, die eine Website über WebMCP anbietet, ohne dass eine gesonderte Verbindung eingerichtet werden muss; verfügbare Werkzeuge erscheinen über ein Zeichen in der Adresszeile. Voraussetzung sind ein Zugang mit ChatGPT Work oder Codex, ein geeignetes Modell und eine unterstützte Seite. Über die Erweiterung für Chrome steht die Funktion nicht zur Verfügung. Die Browsererweiterung selbst läuft nun zusätzlich in Microsoft Edge, Brave, Opera und Vivaldi; sie erlaubt es, offene Tabs als Zusammenhang zu nennen und Aufgaben im Browser von der Schreibtischanwendung aus ausführen zu lassen. Ein seitliches Gesprächsfenster gibt es dabei in Edge, Brave und Vivaldi, in Opera nur die Nennung von Tabs und die Steuerung des Browsers. Vorausgesetzt wird eine aktuelle Schreibtischanwendung, die Verfügbarkeit hängt zusätzlich von den Einstellungen des Arbeitsbereichs ab. Die drei weiteren Einträge desselben Tages betreffen Aufklebersätze, die Anzeige laufender Sprachgespräche auf dem Sperrbildschirm von iPhones und eine Hilfe zur Aussprache. Angaben zu Regionen enthalten die Einträge nicht.

Einordnung

Der interessante Teil ist nicht die Zahl der Browser, sondern WebMCP. [Schlussfolgerung] Bisher musste ein Betrieb, der seine eigene Anwendung für einen KI-Assistenten zugänglich machen wollte, eine Verbindung einrichten und pflegen. Wenn die Website ihre Werkzeuge selbst bekanntgibt, verschiebt sich das: Der Assistent findet, was die Seite anbietet, und die Freigabeentscheidung liegt beim Betreiber der Seite statt beim Nutzenden. Für Betriebe mit eigenen Webanwendungen wird das zu einer Frage, die bisher nicht auf der Tagesordnung stand, nämlich welche Vorgänge eine fremde KI auf der eigenen Seite auslösen darf. Die Ausweitung der Erweiterung auf vier weitere Browser ist demgegenüber Alltagsarbeit, hat aber eine Nebenwirkung für die Verwaltung: Wer bisher über die Browserauswahl gesteuert hat, wer die Erweiterung nutzen kann, steuert damit nicht mehr.

Quellen

Auf dem TischGoogleWerkzeugeneu

Google startet Google Pics für Workspace-Ausgaben ab Business Standard

Google hat am 01.09.2026 Google Pics vorgestellt, ein Werkzeug zum Erzeugen und Bearbeiten von Bildern über Textanweisungen. Es steht den Workspace-Ausgaben Business Standard, Business Plus, Enterprise Standard und Enterprise Plus sowie den persönlichen Tarifen Google AI Pro und Ultra offen. Die Auslieferung an berechtigte Kundschaft beginnt sofort, erreichbar ist das Werkzeug unter pics.new.

Bericht

Nach dem Beitrag im Workspace-Blog erzeugt Google Pics Bilder aus Textanweisungen und bietet dazu Alternativvorschläge an. An Bearbeitungsfunktionen nennt der Beitrag das Bearbeiten einzelner Bildgegenstände, das Ändern, Umformatieren und Übersetzen von Text im Bild, das Zuschneiden auf Formate für Web, soziale Netze, Druck und digitale Anzeigen sowie das Hochrechnen auf 2K oder 4K. Die Bearbeitung ist unmittelbar in Docs und Slides möglich, die Zusammenarbeit funktioniert wie in den übrigen Workspace-Anwendungen, die Ablage läuft über Google Drive. TechCrunch nennt am 01.09.2026 als Bildmodell Nano Banana und ordnet das Werkzeug ausdrücklich als Antwort auf Canva ein; nach demselben Bericht kommt die Einbettung in Docs und Slides in den nächsten Wochen, die Erweiterung auf Drive später. Angaben zu Preisen über die Tarifzuordnung hinaus, zu Regionen, zu unterstützten Sprachen und zu Steuerungsmöglichkeiten für Verwaltende enthält der Blogbeitrag nicht. Ob erzeugte Bilder eine Kennzeichnung wie SynthID tragen, sagt der Beitrag ebenfalls nicht, und keine der geprüften Quellen beantwortet diese Frage.

Einordnung

Für Ingos Kundschaft ist das weniger eine Produktmeldung als eine Kostenfrage. [Schlussfolgerung] Viele kleine Betriebe zahlen heute Canva zusätzlich zu Workspace, und Google Pics deckt einen Teil dessen ab, wofür Canva gekauft wurde, ohne zusätzliche Lizenz. Die Rechnung geht aber nur auf, wenn die fehlenden Angaben geklärt sind: Ohne Aussage zur Kennzeichnung erzeugter Bilder lässt sich die Pflicht aus der KI-Verordnung nicht sauber erfüllen, und ohne Steuerungsmöglichkeit für Verwaltende ist nicht regelbar, wer im Haus Bilder erzeugen darf. Die zweite Seite betrifft die Bildpolitik: Wer künftig Werbebilder aus einer Textanweisung erzeugt, landet bei der Kennzeichnungsfrage, die Instagram seit dem 31.08.2026 mit Reichweitendrosselung durchsetzt.

Quellen

Auf dem RadarAnthropicDatenschutzneu

Anthropic bietet Nullaufbewahrung künftig nur mit Überwachung im eigenen Cloud-Konto der Kundschaft

Anthropic hat am 01.09.2026 Enterprise Frontier Safeguards angekündigt. Die Überwachungsdaten, die der Anbieter für die Missbrauchserkennung braucht, liegen dabei im Cloud-Konto der Kundschaft statt bei Anthropic. Der Rollout beginnt in Stufen im Herbst 2026, der Zugang läuft über einen Antrag, eine Gebühr erhebt Anthropic dafür nicht.

Bericht

Nach der Anbietermeldung speichern Kunden die Daten in eigenen Konten bei Amazon S3, Azure Blob Storage oder Google Cloud Storage und können eigene Schlüssel zur Verschlüsselung verwenden. Die Auswertung läuft vollständig maschinell, eine Durchsicht durch Beschäftigte von Anthropic ist nicht vorgesehen; erkannt werden nach der Meldung Muster über Sitzungen und Konten hinweg, darunter versuchte Angriffe und der Diebstahl von Zugangsdaten. Auffälligkeiten werden unmittelbar an die Kundschaft gemeldet, die dann selbst entscheidet. Unterstützt werden Claude Code, Claude Enterprise, die Claude-Plattform, Amazon Bedrock, die Claude-Plattform auf AWS, Googles Agentenplattform und Microsoft Foundry. Entwickelt wurde das Angebot nach der Meldung gemeinsam mit über 100 Unternehmenskunden aus Finanzwesen, Gesundheitswesen, Fertigung, Telekommunikation, Rechtsberatung, Handel und Verwaltung. Bis zum Start erhalten berechtigte Kunden Nullaufbewahrung für Claude Fable 5 und Fable 5.1. The Register hält am 02.09.2026 zwei Punkte fest, die in der Anbietermeldung nicht in dieser Deutlichkeit stehen: Vereinbarungen zur Nullaufbewahrung gibt es nicht selbsttätig, sondern nur auf Antrag, und für die gewöhnliche gewerbliche Nutzung der Schnittstelle bleibt es bei 30 Tagen Aufbewahrung. Nach demselben Bericht bleibt Mythos 5.1 unter den bisherigen Regeln, und an den Tarifen Free, Pro und Max ändert sich nichts. Kosten entstehen nur beim Cloudanbieter für Speicherung, Zugriffe und Datenausgang.

Einordnung

Der Vorgang ist ein Tausch, und er lohnt sich nur, wenn man beide Seiten sieht. [Schlussfolgerung] Anthropic gibt die Datenhoheit ab und behält die Missbrauchserkennung, die Kundschaft bekommt die Daten und dazu die Prüfpflicht. Genau darauf zielt die Überschrift von The Register: Es gibt keine automatische Bestätigung, dass tatsächlich nichts aufbewahrt wurde, das muss der Betrieb selbst nachweisen. Für Ingos Beratungspraxis ist das ein gutes Beispiel dafür, dass eine Zusage zur Nullaufbewahrung ohne Nachweisverfahren wenig wert ist. Bemerkenswert ist außerdem die Reihenfolge des Tages: Zuerst kommt ein Spitzenmodell, das Nullaufbewahrung ausschließt, und wenige Stunden später das Angebot, das die Lücke schließen soll, aber erst im Herbst ausgeliefert wird. Wer heute entscheidet, entscheidet also über einen Zustand, der in wenigen Monaten anders aussehen soll.

Quellen

Auf dem RadarAnthropicRechtUpdate

Anthropic öffnet die Erkennung seiner Textmarkierung für Aufsicht, Medien und Prüfstellen

Anthropic hat am 01.09.2026 eine Schnittstelle zur Erkennung seiner Textmarkierung in geschlossener Vorschau geöffnet. Zugang beantragen können unter anderem Aufsichtsbehörden, Strafverfolgung, Medien, Faktenprüfstellen, Forschende, Bildungseinrichtungen und Unternehmen mit Nachweispflichten. Die Wiedervorlage dazu war auf den 10.11.2026 gesetzt und ist damit vorzeitig eingetreten.

Bericht

Die neue Tatsache ist die Öffnung der Erkennung; die Markierung selbst war seit August 2026 bekannt. Nach der Anbieterseite tragen die Ausgaben von Claude Fable 5.1 eine unsichtbare numerische Markierung, die Anthropic ausdrücklich mit den Anforderungen der KI-Verordnung begründet, und die Erkennungsschnittstelle steht berechtigten Einrichtungen in geschlossener Vorschau offen. The Decoder beschreibt am 01.09.2026 das Verfahren als Weiterentwicklung des SynthID-Ansatzes für Text: Die Zufälligkeit bei der Wortwahl wird so gesteuert, dass ein statistisch erkennbares Muster entsteht, das nach Anbieterangabe auch einzelne Bearbeitungsschritte überstehen kann. Der Zugang wird nach demselben Bericht über ein Formular beantragt, eine Ausweitung ist angekündigt. Anthropic hält nach der Wiedergabe fest, dass die Markierung keine Nutzerdaten enthält und weder Textqualität noch Inhalt beeinflusst. Zahlen zur Trefferquote oder zur Rate falscher Treffer nennt keine der geprüften Quellen. Als Einwände führt The Decoder an, dass die Wortwahl unter der Markierung leiden könnte und dass eine erkennbare Spur dort Folgen hat, wo Verträge den Einsatz von KI untersagen oder wo über Honorare verhandelt wird. Angaben zu Preisen, zur Nachrüstung älterer Modelle und zur Verfügbarkeit im Europäischen Wirtschaftsraum fehlen.

Einordnung

Für den Weiterbildungsmarkt ist das die praktisch bedeutsamste Meldung des Tages, auch wenn sie technisch klein aussieht. [Schlussfolgerung] Bisher galt in Schulen, Hochschulen und Prüfungsausschüssen der Satz, dass sich KI-erzeugter Text nicht zuverlässig nachweisen lässt, und dieser Satz stimmt für die üblichen Erkennungsdienste weiterhin. Eine anbietereigene Markierung ist etwas anderes, weil sie nicht rät, sondern ein eingebautes Muster sucht. Das verschiebt die Debatte, löst sie aber nicht: Die Erkennung gilt nur für Texte aus einem einzigen Haus, sie ist nicht öffentlich zugänglich, und wer die Markierung umgehen will, nimmt ein anderes Modell. Für Ingos eigene Arbeit ist der Punkt heikel und gehört offen angesprochen: Wer Kundentexte mit Claude erstellt, liefert Material mit einer maschinell erkennbaren Herkunft.

Quellen

Auf dem RadarBundesregierung, BSI, BundesnetzagenturRegulierungneu

Der Bund gründet AISI Deutschland, BSI und Bundesnetzagentur bilden den Kern

Das Bundesministerium für Digitales und Staatsmodernisierung und das Bundesministerium des Innern haben AISI Deutschland gegründet, ein Institut für Sicherheit von KI mit Sitz in Berlin. In der ersten Phase bilden das BSI und die Bundesnetzagentur einen virtuellen Kern, das BSI für die Cybersicherheit, die Bundesnetzagentur für die Betriebssicherheit. Das Institut ist ausdrücklich keine Regulierungsbehörde.

Bericht

Die Pressemitteilung des BMDS trägt das Datum 31.08.2026, die Fachberichterstattung setzte am 01.09.2026 ein. Nach der Mitteilung bewertet das Institut Chancen und Risiken leistungsfähiger KI-Modelle, stärkt die Widerstandsfähigkeit, gibt sicherheitsrelevante Erkenntnisse an Staat und Zivilgesellschaft weiter und berät die Bundesregierung technisch und strategisch. Für die zweite Phase ist eine thematische und personelle Erweiterung angekündigt, ein Termin dafür steht nicht in der Mitteilung. Die Themenseite des BSI beschreibt das Institut als analytisch-operatives Kompetenzzentrum, das sich derzeit noch im Aufbau befindet und sich zunächst an Verwaltung und Politik richtet; Angebote für eine breitere Zielgruppe seien in Planung. Ein Kontaktformular ist dort eingerichtet, unter anderem für Kooperationsanfragen und für Fragen zu KI-Modellen. Nach der Wiedergabe im Linux-Magazin vom 01.09.2026 untersucht das Institut führende KI-Modelle vor allem auf Fähigkeiten und Bedrohungen im Cyberbereich sowie auf Risiken eines Kontrollverlusts und steht im fachlichen Austausch mit Frankreich, dem Vereinigten Königreich und dem EU AI Office. Angaben zu Haushalt und Personalstärke enthält keine der geprüften Quellen. Einen Bezug zur KI-Verordnung oder Pflichten für Unternehmen stellt die Mitteilung nicht her.

Einordnung

Der Vorgang ist für Betriebe heute folgenlos und für Beratungsgespräche trotzdem wichtig. [Schlussfolgerung] Deutschland hat damit dieselbe Struktur wie Großbritannien und Frankreich, und in der Beratung wird die Frage kommen, ob es sich um eine weitere Aufsicht handelt. Die Antwort steht in der Sache: Das Institut prüft Modelle und berät die Regierung, die Marktüberwachung nach der KI-Verordnung bleibt bei der Bundesnetzagentur. Dass dieselbe Behörde in beiden Rollen vorkommt, wird diese Abgrenzung nicht leichter machen. Aufschlussreich ist die Wortwahl in der Aufgabenbeschreibung: Risiken eines Kontrollverlusts stehen in einer Behördenmitteilung, nicht in einem Forschungspapier. Wer im Herbst mit Kundschaft über Risikoklassen spricht, wird an diesem Institut vorbeikommen müssen.

Quellen

Auf dem RadarMETRSicherheitneu

Gestohlener Schlüssel bei METR: 600.000 US-Dollar Guthaben, drei Wochen unbemerkt

Die Prüforganisation METR hat einen Sicherheitsbericht über zwei Vorfälle des Jahres 2026 veröffentlicht. Im März kam ein Angreifer über eine schlecht abgesicherte Testanwendung an einen Schnittstellenschlüssel und verbrauchte damit Modellguthaben im Wert von rund 600.000 US-Dollar, drei Wochen lang unbemerkt. Im Mai kam eine systematische Abtastung der Infrastruktur hinzu, dazu ein Fehler in einer öffentlichen Ansicht.

Bericht

Nach dem Bericht von METR hatte eine forschende Person Agenten auf einer öffentlich erreichbaren EC2-Instanz betrieben. Die Anmeldung war zwar hinter eine Google-Anmeldung gelegt, ein Fehler schaltete den Schutz aber im Fehlerfall ab statt zu sperren. Der Angreifer fand die Instanz nach Einschätzung von METR über Zertifikatsprotokolle, in denen sich neu eingetragene Adressen mit einschlägigen Stichwörtern finden lassen, brachte den Agenten dazu, den Schlüssel preiszugeben, und richtete sich anschließend über SSH dauerhaft ein. METR nennt drei Gründe, warum der Verbrauch nicht auffiel: Große Token-Mengen sind bei einer Prüforganisation der Normalfall, das Guthaben war gestiftet und löste deshalb keine Rechnungswarnung aus, und für den betroffenen Schlüssel ließ sich keine Ausgabengrenze setzen. Nach der Entdeckung wurden Zugänge entzogen, Systeme gesichert, Zugangsdaten gewechselt, Regeln für den Umgang mit Zugangsdaten festgeschrieben, ein Prüfverfahren für öffentliche Bereitstellungen eingeführt und Ausgabenwarnungen eingerichtet. Der zweite Vorfall im Mai betraf eine automatisierte Abtastung der Infrastruktur sowie einen Fehler in der öffentlichen Ansicht für Prüfprotokolle, über den unveröffentlichte Auswertungsdaten hätten sichtbar werden können; entdeckt und gemeldet wurde er von einer unabhängigen forschenden Person, Hinweise auf eine Ausnutzung gibt es nach METR nicht. The Register ordnet den Vorgang am 01.09.2026 mit dem Hinweis ein, dass ein zahlender Kunde den Schaden selbst getragen hätte. Den Namen des Modellanbieters nennt keine der beiden Quellen.

Einordnung

Der Fall ist deshalb wertvoll, weil er kein KI-Problem ist, sondern ein Schlüsselproblem, und weil er einer Organisation passiert ist, deren Beruf die Prüfung von KI-Sicherheit ist. [Schlussfolgerung] Die drei Gründe für das Ausbleiben der Entdeckung sind eins zu eins auf Betriebe übertragbar: Ein hoher Verbrauch fällt nicht auf, wenn ohnehin viel verbraucht wird; eine Rechnungswarnung greift nicht, wenn nicht abgerechnet wird, etwa in Test- und Freikontingenten; und eine Ausgabengrenze schützt nur, wenn sie sich für den betroffenen Schlüssel überhaupt einstellen lässt. Der Weg über die Zertifikatsprotokolle ist der zweite lehrreiche Punkt: Jede neu eingetragene Adresse ist öffentlich sichtbar, eine schnell zusammengesetzte Testanwendung ist deshalb binnen Stunden auffindbar. Das ist genau das Muster, das entsteht, wenn Fachabteilungen mit KI-Unterstützung eigene kleine Anwendungen bauen und ins Netz stellen.

Quellen

NotiertGoogleRechtneu

AlgorithmWatch: Googles KI-Übersichten zu Wahlen sind undurchsichtig und stützen sich auf wenige Quellen

Der Verein AlgorithmWatch hat am 01.09.2026 eine Untersuchung zu Googles KI-Übersichten bei wahlbezogenen Suchanfragen veröffentlicht. Grundlage sind 4.480 Suchanfragen aus dem Juli 2026 zu den Landtagswahlen in Sachsen-Anhalt und Mecklenburg-Vorpommern sowie zur Wahl des Berliner Abgeordnetenhauses. Der Zugang zu den Daten kam über Artikel 40 Absatz 12 des Digital Services Act zustande.

Bericht

Nach der Veröffentlichung von AlgorithmWatch wertete die Untersuchung Suchanfragen, die dazu erzeugten KI-Übersichten und deren Quellen aus. Die Zusammenfassung von The Decoder vom 01.09.2026 nennt die Zahlen: KI-Übersichten erschienen bei 39,1 Prozent der wahlbezogenen Anfragen gegenüber 65,3 Prozent bei unpolitischen Anfragen; bei Fragen zur AfD lag der Anteil bei 24 Prozent gegenüber 45 bis 58 Prozent bei anderen Parteien; knapp die Hälfte aller angeführten Verweise stammte aus nur zehn Adressbereichen, wobei YouTube bei Kandidatenfragen am häufigsten vorkam; und 81,5 Prozent der Übersichten zur CDU verwendeten eine positive Sprache gegenüber 0 Prozent bei der AfD. Beschreibungen derselben Person fielen nach demselben Bericht innerhalb kurzer Zeiträume unterschiedlich aus. Google erklärte nach der Wiedergabe, die Funktionen seien auf Neutralität und Sachlichkeit angelegt, wollte die Kriterien für das Erscheinen einer Übersicht aber nicht erläutern und ließ offen, ob die Beschränkungen aus dem Jahr 2024 für Wahlfragen noch gelten. Der Zugang über den Digital Services Act ist selbst ein Ergebnis: Ohne die dort geregelte Datenfreigabe für geprüfte Forschende wäre die Untersuchung nicht möglich gewesen.

Einordnung

Für Ingos Seminarpraxis ist das seltenes Material, weil es deutschsprachig, datiert und mit Zahlen unterlegt ist. [Schlussfolgerung] Die verwertbare Aussage ist nicht der Vorwurf einer politischen Schlagseite, den die Untersuchung so nicht belegt, sondern die Quellenkonzentration: Wenn knapp die Hälfte der Verweise aus zehn Adressbereichen kommt und YouTube bei Personenfragen dominiert, dann ist eine KI-Übersicht keine Zusammenfassung des Netzes, sondern die Zusammenfassung einer sehr kleinen Auswahl daraus. Das ist der Punkt, an dem in Schulungen die Quellenkritik ansetzt, und er gilt für Produktrecherchen genauso wie für Wahlfragen. Der zweite verwertbare Punkt betrifft die Regulierung: Hier hat der Datenzugang aus dem Digital Services Act zum ersten Mal einen nachprüfbaren Befund über ein KI-Produkt hervorgebracht, und genau dieser Zugang gehört zu den Pflichten, die aus der Benennung von ChatGPT vom 31.08.2026 folgen.

Quellen

Nicht aufgenommen

Mehrere Vorgänge des Fensters sind geprüft und bewusst nicht erfasst. Der Bericht von Axios über das zurückgenommene Training bei Anthropic und die Berichte über die Werbeeinnahmen von OpenAI wiederholen die Meldungen 4 und 3 aus dem Briefing vom 01.09.2026 ohne neue Tatsache; eine reine Zunahme an Berichterstattung ist nach den Delta-Regeln kein Delta. Die Bestandsaufnahme von TechCrunch zum Modell Astra von OpenAI bringt gegenüber dem Stand vom 19.08.2026 keinen neuen belegten Sachverhalt und läuft als Wiedervorlage zum 17.11.2026 weiter. Runway Solaris, ein System zur Erzeugung von Programmoberflächen in Echtzeit, wurde gesehen und nicht aufgenommen, weil weder Verfügbarkeit noch Preis noch ein Anwendungsfall für kleine und mittlere Betriebe belegt sind. Die Auswertung von VentureBeat zu Modellen, die vergessene Fakten durch längeres Nachdenken teilweise zurückgewinnen, ist Forschung ohne unmittelbaren Praxisbezug. Der ausgenutzte Fehler in Artifactory betrifft ein Werkzeug, das die Quellenmatrix nicht führt und das im Mittelstand selten eigenständig betrieben wird. Die Bewertung von AfterQuery mit 3,2 Milliarden US-Dollar sowie die Finanzierungsrunden von Empirik über 21 Millionen und AIR über 50 Millionen US-Dollar sind Finanzthemen ohne Produktfolge. Der Rechtsstreit zwischen Apple und OpenAI um einen früheren Mitarbeiter ist ein Einzelfall ohne Richtungswechsel.

Zum aktuellen Briefing