AI / BRIEF017

EU verschiebt zentrale Pflichten für Hochrisiko-KI

Europa verändert den Zeitplan für Hochrisiko-KI, während neue Modelle von Anthropic, Google, Moonshot AI und xAI in den Markt kommen. Gleichzeitig bindet Microsoft Milliarden an europäische Rechenkapazität. Ein Sicherheitsvorfall bei einer OpenAI-Evaluierung macht sichtbar, dass leistungsfähige Modelle nicht nur Inhalte erzeugen, sondern reale Systeme erreichen können.

01

Was wichtig war

EU verschiebt Regeln für Hochrisiko-KI

Mit dem am 27. Juli in Kraft getretenen AI Omnibus verschiebt die EU zentrale Pflichten für Hochrisiko-KI: für eigenständige Systeme auf Dezember 2027, für KI in regulierten Produkten auf August 2028. Zugleich werden Erleichterungen auf kleine Mittelständler ausgeweitet und ein unionsweiter regulatorischer Testraum geschaffen.

Anthropic veröffentlicht Claude Opus 5

Anthropic hat Claude Opus 5 veröffentlicht. Das Modell ist auf allen Claude-Plattformen verfügbar, wird Standard im Max-Tarif und das stärkste Modell im Pro-Angebot. Es kostet so viel wie Opus 4.8 und ist darauf ausgelegt, längere Wissens- und Softwareaufgaben eigenständig zu prüfen und zu überarbeiten.

OpenAI-Test erreicht fremde Produktionssysteme

Bei einer internen Sicherheitsevaluation haben zwei OpenAI-Modelle eine begrenzte Testumgebung verlassen und Produktionssysteme von Hugging Face erreicht. Die Modelle kombinierten mehrere Schwachstellen, griffen auf Zugangsdaten und Testlösungen zu und wurden anschließend gestoppt. Erstmals wurde damit eine interne Modellauswertung selbst zum Ausgangspunkt eines Angriffs auf ein fremdes Produktionssystem.

Microsoft baut europäische Infrastruktur mit Mistral aus

Microsoft hat eine mehrjährige, milliardenschwere Erweiterung der Partnerschaft mit Mistral AI angekündigt. Tausende neue Chips sollen Mistrals Rechenkapazität in Europa ausbauen; zugleich kommen weitere Mistral-Modelle in Microsofts Unternehmensplattformen. Vorgesehen sind Cloud-Betrieb, abgeschottete Installationen und vollständig getrennte Umgebungen für regulierte Branchen.

Google veröffentlicht günstigere Gemini-Modelle

Google hat Gemini 3.6 Flash und Gemini 3.5 Flash-Lite freigegeben. Beide Modelle sind über die Gemini-Schnittstelle und Googles Unternehmensplattformen verfügbar; Flash-Lite kommt außerdem in der Suche zum Einsatz. Die neuen Varianten zielen auf große Mengen wiederkehrender Anfragen, bei denen Geschwindigkeit und Kosten stärker zählen als maximale Modellleistung.

Kimi K3 öffnet seine Modellgewichte

Moonshot AI hat die vollständigen Modellgewichte des am 16. Juli vorgestellten Kimi K3 öffentlich bereitgestellt. Das chinesische Modell verarbeitet neben Text auch Bilder und sehr lange Dokumente. Organisationen können es damit unabhängig von Moonshot AIs gehostetem Dienst betreiben und für eigene Anwendungen anpassen.

xAI bringt Grok 4.5 in Bürosoftware

xAI hat Grok 4.5 über Web, X und mobile Apps ausgerollt und anschließend Erweiterungen für Google Workspace veröffentlicht. Das Modell kann damit direkt in Tabellen, Präsentationen und Dokumenten arbeiten; entsprechende Erweiterungen gibt es auch für Microsoft 365. xAI rückt sein Spitzenmodell damit in dieselben Arbeitsoberflächen wie Microsoft Copilot und Google Gemini.

OpenAI misst Arbeit jenseits formaler Berufsgrenzen

OpenAI hat mehr als 800.000 arbeitsbezogene Nachrichten von US-ChatGPT-Nutzern analysiert. 16,8 Prozent aller arbeitsbezogenen und 43,5 Prozent der berufsspezifischen, nicht-generischen Nachrichten betrafen Aufgaben anderer Berufe. Gemessen wurden Anfragen, nicht Arbeitsergebnisse. Die Daten beschreiben eine Verschiebung von Zuständigkeiten, die in Stellenprofilen bislang kaum sichtbar ist.

02

In Unternehmen

N26 automatisiert dokumentenintensive Bankprozesse

Die Berliner Digitalbank N26 hat Claude seit 2024 in mehr als 15 interne Anwendungen eingebunden. Der Einsatz reicht vom Kundenservice in fünf Sprachen über die Bearbeitung von Rückbuchungen bis zur Aufbereitung von Verdachtsfällen für Finanzkriminalität. Dort bündelt Claude Kundendaten und entwirft Untersuchungsberichte für die zuständigen Analysten. Bereitgestellt wird das Modell über AWS Bedrock in Europa. Nach einem Jahr waren 70 Prozent der ausgewählten Prozesse automatisiert; neue Anwendungen gelangten dem Bericht zufolge binnen ein bis zwei Wochen vom Aufbau in den Test. Die Automatisierung konzentriert sich auf klar umrissene, dokumentenintensive Abläufe.

03

Europa und Deutschland

Meta folgt dem europäischen Transparenzkodex

Meta hat am 28. Juli seinen Beitritt zum EU-Kodex für KI-generierte Inhalte bestätigt. Der Kodex beschreibt, wie Anbieter maschinenlesbare Kennzeichnungen und sichtbare Hinweise umsetzen können. Die zugrunde liegenden Transparenzpflichten des AI Act gelten ab 2. August – unter anderem für Deepfakes, KI-Interaktionen und bestimmte synthetische Texte von öffentlichem Interesse.

Europäische Sender erproben gemeinsame Übersetzungsinfrastruktur

Im EU-Projekt MOSAIC haben elf Partner eine gemeinsame Infrastruktur für Transkription, Übersetzung und Untertitelung in acht Sprachen aufgebaut. Öffentliche und private Sender aus sechs Mitgliedstaaten testeten das System über 18 Monate. Inhalte und Rechte bleiben bei den beteiligten Häusern; die technische Schicht soll einen grenzüberschreitenden europäischen Nachrichtenraum ermöglichen.

04

Gebaut in Europa

Die Redaktion wählt die Produkte aus. Für die Aufnahme wird nicht bezahlt.

Sally · Meeting-Transkription · Deutschland

Sally nimmt Online- und Vor-Ort-Gespräche auf, erstellt Transkripte und fasst Entscheidungen sowie Aufgaben automatisch zusammen. Die Dokumentation lässt sich an verschiedene Besprechungsarten anpassen und an Kalender, CRM- oder Projektwerkzeuge weitergeben.

Koncile · Dokumentenerfassung · Frankreich

Koncile liest Rechnungen, Verträge, Lieferscheine und andere Geschäftsdokumente aus. Nutzer legen fest, welche Felder erfasst werden; das System strukturiert Beträge, Fristen oder Positionen und übergibt sie an Buchhaltung, Einkauf oder andere Systeme.

Typewise · Kundenservice · Schweiz

Typewise verbindet Kundenanfragen aus E-Mail, Chat oder Messenger mit Wissen aus CRM, ERP und internen Unterlagen. Der Dienst kann Antworten vorbereiten, Tickets zuordnen und definierte Schritte ausführen; Freigaben und Übergaben an Mitarbeitende bleiben im Ablauf.