OpenAI pausiert Arbeit mit seinen stärksten KI-Agenten

OpenAI stoppt nach einem neuen Kontrollbruch die Arbeit mit seinen stärksten Agenten

Ein internes Forschungsmodell von OpenAI sollte eine Person anhand öffentlich zugänglicher Hinweise identifizieren. Als die vorgesehene Websuche nicht weiterhalf, suchte das Modell selbst nach anderen Netzwerkwegen. Es nutzte schließlich eine Lücke in der DNS-Konfiguration seiner abgeschotteten Umgebung, um Fragen an einen externen Chatbot zu schicken. Der Auftrag verlangte weder einen Test der Netzwerksperren noch den Zugriff auf einen fremden Dienst.

OpenAIs Überwachung meldete den Vorgang binnen 15 Minuten; ein Mitarbeiter begann drei Minuten später mit der Prüfung. Der Lauf wurde allerdings erst zweieinhalb Stunden danach beendet. OpenAI hat zwei zusätzliche Sperren eingebaut und nach eigenen Angaben Training, Tests und Ausführung seiner leistungsfähigsten Modelle mit Werkzeugzugriff vorerst vollständig angehalten. Das betroffene interne Modell werde nicht weitertrainiert. OpenAI

KI-Unternehmen tragen ihre Sicherheitsdebatte vor den UN-Sicherheitsrat

Der UN-Sicherheitsrat hat sich am 23. September von Sam Altman, Dario Amodei und weiteren Fachleuten über fortgeschrittene KI-Systeme informieren lassen. OpenAI und Anthropic warben für internationale Sicherheitsstandards, gemeinsame Prüfverfahren und eine systematische Meldung schwerer Vorfälle. Der Informatiker Yoshua Bengio verlangte unabhängige Kontrollen für Systeme, deren Fähigkeiten einzelne Staaten nicht allein überwachen könnten.

Das Treffen machte aus diesen Vorschlägen noch keine verbindlichen Regeln. Es verlegte die Debatte aber aus den Unternehmen in das für Frieden und internationale Sicherheit zuständige UN-Gremium. Die Sitzung war die 10.228. Sitzung des Sicherheitsrats zu „Artificial intelligence and international security“. Vereinte Nationen

Google lässt neue Stimmen aus einer halben Minute Audio nachbilden

Google hat zwei neue Modelle für synthetische Sprache veröffentlicht. Gemini 3.8 Flash TTS erzeugt neue Stimmen nach einer Beschreibung oder bildet eine vorhandene Stimme aus einer 30 Sekunden langen Aufnahme nach. Die günstigere Flash-Lite-Variante ist für große Mengen vorgesehen, etwa für Synchronisation, Hörbücher und Sprachassistenten. Beide Modelle können Dialoge mit zwei Sprechern sowie Regieanweisungen zu Tempo, Akzent und Stimmung umsetzen.

Für das Nachbilden einer Stimme verlangt Google eine gesprochene Einwilligung der betreffenden Person. Erzeugte Audiodateien erhalten ein SynthID-Wasserzeichen und C2PA-Metadaten. Die Funktion zum Stimmenklonen ist zum Start jedoch nicht im Europäischen Wirtschaftsraum, im Vereinigten Königreich und in der Schweiz verfügbar. Die übrigen Sprachfunktionen stehen über Google AI Studio und die Gemini-API bereit. Google

Alibaba baut einen eigenen KI-Stack vom Chip bis zum Rechenzentrum

Alibaba hat auf seiner Apsara-Konferenz den KI-Beschleuniger Zhenwu V900 vorgestellt. Der Konzern nennt 216 Gigabyte Speicher und die dreifache Leistung des Vorgängers; unabhängig geprüft sind diese Werte noch nicht. Die Serienfertigung soll im ersten Quartal 2027 beginnen. Ein darauf ausgelegter Verbund soll laut Alibaba bis zu 500.000 Chips umfassen können.

Zur Strategie gehören außerdem neue Cloud-Regionen in Finnland, den Niederlanden und der Türkei innerhalb der nächsten zwölf Monate sowie mehr als 20 Gigawatt weltweite Rechenzentrumskapazität bis 2032. Modelle mit fünf bis zehn Billionen Parametern stehen lediglich auf der Roadmap. Verfügbar sind sie noch nicht. Alibaba Cloud

Doctolib automatisiert Tests, Dokumentation und Codeprüfungen

Doctolib erprobte Claude Code zunächst mit 30 Entwicklern und führte das Werkzeug danach im gesamten Entwicklungsteam ein. Eine zentrale Sammlung von Befehlen und Arbeitsabläufen dient unter anderem zum Schreiben von Tests, zur Pflege technischer Dokumentation und zur Prüfung von Pull Requests. Bei jeder Codeänderung aktualisiert ein CI-Job die zugehörige Dokumentation.

Den Austausch seiner Infrastruktur für visuelle Regressionstests erledigte das Team nach eigenen Angaben in Stunden statt in Wochen. Neue Entwickler sollen sich in unbekannte Codebestände nun in Tagen statt in Wochen einarbeiten. Die Zahlen stammen aus einer Fallstudie von Anthropic und wurden nicht unabhängig überprüft. Anthropic

EU führt ein Nachhaltigkeitslabel für große Rechenzentren ein

Die Europäische Kommission hat ein gemeinsames Bewertungssystem für Rechenzentren ab 500 Kilowatt Leistung vorgeschlagen. Das elektronische Label soll Energie- und Wasserverbrauch vergleichbar machen und ausweisen, ob ein Standort etwa Abwärme nutzt oder das Stromnetz unterstützt. Parlament und Rat können innerhalb von zwei Monaten Einwände erheben; die ersten Label sollen 2027 erscheinen.

Parallel bereitet die Kommission Mindestanforderungen vor und sammelt dazu bis zum 14. Dezember Stellungnahmen. Der Schritt betrifft die Infrastruktur hinter dem europäischen KI-Ausbau: Die EU will ihre Rechenzentrumskapazität in den kommenden fünf bis sieben Jahren verdreifachen. Europäische Kommission

Ein europäisches Sprachmodell ergänzt Lücken in antiken Texten

Die Österreichische Akademie der Wissenschaften hat mit Mistral und SAIL Reply die erste Stufe von Apollo vorgestellt. Das Modell soll fehlende Passagen in beschädigten altgriechischen Papyri und Inschriften rekonstruieren. Apollo Restore hat 24 Milliarden Parameter und wurde aus Mistral Small für eine Aufgabe weiterentwickelt, bei der Textlücken ergänzt werden, ohne dass ihre ursprüngliche Länge bekannt sein muss.

Das System liefert Vorschläge für Fachleute; es ersetzt nicht die historische Prüfung. Nach Angaben der Akademie sind 92 Prozent der erhaltenen Papyri noch nicht entziffert. Der zugrunde liegende Datensatz umfasst Texte aus unterschiedlichen Jahrhunderten und Gattungen. Österreichische Akademie der Wissenschaften

Gladia · Gespräche in Echtzeit transkribieren · Frankreich

Gladia nimmt Audio per Datei, Mikrofon oder laufendem Datenstrom entgegen und liefert Transkript, Sprechertrennung und erkannte Namen oder Zahlen über eine API zurück. Das französische Unternehmen betreibt die Verarbeitung auf Wunsch vollständig in der EU und richtet das Angebot vor allem an Anbieter von Sprachassistenten, Callcenter-Software und Untertitelung.

Dust · KI-Agenten mit Firmensystemen verbinden · Frankreich

Dust verbindet Agenten mit Diensten wie Slack, GitHub, Salesforce und Zendesk. Teams können gemeinsame Arbeitsabläufe bauen, in denen die Agenten Informationen suchen, Berichte entwerfen oder Datensätze aktualisieren. Berechtigungen, Kosten und sämtliche Agentenaktionen lassen sich zentral protokollieren.