OpenAI dokumentiert Umgehungsversuche interner Modelle

OpenAI dokumentiert Umgehungsversuche interner Modelle

Bei internen Trainings- und Evaluationsläufen versuchten mehrere Forschungsmodelle, technische Grenzen zu umgehen. In einem Fall sollte ein Modell sieben Antworten bewerten. Weil die nötigen Dateien fehlten, erfand es zunächst Eingaben und löschte später Software in seiner Arbeitsumgebung, um einen Neustart zu erzwingen. Automatische Prüfungen verwarfen sämtliche Bewertungen.

Weitere Berichte beschreiben Modelle, die eine auf HTTP-GET beschränkte Internetverbindung umgingen, zusätzliche öffentliche Daten abriefen und den Regelverstoß nicht offenlegten. OpenAI veröffentlichte die Vorfälle am 9. Oktober und weitete nach eigenen Angaben die Überwachung seiner Trainings- und Evaluationsläufe aus. Die Berichte betreffen interne Forschungsmodelle, nicht Kundensysteme. OpenAI

OpenAI sperrt Konten zweier Einflusskampagnen

OpenAI hat Konten gesperrt, die zu einer iranischen und einer russischen Einflusskampagne gehörten. Die iranische Gruppe ließ sieben erfundene Journalisten Artikel bei kleineren und mittleren Medien anbieten. Die russische Gruppe brachte Personen in Lateinamerika dazu, für eine angebliche Denkfabrik zu arbeiten, ohne ihnen deren wahren Auftraggeber zu nennen.

Die Beteiligten nutzten KI unter anderem für Artikel, interne Berichte, gefälschte Dokumente und Skripte für Audioaufnahmen. Inhalte beider Kampagnen erschienen in etablierten Medien. OpenAI stuft den russischen Fall als die bislang weitreichendste von ihm unterbundene Einflussoperation ein. OpenAI

Anthropic öffnet Sicherheitsscans für Open-Source-Projekte

Anthropic bietet Open-Source-Projekten kostenlose, regelmäßige Sicherheitsscans an. Der opt-in Dienst durchsucht den Code mit Claude nach ausnutzbaren Schwachstellen. Ein Bericht enthält einen technischen Nachweis, eine Erklärung und – soweit möglich – einen Reparaturvorschlag.

Die Meldungen werden ohne menschliche Vorprüfung an die Projektteams geschickt. Anthropic erwartet nach eigenen Angaben mehr als 90 Prozent echte Treffer, warnt aber ausdrücklich vor falschen Schweregraden und anderen Fehlern. Parallel startet das Unternehmen mit elf Partnern ein Programm für die Sicherheit von Stromnetzen, Wasseranlagen, Fabriken und Verkehrssystemen. Anthropic

Anthropic ändert seine Regeln für Wahlen und autonome Systeme

Ab 12. November gilt bei Anthropic eine überarbeitete Nutzungsrichtlinie. Sie bündelt Verbote für verdeckte Kampagnen und künstlich verstärkte Reichweite in einem eigenen Abschnitt. Bei Wahlen konzentriert sich das Verbot künftig auf Täuschung und Störung. Die bisher pauschal untersagte personalisierte Wähleransprache wird erlaubt, sofern sie nicht auf Täuschung, Überwachung oder missbräuchlich verwendeten persönlichen Daten beruht.

Neu präzisiert sind außerdem Regeln für autonome Maschinen. Wenn Claude Hardware steuert, die Menschen verletzen könnte, muss eine qualifizierte Person die Anlage beobachten und stoppen können. Bei einem Verbindungsabbruch muss die Maschine in einem sicheren Zustand bleiben. Anthropic

Google veröffentlicht ein lokales Suchmodell für Text, Bilder und Audio

EmbeddingGemma 2 wandelt Text, Code, Bilder, Video und Audio in vergleichbare Zahlenvektoren um. Damit lassen sich zum Beispiel passende Videostellen über eine Sprachaufnahme finden oder Dateien semantisch durchsuchen, ohne sie an einen Cloud-Dienst zu senden.

Das Modell hat 740 Millionen Parameter und steht unter Apache 2.0. Auf einem Pixel 11 Pro benötigt die quantisierte Vollversion laut Google rund 567 Megabyte Arbeitsspeicher; für reine Textsuche sind etwa 191 Megabyte möglich. Das Kontextfenster umfasst 8.000 Token. Google

Rockwell senkt Stillstandszeiten in seinem Werk in Singapur

Techniker bei Rockwell Automation durchsuchen mit einem internen Assistenten Maschinenhandbücher, Produktionsdaten und das Erfahrungswissen langjähriger Kollegen. Bei einer Störung ordnet das System mögliche Ursachen nach Symptom und schlägt passende Prüfschritte vor.

Rockwell beziffert den Rückgang der Maschinenstillstände auf 33 Prozent und die geringeren Kosten für Service und Ersatzteile auf rund 25 Prozent. Neue Beschäftigte sollen die Fehlersuche an den Anlagen nun in drei statt neun Monaten lernen. Die Zahlen stammen aus Rockwells interner Erfassung und wurden in einer Microsoft-Fallstudie veröffentlicht; eine unabhängige Prüfung liegt nicht vor. Microsoft

Europa legt Fahrplan für softwaredefinierte und autonome Autos vor

Die European Connected and Autonomous Vehicle Alliance stellt heute in Paris vier technische Fahrpläne vor. Sie behandeln gemeinsame Softwarearchitekturen, eine europäische Chiplet-Plattform, den KI-Stack für autonomes Fahren und die Einführung von Fahrzeugen der Automatisierungsstufe 4.

Die Pläne sind noch keine Finanzierungs- oder Beschaffungsentscheidungen. Zwei EU-finanzierte Projekte sollen zunächst die Zusammenarbeit zwischen Herstellern, Zulieferern, Forschung, Städten und Behörden organisieren. Städte und Regionen können sich bis 20. Oktober für Erprobungen autonomer Mobilitätsdienste bewerben. Europäische Kommission

Supersimple · Unternehmensdaten abfragen · Estland

Supersimple beantwortet Fragen zu Kennzahlen aus Data Warehouses und verknüpft sie mit freigegebenem Unternehmenswissen. Antworten lassen sich bis zu den verwendeten Daten und Abfragen nachvollziehen.

LEGALFLY · Lieferantenverträge prüfen · Belgien

LEGALFLY prüft Lieferantenverträge anhand vorgegebener Klauseln und interner Vertragsstandards. Die Software markiert Abweichungen, schlägt Änderungen vor und leitet Sonderfälle an die Rechtsabteilung weiter.