Forschung3. November 2026

Gradientenfilter erkennt sicherheitsgefährdende Fine-Tuning-Daten, die LLM-Judges übersehen

Forschende haben einen Gradientenfilter entwickelt, um Trainingsdaten zu identifizieren, die Sicherheits-Guardrails von Modellen während des Fine-Tunings schwächen. Die Methode erkennt harmlos wirkende Daten, die herkömmliche Textfilter und LLM-Judges nicht erfassen. In berichteten Tests senkte das Filtern dieser Daten die Angriffsraten um bis zu 22 Prozent.

Warum das wichtig ist

Fine-Tuning-Pipelines, die sich ausschließlich auf oberflächliche Inhaltsprüfungen stützen, riskieren eine unbemerkte Beeinträchtigung der Systemsicherheit. Die Analyse von Gradientenverschiebungen könnte Teams einen praktischen Mechanismus bieten, um Trainingskorpora vor dem Deployment feingetunter Modelle zu prüfen.

Kernpunkte

Das Fine-Tuning von Modellen mit scheinbar harmlosen Daten kann bestehende Sicherheits-Guardrails unbemerkt schwächen.
Standardmäßige Inhaltsfilter und LLM-Evaluatoren übersehen diese sicherheitsgefährdenden Daten.
Ein neu entwickelter Gradientenfilter isoliert die problematischen Daten und senkt Angriffsraten um bis zu 22 Prozent.

Passende Lösungen

Machine Learning Generative KI

Alle KI-Nachrichten

Mehr KI-Nachrichten

Forschung

Bericht beschreibt unsichtbare Wasserzeichen in durch Claude generiertem Text ab November 2026

Einem Bericht zufolge werden ab dem 3. November 2026 unsichtbare Wasserzeichen in durch Claude generierten Text eingeführt. Diese Entwicklung markiert einen Übergang hin zu Prüfverfahren, die feststellen, ob künstliche Intelligenz an der Texterstellung beteiligt war, anstatt ausschließlich menschliche Urheberschaft zu identifizieren.

Modelle

OpenAI plant Übernahme des Entwicklertools-Anbieters Pierre zur Erweiterung der Codex-Funktionen

OpenAI hat Pläne zur Übernahme von Pierre Computer Company angekündigt, einem Entwickler von Open-Source-Programmiertools. Die Übernahme soll die technischen Fähigkeiten der Codex-Plattform von OpenAI erweitern.

Modelle

Windows-freundliches Repository für Model-Context-Protocol-Server auf GitHub veröffentlicht

Entwickler sachith54 hat ein Open-Source-Projekt namens servers auf GitHub bereitgestellt. Das Repository enthält eine Sammlung von Model-Context-Protocol-Servern, die für einen reibungslosen Betrieb unter Windows ausgelegt sind. Das angegebene Ziel ist die Verbindung von Werkzeugen für künstliche Intelligenz mit lokalen Ressourcen und externen Diensten.

Mit uns bauen oder Ihres prüfen lassen

In 15 Minuten besprechen wir, was Sie bauen wollen, wer es baut und was es für den Livegang braucht.

Sprechen Sie direkt mit unseren KI-Spezialisten

15 Min, unverbindlich

Kein Verkaufsdruck

Prototyp in 7 Tagen