Onderzoek3 november 2026

Gradiëntfilter detecteert veiligheidsondermijnende fine-tuningdata die LLM-beoordelaars missen

Onderzoekers hebben een gradiëntfilter ontwikkeld om trainingsvoorbeelden te identificeren die de veiligheidswaarborgen van modellen tijdens fine-tuning verzwakken. De methode detecteert ogenschijnlijk onschadelijke data die standaard tekstfilters en LLM-beoordelaars niet opmerken. In gerapporteerde tests verlaagde het filteren van deze data het percentage geslaagde aanvallen met maximaal 22%.

Waarom het ertoe doet

Fine-tuning-pipelines die uitsluitend vertrouwen op oppervlakkige contentevaluatie lopen het risico de systeemveiligheid ongemerkt in gevaar te brengen. Het analyseren van gradiëntverschuivingen kan teams een praktisch mechanisme bieden om trainingscorpora te controleren voordat ze gefinetunede modellen implementeren.

Kernpunten

Het finetunen van modellen op ogenschijnlijk onschadelijke data kan bestaande veiligheidswaarborgen ongemerkt aantasten.
Standaard contentfilters en LLM-beoordelaars missen deze veiligheidsondermijnende voorbeelden.
Een nieuw ontwikkeld gradiëntfilter isoleert de problematische data en verlaagt het percentage geslaagde aanvallen met maximaal 22%.

Gerelateerde oplossingen

Machine Learning Generatieve AI

Al het AI-nieuws

Meer AI-nieuws

Onderzoek

Rapport beschrijft onzichtbare watermerken in door Claude gegenereerde tekst vanaf november 2026

Een rapport meldt dat vanaf 3 november 2026 onzichtbare watermerken worden toegevoegd aan door Claude gegenereerde tekst. Deze ontwikkeling markeert een overgang waarbij verificatie zich richt op de vraag of kunstmatige intelligentie betrokken was bij het opstellen van inhoud, in plaats van uitsluitend menselijk auteurschap vast te stellen.

Modellen

OpenAI neemt ontwikkelaarstoolsbedrijf Pierre over om Codex-mogelijkheden uit te breiden

OpenAI heeft plannen aangekondigd om Pierre Computer Company over te nemen, een bedrijf dat open-source codeertools bouwt. De overname is bedoeld om de technische mogelijkheden van het Codex-platform van OpenAI uit te breiden.

Modellen

Windows-vriendelijke Model Context Protocol-serverrepository gepubliceerd op GitHub

Ontwikkelaar sachith54 heeft een opensourceproject genaamd servers gedeeld op GitHub. De repository biedt een verzameling Model Context Protocol-servers die zijn ontworpen om soepel te werken op Windows-systemen. Het verklaarde doel is om kunstmatige intelligentie-tools te verbinden met lokale bronnen en externe diensten.

Bouw het met ons, of laat ons het jouwe nakijken

In 15 minuten bespreken we wat je wilt bouwen, wie het bouwt en wat er nodig is om live te gaan.

Praat direct met onze AI-specialisten

15 min, vrijblijvend

Geen verkooppraatje

Prototype in 7 dagen