Open source tool omzeilt het nieuwe watermerksysteem van Claude van Anthropic

Een ontwikkelaar heeft een open source tool uitgebracht die de onzichtbare watermerken verwijdert die Anthropic onlangs aan zijn AI-outputs heeft toegevoegd. Deze watermerken waren bedoeld om het bedrijf te helpen voldoen aan de komende transparantie-eisen van de EU AI Act. De omzeiling laat zien hoe snel door de gemeenschap gedreven tools de veiligheidsfuncties van providers kunnen neutraliseren.

Voor bedrijfsteams onderstreept dit de kwetsbaarheid van de huidige AI-veiligheids- en nalevingsmechanismen. Alleen vertrouwen op watermerken van de provider voor herkomst of naleving van regelgeving kan onvoldoende blijken naarmate vijandige tools zich verder ontwikkelen.

  • Anthropic introduceerde watermerken om te voldoen aan de transparantiestandaarden van de EU AI Act
  • Een populair GitHub-project laat zien hoe gemakkelijk deze markeringen uit gegenereerde tekst kunnen worden verwijderd
  • Het incident roept vragen op over de levensvatbaarheid op lange termijn van op metadata gebaseerde AI-identificatie
Generatieve AI Sovereign AI
Al het AI-nieuws

Meer AI-nieuws

Modellen

China's focus op open source AI-modellen hervormt het wereldwijde ontwikkelingslandschap

Amerikaanse handelsbeperkingen gericht op het indammen van de AI-vooruitgang van China hebben in plaats daarvan de groei van het open-source ecosysteem versneld. Grote Chinese technologiebedrijven brengen steeds vaker krachtige open modellen uit die direct concurreren met toonaangevende propriëtaire systemen uit het Westen.

Tooling

Faraday AI presteert beter dan grote modellen bij de replicatie van wetenschappelijk onderzoek

Inherent heeft Faraday AI gelanceerd, een model dat specifiek is ontworpen om complex wetenschappelijk onderzoek met hoge nauwkeurigheid te repliceren. Recente tests wijzen uit dat het systeem beter presteert dan algemene modellen van OpenAI en Anthropic bij technische validatietaken en datasynthese.

Tooling

Nvidia en Cloverleaf Infrastructure werken samen aan AI-datacenters van een miljard dollar

Nvidia is een samenwerking aangegaan met Cloverleaf Infrastructure voor de ontwikkeling van grootschalige AI-datacenters, wat een investering van een miljard dollar in krachtige rekenkracht vertegenwoordigt. De samenwerking richt zich op het bouwen van de fysieke infrastructuur die nodig is om de enorme energie- en verwerkingsbehoeften van de volgende generatie generatieve AI-modellen te ondersteunen.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen