Open source tool omzeilt het nieuwe watermerksysteem van Claude van Anthropic

Een ontwikkelaar heeft een open source tool uitgebracht die de onzichtbare watermerken verwijdert die Anthropic onlangs aan zijn AI-outputs heeft toegevoegd. Deze watermerken waren bedoeld om het bedrijf te helpen voldoen aan de komende transparantie-eisen van de EU AI Act. De omzeiling laat zien hoe snel door de gemeenschap gedreven tools de veiligheidsfuncties van providers kunnen neutraliseren.

Voor bedrijfsteams onderstreept dit de kwetsbaarheid van de huidige AI-veiligheids- en nalevingsmechanismen. Alleen vertrouwen op watermerken van de provider voor herkomst of naleving van regelgeving kan onvoldoende blijken naarmate vijandige tools zich verder ontwikkelen.

  • Anthropic introduceerde watermerken om te voldoen aan de transparantiestandaarden van de EU AI Act
  • Een populair GitHub-project laat zien hoe gemakkelijk deze markeringen uit gegenereerde tekst kunnen worden verwijderd
  • Het incident roept vragen op over de levensvatbaarheid op lange termijn van op metadata gebaseerde AI-identificatie
Generatieve AI Sovereign AI
Al het AI-nieuws

Meer AI-nieuws

Modellen

Wereldwijde AI-kloof dwingt niet-gebonden landen om Amerikaanse en Chinese technologieën te balanceren

Geopolitieke concurrentie tussen de Verenigde Staten en China leidt wereldwijd tot afzonderlijke kunstmatige-intelligentieblokken. Niet-gebonden landen zoals Kazachstan en Indonesië navigeren door dubbele partnerschappen, waarbij ze proberen infrastructuur en rekencapaciteit van beide grootmachten veilig te stellen zonder gebonden te raken aan één partij.

Modellen

Moonshot AI introduceert Kimi K3.1 Pro en snelle variant voor commerciële evaluatie

Moonshot AI heeft officieel zijn Kimi K3.1 Pro-model gelanceerd, samen met een speciale hogesnelheidsversie die is ontworpen voor snellere verwerking. Organisaties die de release evalueren, onderzoeken de operationele kosten en het gegevensverwerkingsbeleid van de leverancier nauwkeurig voordat ze overgaan tot implementatie in productie.

Modellen

Kimi K3.1 Pro behaalt de vijfde plaats op de SevenLab AI-ranglijst

Kimi K3.1 Pro van ontwikkelaar Kimi is officieel binnengekomen in de top tien van de SevenLab AI-ranglijst en bezet de vijfde plek algemeen. De benchmark volgt toonaangevende foundation models met behulp van een gespecialiseerde, voor waarde gecorrigeerde methodologie op basis van evaluatiedata van Artificial Analysis.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen