Modellen14 september 2026

Anthropic beperkt toegang tot Claude vanwege risico's op biologische wapens en surveillance

Anthropic heeft naar verluidt de toegang tot zijn Claude-assistent beëindigd voor specifieke gebruikers die zijn geïdentificeerd als uitvoerders van gevoelig onderzoek. Het in de VS gevestigde bedrijf signaleerde activiteiten die mogelijk zouden kunnen bijdragen aan de ontwikkeling van biologische wapens of ongeoorloofde surveillanceprogramma's, waarmee het zijn toewijding aan veiligheidsprotocollen versterkt.

Waarom het ertoe doet

Voor bedrijfsteams benadrukt dit het cruciale belang van robuuste veiligheidswaarborgen en proactieve monitoring binnen productieomgevingen. Het onderstreept de potentiële aansprakelijkheid en reputatierisico's die gepaard gaan met dual-use mogelijkheden in grote taalmodellen wanneer deze op schaal worden ingezet.

Kernpunten

Anthropic identificeerde en blokkeerde onderzoeksactiviteiten die werden beschouwd als een aanzienlijk wereldwijd veiligheidsrisico.
De beperkingen waren specifiek gericht op potentiële bijdragen aan de ontwikkeling van biologische wapens en chemische dreigingen.
Surveillance-gerelateerde use cases werden ook aangemerkt als schendingen van het beleid voor acceptabel gebruik van het bedrijf.
De stap toont de toenemende druk op AI-aanbieders om te monitoren hoe hun modellen in de praktijk worden gebruikt.

Gerelateerde oplossingen

Generatieve AI Sovereign AI

Al het AI-nieuws

Meer AI-nieuws

Modellen

VS staat binnenlandse AI-ontwikkelaars toe om geavanceerde modellen met het VK te delen voor veiligheidstests

De Verenigde Staten hebben het voor binnenlandse ontwikkelaars van kunstmatige intelligentie mogelijk gemaakt om de regering van het Verenigd Koninkrijk vroegtijdige toegang te verlenen tot propriëtaire modellen voor veiligheidsevaluaties. Deze afspraak vergemakkelijkt formele veiligheidsbeoordelingen voorafgaand aan commerciële uitrol zonder frictie op het gebied van regelgeving tussen beide landen te veroorzaken.

Tooling

Shanghai AI Lab onthult RSI-Anything-framework om codeherstel en planning te verbeteren

Onderzoekers van Shanghai AI Lab, CUHK, NTU en Oxford hebben RSI-Anything geïntroduceerd, een framework gebouwd op JEPA-Anything. Het systeem gebruikt voorspellende wereldmodellen om omgevingen te simuleren en de besluitvorming van autonome agents te verbeteren. Deze aanpak verhoogt de nauwkeurigheid van codeherstel-agents naar 31,2 procent en het succes van laboratoriumplanning naar 46 procent.

Tooling

Beveiliging van autonome AI-agents nu integratie verschuift van antwoorden naar handelen

Nu kunstmatige intelligentie via protocollen zoals het Model Context Protocol overgaat van conversationele antwoorden naar autonome actie, voeren systemen steeds vaker operationele taken uit via externe tools. Deze verschuiving brengt specifieke beveiligingsrisico's met zich mee voor autonome agents die communiceren met zakelijke softwareomgevingen. Technische teams moeten nu navigeren door nieuwe aanvalsoppervlakken, aangezien modellen toestemming krijgen om systemen direct te beïnvloeden.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend

Geen verkooppraatje

Prototype in 7 dagen