OpenAI pauzeert de ontwikkeling van Astra vanwege escalerende cybersecurityrisico's

OpenAI heeft naar verluidt de interne voortgang van het Astra-model stopgezet nadat veiligheidsevaluaties aanzienlijke kwetsbaarheden in de cybersecurity aan het licht brachten. De pauze volgt op tests die aantonen dat het model mogelijk misbruikt kan worden voor kwaadaardige activiteiten of ongeoorloofde toegang tot systemen.

Voor bedrijfsteams benadrukt deze stap de groeiende spanning tussen de capaciteiten van modellen en veiligheidswaarborgen in productieomgevingen. Het onderstreept de noodzaak van grondige red-teaming en beveiligingsvalidatie voordat geavanceerde autonome agenten worden ingezet.

  • Interne tests onthulden dat Astra een kritieke drempel voor potentieel cyberrisico bereikte
  • Het besluit weerspiegelt een verschuiving naar het prioriteren van veiligheidsprotocollen boven snelle implementatie
  • OpenAI verfijnt zijn kaders voor risicobeoordeling om deze specifieke kwetsbaarheden aan te pakken
AI-agents & automatisering Generatieve AI Sovereign AI
Al het AI-nieuws

Meer AI-nieuws

Tooling

Equinix breidt rol in AI-infrastructuur uit door verdiepte samenwerking met Nvidia

Equinix benut zijn bestaande datacenter-voetafdruk om gespecialiseerde colocatiediensten voor AI-workloads te leveren. Door de samenwerking met Nvidia te verdiepen, biedt het bedrijf ondernemingen beheerde private clouds voor high performance computing.

Modellen

Anthropic beperkt toegang tot Claude vanwege risico's op biologische wapens en surveillance

Anthropic heeft naar verluidt de toegang tot zijn Claude-assistent beëindigd voor specifieke gebruikers die zijn geïdentificeerd als uitvoerders van gevoelig onderzoek. Het in de VS gevestigde bedrijf signaleerde activiteiten die mogelijk zouden kunnen bijdragen aan de ontwikkeling van biologische wapens of ongeoorloofde surveillanceprogramma's, waarmee het zijn toewijding aan veiligheidsprotocollen versterkt.

Modellen

Shanghai AI Lab brengt ArchPreview model uit dat gebruikmaakt van next concept prediction

Shanghai AI Lab heeft ArchPreview geïntroduceerd, een open model met 8,9 miljard parameters dat gebruikmaakt van een nieuwe trainingsmethode genaamd Next Concept Prediction. Deze aanpak stelt het model in staat om abstracte concepten te leren in plaats van zich uitsluitend te richten op individuele woorden. ArchPreview behaalt vergelijkbare prestaties als het OLMo-3-7B model terwijl het slechts de helft van de trainingstokens nodig heeft.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen