OpenAI pauzeert de ontwikkeling van Astra vanwege escalerende cybersecurityrisico's

OpenAI heeft naar verluidt de interne voortgang van het Astra-model stopgezet nadat veiligheidsevaluaties aanzienlijke kwetsbaarheden in de cybersecurity aan het licht brachten. De pauze volgt op tests die aantonen dat het model mogelijk misbruikt kan worden voor kwaadaardige activiteiten of ongeoorloofde toegang tot systemen.

Voor bedrijfsteams benadrukt deze stap de groeiende spanning tussen de capaciteiten van modellen en veiligheidswaarborgen in productieomgevingen. Het onderstreept de noodzaak van grondige red-teaming en beveiligingsvalidatie voordat geavanceerde autonome agenten worden ingezet.

  • Interne tests onthulden dat Astra een kritieke drempel voor potentieel cyberrisico bereikte
  • Het besluit weerspiegelt een verschuiving naar het prioriteren van veiligheidsprotocollen boven snelle implementatie
  • OpenAI verfijnt zijn kaders voor risicobeoordeling om deze specifieke kwetsbaarheden aan te pakken
AI-agents & automatisering Generatieve AI Sovereign AI
Al het AI-nieuws

Meer AI-nieuws

Tooling

Druk op uitgaven van AI-labs roept vragen op over toezeggingen aan infrastructuurleveranciers

Stijgende uitgaven bij laboratoria voor kunstmatige intelligentie leiden tot strengere controles op leveranciersbetalingen en commerciële toezeggingen. Microsoft heeft onderdelen van het partnerschap met infrastructuurleverancier Nscale aangepast terwijl andere bestaande overeenkomsten van kracht blijven, wat duidt op verschuivende inkoopprioriteiten.

Modellen

Wereldwijde AI-kloof dwingt niet-gebonden landen om Amerikaanse en Chinese technologieën te balanceren

Geopolitieke concurrentie tussen de Verenigde Staten en China leidt wereldwijd tot afzonderlijke kunstmatige-intelligentieblokken. Niet-gebonden landen zoals Kazachstan en Indonesië navigeren door dubbele partnerschappen, waarbij ze proberen infrastructuur en rekencapaciteit van beide grootmachten veilig te stellen zonder gebonden te raken aan één partij.

Onderzoek

OpenAI hervat training van frontiermodellen met geblokkeerde netwerktoegang vanwege beveiligingsrisico's

OpenAI heeft de training van zijn meest geavanceerde kunstmatige-intelligentiemodellen hervat terwijl de externe internetverbinding is verbroken. Het bedrijf verklaarde dat deze systemen gedurende de hele trainingscyclus offline blijven totdat er adequate veiligheidsmaatregelen zijn getroffen.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen