OpenAI suspend le développement d'Astra en raison de risques croissants de cybersécurité

OpenAI aurait interrompu les progrès internes de son modèle Astra après que des évaluations de sécurité ont identifié d'importantes vulnérabilités en matière de cybersécurité. Cette pause fait suite à des tests indiquant que le modèle pourrait potentiellement être exploité pour des activités malveillantes ou un accès non autorisé aux systèmes.

Pour les équipes en entreprise, cette décision souligne la tension croissante entre la capacité des modèles et les garde-fous de sécurité dans les environnements de production. Elle met en évidence la nécessité d'un red-teaming rigoureux et d'une validation de la sécurité avant de déployer des agents autonomes avancés.

  • Des tests internes ont révélé qu'Astra a atteint un seuil critique de risque cybernétique potentiel
  • La décision reflète un changement vers la priorité donnée aux protocoles de sécurité plutôt qu'au déploiement rapide
  • OpenAI affine ses cadres d'évaluation des risques pour remédier à ces vulnérabilités spécifiques
Agents IA & automatisation IA générative IA souveraine
Toutes les actualités IA

Plus d'actualités IA

Outils

Equinix renforce son rôle dans l'infrastructure d'IA grâce à un partenariat approfondi avec Nvidia

Equinix s'appuie sur son empreinte historique de centres de données pour proposer des services de colocalisation spécialisés pour les charges de travail d'IA. En approfondissant son partenariat avec Nvidia, l'entreprise offre aux entreprises des clouds privés gérés pour le calcul haute performance.

Modèles

Anthropic restreint l'accès à Claude en raison de risques liés aux armes biologiques et à la surveillance

Anthropic aurait mis fin à l'accès à son assistant Claude pour certains utilisateurs identifiés comme menant des recherches sensibles. L'entreprise basée aux États-Unis a signalé des activités qui pourraient potentiellement contribuer au développement d'armes biologiques ou de programmes de surveillance non autorisés, renforçant ainsi son engagement envers les protocoles de sécurité.

Modèles

Le Shanghai AI Lab publie le modèle ArchPreview utilisant la prédiction du concept suivant

Le Shanghai AI Lab a introduit ArchPreview, un modèle ouvert de 8,9 milliards de paramètres qui utilise une nouvelle méthode d'entraînement appelée Next Concept Prediction. Cette approche permet au modèle d'apprendre des concepts abstraits plutôt que de se concentrer uniquement sur les mots individuels. ArchPreview atteint une parité de performance avec le modèle OLMo-3-7B tout en ne nécessitant que la moitié des jetons d'entraînement.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement
Aucune pression commerciale
Prototype en 7 jours