+31 20 705 1010
EnglishNederlandsFrançaisDeutschEspañol
Modèles

OpenAI dissout son équipe de préparation chargée d'évaluer les risques catastrophiques liés à l'IA

OpenAI aurait dissous son équipe de préparation, le groupe chargé d'évaluer et d'atténuer les risques catastrophiques potentiels des modèles d'IA avancés. Cette restructuration interne fait suite à plusieurs départs de haut niveau au sein des divisions de sécurité et d'alignement de l'entreprise.

Pourquoi c'est important

Pour les équipes en entreprise, ce changement met en lumière l'évolution de la manière dont les principaux fournisseurs de modèles équilibrent le déploiement rapide et les cadres de sécurité rigoureux. Cela souligne l'importance de la gouvernance interne et de l'évaluation indépendante des risques lors de l'intégration de modèles fondateurs en production.

Points clés

  • L'équipe de préparation se concentrait sur l'identification des risques liés à la cybersécurité et aux menaces chimiques ou biologiques
  • La responsabilité des tests de sécurité devrait être intégrée à d'autres départements de recherche et d'ingénierie
  • Cette décision intervient dans un contexte de débat continu sur la priorité donnée à la sécurité par rapport à la vitesse commerciale dans le développement de l'IA

Solutions associées

Applications & plateformes IA IA générative
Toutes les actualités IA

Plus d'actualités IA

Modèles

Anthropic restreint l'accès à Claude en raison de risques liés aux armes biologiques et à la surveillance

Anthropic aurait mis fin à l'accès à son assistant Claude pour certains utilisateurs identifiés comme menant des recherches sensibles. L'entreprise basée aux États-Unis a signalé des activités qui pourraient potentiellement contribuer au développement d'armes biologiques ou de programmes de surveillance non autorisés, renforçant ainsi son engagement envers les protocoles de sécurité.

Modèles

Le Shanghai AI Lab publie le modèle ArchPreview utilisant la prédiction du concept suivant

Le Shanghai AI Lab a introduit ArchPreview, un modèle ouvert de 8,9 milliards de paramètres qui utilise une nouvelle méthode d'entraînement appelée Next Concept Prediction. Cette approche permet au modèle d'apprendre des concepts abstraits plutôt que de se concentrer uniquement sur les mots individuels. ArchPreview atteint une parité de performance avec le modèle OLMo-3-7B tout en ne nécessitant que la moitié des jetons d'entraînement.

Modèles

World Labs lance Atlas pour faire passer l'IA du langage aux modèles mondiaux spatiaux

World Labs a introduit Atlas, un modèle d'intelligence spatiale conçu pour aller au-delà du traitement textuel. Contrairement aux modèles de langage traditionnels, ce système se concentre sur la création de modèles du monde qui comprennent les espaces physiques en 3D et interagissent avec eux. Cette technologie offre à l'IA une compréhension fondamentale de la profondeur, de la physique et des relations spatiales.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement
Aucune pression commerciale
Prototype en 7 jours