OpenAI dissout son équipe de préparation chargée d'évaluer les risques catastrophiques liés à l'IA

OpenAI aurait dissous son équipe de préparation, le groupe chargé d'évaluer et d'atténuer les risques catastrophiques potentiels des modèles d'IA avancés. Cette restructuration interne fait suite à plusieurs départs de haut niveau au sein des divisions de sécurité et d'alignement de l'entreprise.

Pour les équipes en entreprise, ce changement met en lumière l'évolution de la manière dont les principaux fournisseurs de modèles équilibrent le déploiement rapide et les cadres de sécurité rigoureux. Cela souligne l'importance de la gouvernance interne et de l'évaluation indépendante des risques lors de l'intégration de modèles fondateurs en production.

  • L'équipe de préparation se concentrait sur l'identification des risques liés à la cybersécurité et aux menaces chimiques ou biologiques
  • La responsabilité des tests de sécurité devrait être intégrée à d'autres départements de recherche et d'ingénierie
  • Cette décision intervient dans un contexte de débat continu sur la priorité donnée à la sécurité par rapport à la vitesse commerciale dans le développement de l'IA
Applications & plateformes IA IA générative
Toutes les actualités IA

Plus d'actualités IA

Modèles

Anthropic lance Claude Haiku 5.5 avec une réduction des coûts de 75 pour cent

Anthropic a lancé Claude Haiku 5.5, le positionnant comme son modèle compact le plus rapide, le plus abordable et le plus performant à ce jour. La mise à jour réduit les tarifs d'environ 75 pour cent par rapport aux références précédentes pour sa catégorie légère. Elle vise à fournir une inférence rapide pour les tâches à volume élevé sans sacrifier les performances globales du modèle.

Modèles

Mistral publie une préversion publique de son modèle ML4 de 1 000 milliards de paramètres

L'entreprise française d'intelligence artificielle Mistral a lancé une préversion publique de son modèle Mistral Large 4. Cette nouvelle version s'appuie sur une architecture multimodale de 1 000 milliards de paramètres conçue pour traiter des charges de travail techniques complexes. Les premières informations mettent en avant de solides performances dans les domaines de l'ingénierie logicielle, de la programmation et de la cybersécurité.

Outils

Google publie en open source EmbeddingGemma 2 pour la recherche multimodale sur les appareils périphériques

Google a rendu open source EmbeddingGemma 2, un modèle compact de plongement multimodal qui fonctionne avec moins de 600 Mo de mémoire. Ce modèle léger permet une recherche unifiée à travers le texte, le code, les images, la vidéo et l'audio à partir d'une seule requête. Il est conçu pour fonctionner localement sur du matériel mobile, autorisant une recherche entièrement hors ligne.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement
Aucune pression commerciale
Prototype en 7 jours