AI2 publie Olmo-core 3 pour accélérer l'entraînement ouvert de modèles à mélange d'experts

L'Allen Institute for AI a lancé Olmo-core 3, un cadre d'entraînement ouvert pour les modèles à mélange d'experts. L'architecture logicielle repensée maintient les experts résidents sur les GPU afin de renforcer l'efficacité. Elle atteint un débit jusqu'à 2,7 fois supérieur à celui des approches standard Fully Sharded Data Parallel à l'échelle du millier de milliards de paramètres.

La mise à l'échelle des architectures de pointe pèse souvent lourdement sur les budgets d'infrastructure et l'efficacité matérielle. Les cadres ouverts à haut débit aident les équipes d'entreprise à entraîner des modèles massifs à mélange d'experts tout en réduisant considérablement les coûts de calcul.

  • Un cadre d'entraînement repensé qui conserve les paramètres des experts directement sur les GPU
  • Offre un débit jusqu'à 2,7 fois supérieur à celui du FSDP conventionnel
  • Conçu pour soutenir un entraînement efficace de modèles à l'échelle du millier de milliards de paramètres
IA souveraine IA générative Machine Learning
Toutes les actualités IA

Plus d'actualités IA

Outils

Shanghai AI Lab dévoile le framework RSI-Anything pour améliorer la réparation de code et la planification

Des chercheurs de Shanghai AI Lab, de la CUHK, de la NTU et d'Oxford ont présenté RSI-Anything, un framework conçu sur JEPA-Anything. Le système utilise des modèles du monde prédictifs pour simuler des environnements et améliorer la prise de décision des agents autonomes. Cette approche porte la précision des agents de réparation de code à 31,2 pour cent et le succès de la planification de laboratoire à 46 pour cent.

Outils

Sécuriser les agents IA autonomes alors que l'intégration passe de la réponse à l'action

Alors que l'intelligence artificielle passe de la simple réponse conversationnelle à l'action autonome via des protocoles comme le Model Context Protocol, les systèmes exécutent de plus en plus de tâches opérationnelles à travers des outils externes. Cette transition introduit des risques de sécurité spécifiques pour les agents autonomes interagissant avec les environnements logiciels d'entreprise. Les équipes d'ingénierie doivent désormais appréhender de nouvelles surfaces d'attaque à mesure que les modèles obtiennent l'autorisation de manipuler directement les systèmes.

Outils

La focalisation de l'IA vocale sur la seule vitesse passe à côté de l'essentiel, avertit un developer advocate

Jesse Hall, developer advocate chez le fournisseur d'infrastructure en temps réel LiveKit, soutient que le secteur de l'IA vocale donne la priorité aux mauvais indicateurs. Il affirme qu'une attention excessive portée à la vitesse de réponse brute néglige les exigences plus larges d'expériences conversationnelles naturelles et fonctionnelles.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement
Aucune pression commerciale
Prototype en 7 jours