AI2 veröffentlicht Olmo-core 3 zur Beschleunigung des offenen Mixture-of-Experts-Trainings

Das Allen Institute for AI hat Olmo-core 3 veröffentlicht, ein offenes Trainingsframework für Mixture-of-Experts-Modelle. Der überarbeitete Stack belässt Experten direkt auf den GPUs, um die Effizienz zu steigern. Er erzielt einen bis zu 2,7-mal höheren Durchsatz im Vergleich zu herkömmlichen Fully Sharded Data Parallel-Ansätzen im Maßstab von einer Billion Parametern.

Die Skalierung moderner Architekturen belastet häufig Infrastrukturbudgets und Hardware-Effizienz. Offene Frameworks mit hohem Durchsatz helfen Unternehmensteams dabei, riesige Mixture-of-Experts-Modelle mit deutlich geringerem Rechenaufwand zu trainieren.

  • Überarbeitetes Trainingsframework behält Expertenparameter direkt auf den GPUs
  • Bietet bis zu 2,7-fache Durchsatzverbesserungen gegenüber herkömmlichem FSDP
  • Entwickelt zur Unterstützung effizienten Modelltrainings im Maßstab von einer Billion Parametern
Sovereign AI Generative KI Machine Learning
Alle KI-Nachrichten

Mehr KI-Nachrichten

Modelle

Auswahl von Enterprise-Hardware für lokale LLMs priorisiert Speicherkapazität und Bandbreite

Unternehmensteams, die Hardware für die lokale Ausführung von Sprachmodellen evaluieren, müssen Speicherkapazität und Bandbreite gegenüber reiner Rechenleistung priorisieren. Die Unified-Memory-Architektur ermöglicht es Entwickler-Workstations, Modelle mit größeren Parametern direkt in den Speicher zu laden. Planungsverantwortliche prüfen diese Spezifikationen, um eine kosteneffiziente On-Device-Inferenz sicherzustellen.

Modelle

RouteStack führt native Stripe-ACP-Integration für Reise-KI-Agenten ein

RouteStack.ai hat eine native Integration für das Stripe Agentic Commerce Protocol (ACP) eingeführt. Das Update ermöglicht es auf Reisen spezialisierten KI-Agenten, API-basierte Zahlungen direkt innerhalb von Konversationsabläufen im Chat abzuwickeln.

Modelle

DeepSeek schließt 15-Milliarden-Dollar-Finanzierungsrunde ab, um das globale KI-Rennen anzutreiben

Der chinesische Entwickler für künstliche Intelligenz DeepSeek schließt seine jüngste Investitionsrunde ab und sichert sich rund 100 Milliarden Yuan beziehungsweise 14,98 Milliarden US-Dollar. Das Kapital soll eingesetzt werden, um die Forschung und den Ausbau der Infrastruktur im hart umkämpften KI-Markt zu beschleunigen.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 Min, unverbindlich
Kein Verkaufsdruck
Prototyp in 7 Tagen