+31 20 705 1010
EnglishNederlandsFrançaisDeutschEspañol
Modelle

AI2 veröffentlicht Olmo-core 3 zur Beschleunigung des offenen Mixture-of-Experts-Trainings

Das Allen Institute for AI hat Olmo-core 3 veröffentlicht, ein offenes Trainingsframework für Mixture-of-Experts-Modelle. Der überarbeitete Stack belässt Experten direkt auf den GPUs, um die Effizienz zu steigern. Er erzielt einen bis zu 2,7-mal höheren Durchsatz im Vergleich zu herkömmlichen Fully Sharded Data Parallel-Ansätzen im Maßstab von einer Billion Parametern.

Warum das wichtig ist

Die Skalierung moderner Architekturen belastet häufig Infrastrukturbudgets und Hardware-Effizienz. Offene Frameworks mit hohem Durchsatz helfen Unternehmensteams dabei, riesige Mixture-of-Experts-Modelle mit deutlich geringerem Rechenaufwand zu trainieren.

Kernpunkte

  • Überarbeitetes Trainingsframework behält Expertenparameter direkt auf den GPUs
  • Bietet bis zu 2,7-fache Durchsatzverbesserungen gegenüber herkömmlichem FSDP
  • Entwickelt zur Unterstützung effizienten Modelltrainings im Maßstab von einer Billion Parametern

Passende Lösungen

Sovereign AI Generative KI Machine Learning
Alle KI-Nachrichten

Mehr KI-Nachrichten

Tools

Shanghai AI Lab stellt RSI-Anything-Framework zur Verbesserung von Code-Reparatur und Planung vor

Forschende des Shanghai AI Lab, der CUHK, der NTU und aus Oxford haben mit RSI-Anything ein Framework vorgestellt, das auf JEPA-Anything aufbaut. Das System nutzt prädiktive Weltmodelle, um Umgebungen zu simulieren und die Entscheidungsfindung autonomer Agenten zu verbessern. Der Ansatz steigert die Genauigkeit von Code-Reparatur-Agenten auf 31,2 Prozent und den Erfolg bei Laborplanungen auf 46 Prozent.

Tools

Absicherung autonomer KI-Agenten beim Übergang vom Antworten zum Handeln

Da künstliche Intelligenz über Protokolle wie das Model Context Protocol von dialogbasierten Antworten zu eigenständigen Handlungen übergeht, führen Systeme zunehmend operative Aufgaben über externe Werkzeuge hinweg aus. Dieser Wandel bringt spezifische Sicherheitsrisiken für autonome Agenten mit sich, die mit Softwareumgebungen in Unternehmen interagieren. Entwicklungsteams müssen sich nun mit neu entstehenden Angriffsflächen auseinandersetzen, da Modelle die Berechtigung erhalten, Systeme direkt zu steuern.

Tools

Spotpreise für KI-Rechenleistung in den USA steigen auf das Doppelte langfristiger Leasingverträge

Die kurzfristigen Spot-Mietpreise für KI-Rechenleistung in den USA sind auf das Doppelte des Preises langfristiger Verträge gestiegen. Aktuelle Branchendaten zeigen, dass die Spot-Mietpreise zwischen vierzig und fünfzig Milliarden Dollar pro Gigawatt und Jahr erreichen. Diese Zahlen entsprechen dem Vierfachen der Mindestrenditeschwelle für Investitionen in Rechenleistung.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 Min, unverbindlich
Kein Verkaufsdruck
Prototyp in 7 Tagen