OpenAI beweert dat eigen chips beter presteren dan Nvidia hardware in interne tests

OpenAI heeft plannen onthuld om later dit jaar eigen ontworpen chips in te zetten ter ondersteuning van zijn grote taalmodellen. Interne tests suggereren dat deze processors de prestaties van de standaard Nvidia hardware kunnen overtreffen. De overstap is bedoeld om de infrastructuur van het bedrijf te optimaliseren voor specifieke generatieve AI workloads.

Bedrijfsteams moeten letten op de trend naar co-optimalisatie van hardware en software om de snelheid van inferentie te verbeteren en kosten te verlagen. Deze diversificatie van de hardwarelaag zou uiteindelijk kunnen leiden tot meer concurrerende prijzen en een betere beschikbaarheid van krachtige rekenbronnen.

  • OpenAI heeft eigen chips ontwikkeld om de afhankelijkheid van externe GPU-leveranciers te verminderen.
  • Interne benchmarks wijzen op prestatiewinst ten opzichte van huidige Nvidia processors voor specifieke taken.
  • Het bedrijf verwacht de chips eind 2024 in gebruik te nemen in zijn datacenters.
Sovereign AI Generatieve AI
Al het AI-nieuws

Meer AI-nieuws

Modellen

Anthropic brengt Claude Haiku 5.5 uit met kostenverlaging van 75 procent

Anthropic heeft Claude Haiku 5.5 gelanceerd en positioneert het als haar snelste, goedkoopste en meest capabele kleine model tot nu toe. De update verlaagt de prijzen met ongeveer 75 procent vergeleken met eerdere benchmarks voor haar lichte categorie. Het model is ontworpen om snelle inferentie te leveren voor taken met grote volumes, zonder in te leveren op de algehele prestaties.

Modellen

Mistral brengt publieke preview uit van ML4-model met 1 biljoen parameters

Het Franse AI-bedrijf Mistral heeft een publieke preview gelanceerd van zijn Mistral Large 4-model. De nieuwe release beschikt over een multimodale architectuur met 1 biljoen parameters, ontworpen om complexe technische workloads aan te pakken. Vroege publicaties benadrukken sterke prestaties binnen software-engineering, programmeren en cybersecurity.

Tooling

Google maakt EmbeddingGemma 2 open source voor multimodaal zoeken op edge-apparaten

Google heeft EmbeddingGemma 2 open source gemaakt, een compact multimodaal embeddingmodel dat functioneert met minder dan 600 MB aan geheugen. Het lichtgewicht model maakt universeel zoeken over tekst, code, afbeeldingen, video en audio mogelijk met één enkele zoekopdracht. Het is ontworpen om lokaal op mobiele hardware te draaien, waardoor volledige offline zoekfunctionaliteit mogelijk is.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen