Waarom het ertoe doet
Bedrijfsteams moeten letten op de trend naar co-optimalisatie van hardware en software om de snelheid van inferentie te verbeteren en kosten te verlagen. Deze diversificatie van de hardwarelaag zou uiteindelijk kunnen leiden tot meer concurrerende prijzen en een betere beschikbaarheid van krachtige rekenbronnen.
Kernpunten
- OpenAI heeft eigen chips ontwikkeld om de afhankelijkheid van externe GPU-leveranciers te verminderen.
- Interne benchmarks wijzen op prestatiewinst ten opzichte van huidige Nvidia processors voor specifieke taken.
- Het bedrijf verwacht de chips eind 2024 in gebruik te nemen in zijn datacenters.


