Pathways 150M-model biedt AI-redenering tegen 11 keer lagere kosten dan ChatGPT

Pathway heeft een model met 150 miljoen parameters uitgebracht dat een nauwkeurigheid van 29,5 procent behaalt op redeneertaken. Het BDH-CQ-model werkt tegen een kostprijs van $0,0007 per taak, wat elf keer goedkoper is dan vergelijkbare resultaten van ChatGPT.

Voor bedrijfsteams toont dit aan dat kleinere, gespecialiseerde modellen kostenefficiënte alternatieven kunnen bieden voor complex redeneren zonder de overhead van enorme LLM's. Het benadrukt een verschuiving naar geïnternaliseerde redeneerprocessen die de latentie en operationele kosten in productie verlagen.

  • Het model met 150 miljoen parameters kost $0,0007 per redeneertaak.
  • Het behaalt een score van 29,5 procent door redeneringen intern uit te voeren.
  • De operationele kosten zijn elf keer lager dan die van toonaangevende bedrijfseigen alternatieven.
Generatieve AI Machine Learning
Al het AI-nieuws

Meer AI-nieuws

Modellen

Moonshot AI introduceert Kimi K3.1 Pro en snelle variant voor commerciële evaluatie

Moonshot AI heeft officieel zijn Kimi K3.1 Pro-model gelanceerd, samen met een speciale hogesnelheidsversie die is ontworpen voor snellere verwerking. Organisaties die de release evalueren, onderzoeken de operationele kosten en het gegevensverwerkingsbeleid van de leverancier nauwkeurig voordat ze overgaan tot implementatie in productie.

Modellen

Kimi K3.1 Pro behaalt de vijfde plaats op de SevenLab AI-ranglijst

Kimi K3.1 Pro van ontwikkelaar Kimi is officieel binnengekomen in de top tien van de SevenLab AI-ranglijst en bezet de vijfde plek algemeen. De benchmark volgt toonaangevende foundation models met behulp van een gespecialiseerde, voor waarde gecorrigeerde methodologie op basis van evaluatiedata van Artificial Analysis.

Modellen

Selectie van enterprise-hardware voor lokale LLM's geeft prioriteit aan geheugencapaciteit en bandbreedte

Enterpriseteams die hardware evalueren voor de lokale uitvoering van taalmodellen moeten zich richten op geheugencapaciteit en bandbreedte in plaats van pure rekenkracht. Een uniforme geheugenarchitectuur stelt ontwikkelworkstations in staat om modellen met grotere parameters direct in het geheugen te laden. Planningsleiders beoordelen deze specificaties om kosteneffectieve inferentie op het apparaat zelf te waarborgen.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen