Waarom het ertoe doet
Geïnternaliseerde redeneerprocessen in kleinere modellen kunnen de latentie en operationele kosten in productie verlagen ten opzichte van grote taalmodellen.
Kernpunten
- Het model met 150 miljoen parameters kost $0,0007 per redeneertaak.
- Het behaalt een score van 29,5 procent door redeneringen intern uit te voeren.
- De operationele kosten zijn elf keer lager dan die van ChatGPT.



