Alibaba framework vermindert tokenverbruik van ai-agents met 99 procent door selectief laden van tools

Onderzoekers van Alibaba hebben SkillWeaver geïntroduceerd, een framework dat is ontworpen om de interactie tussen AI-agents en externe tools te optimaliseren. In plaats van volledige tool-bibliotheken in het contextvenster te laden, haalt het systeem selectief alleen de noodzakelijke functies op, waardoor het tokenverbruik met wel 99 procent wordt verminderd.

Voor bedrijfsteams die agents op productieniveau bouwen, vormen de kosten van het contextvenster en de latentie een groot knelpunt. Deze aanpak maakt complexere agent-workflows mogelijk zonder een evenredige toename van operationele overhead of prestatievermindering.

  • SkillWeaver implementeert een dynamisch routeringsmechanisme om de noodzaak voor uitgebreide tool-beschrijvingen in prompts te omzeilen
  • Het framework realiseert een vermindering van 99 procent in tokenverbruik voor grootschalige toolsets
  • Het verbetert de reactietijden en nauwkeurigheid door ruis binnen de modelcontext te minimaliseren
AI-agents & automatisering Generatieve AI Machine Learning
Al het AI-nieuws

Meer AI-nieuws

Tooling

Microsoft ontwikkelt Project Perception om kosten voor AI-beveiliging en veiligheid te verlagen

Microsoft bouwt naar verluidt aan een intern hulpmiddel genaamd Project Perception om de veiligheid en beveiliging van AI te verbeteren. Het systeem maakt gebruik van een architectuur met meerdere modellen om kwetsbaarheden te identificeren en modelgedrag efficiënter te monitoren dan bestaande oplossingen. Dit initiatief is bedoeld om een robuust alternatief te bieden voor dure beveiligingspakketten.

Modellen

Moonshot AI stopt Kimi K3 abonnementen nu de rekenkracht de limiet bereikt

Moonshot AI heeft nieuwe abonnementen voor het Kimi K3 model opgeschort na een enorme stijging in de vraag van gebruikers binnen een periode van 48 uur. De Chinese startup meldde dat de plotselinge toestroom van verkeer de bestaande rekeninfrastructuur overbelastte. Deze tijdelijke pauze stelt het team in staat om de prestaties voor huidige gebruikers te stabiliseren terwijl ze werken aan het opschalen van hun hardwarebronnen.

Modellen

Kenia's nieuwe AI-sandbox krijgt kritiek vanwege gebrek aan handhaving van regelgeving

Kenia heeft een regelgevende sandbox voor kunstmatige intelligentie geïntroduceerd, maar waarnemers uit de sector stellen dat het meer functioneert als een ideeënbus dan als een robuust juridisch kader. Het initiatief mist momenteel de nodige bevoegdheid om toezicht te houden op AI-systemen met een hoog risico die een directe impact hebben op het levensonderhoud van individuen en kritieke besluitvormingsprocessen.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen