OpenAI ontwikkelt automatische uitschakelfuncties voor autonome AI-tools

OpenAI heeft wetgevers laten weten dat het automatische uitschakelmogelijkheden ontwikkelt om controle te behouden over autonome AI-agents. Deze mechanismen moeten ingrijpen wanneer een systeem buiten de beoogde parameters of veiligheidsrichtlijnen treedt. De stap volgt op zorgen over risico's van agentische systemen die taken uitvoeren met minimale menselijke controle.

Dergelijke uitschakelmechanismen stellen organisaties in staat autonome processen stop te zetten zodra systemen afwijken van vastgestelde veiligheidsrichtlijnen of wettelijke kaders.

  • OpenAI ontwikkelt uitschakelmogelijkheden voor autonome agents
  • De technologie moet onbedoelde acties in complexe workflows voorkomen
  • OpenAI deelde deze plannen in een brief aan overheidsfunctionarissen
AI-agents & automatisering Generatieve AI
Al het AI-nieuws

Meer AI-nieuws

Tooling

Perplexity lanceert Teammates-AI-collega's met hoge interne inzet

Perplexity heeft een AI-tool genaamd Teammates gelanceerd die is ontworpen om als menselijk personeel te functioneren. Volgens gerapporteerde cijfers is het interne aantal van deze AI-collega's opgelopen tot twintig keer het totale aantal menselijke werknemers. Het systeem stelt gebruikers in staat om specifieke taken direct toe te wijzen aan geautomatiseerde assistenten.

Branche

Adoptiestrategieën voor Indiase bedrijven die AI verder brengen dan de pilotfase

Een verslag van The Times of India beschrijft AI-adoptiestrategieën voor bedrijven in India die verder willen gaan dan initiële experimenten. Hoewel kunstmatige intelligentie een belangrijke prioriteit is geworden, merkt het artikel op dat toegang kopen tot een model of het introduceren van een chatbot op zichzelf niet voldoende is. De discussie richt zich op het overstijgen van geïsoleerde tests en het meten van rendement.

Modellen

Gesloten AI-modellen domineren prijs-prestatiegrens volgens analyse van Village

De LLM Atlas van Village wijst uit dat gesloten modellen voor kunstmatige intelligentie nu de prijs-prestatiegrens domineren. Volgens het rapport vormen open-weight-modellen bij slechts 3 procent van de budgetten de beste aankoop, een scherpe daling vergeleken met 41 procent in juni.

Bouw het met ons, of laat ons het jouwe nakijken

In 15 minuten bespreken we wat je wilt bouwen, wie het bouwt en wat er nodig is om live te gaan.

Praat direct met onze AI-specialisten

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen