OpenAI pauzeert training van frontier reinforcement learning vanwege veiligheidszorgen

OpenAI heeft naar verluidt de training van zijn nieuwste frontier reinforcement learning-modellen stopgezet om zich te concentreren op alignment en veiligheidsprotocollen. Het besluit volgt op interne beoordelingen over de snelheid van de voortgang en de potentiële risico's die gepaard gaan met geavanceerde redeneercapaciteiten in systemen van de volgende generatie.

Voor bedrijfsteams benadrukt deze pauze het cruciale belang van veiligheidswaarborgen in productieomgevingen met hoge belangen. Het signaleert een noodzakelijke verschuiving van pure prestaties naar meer gecontroleerd en voorspelbaar modelgedrag dat voldoet aan de normen voor naleving door bedrijven.

  • OpenAI heeft de training van frontier RL opgeschort om prioriteit te geven aan onderzoek naar veiligheid en alignment
  • Snelle vooruitgang in redeneermodellen leidde tot interne beoordelingen van potentiële risico's
  • De stap weerspiegelt de groeiende druk in de sector om innovatie in evenwicht te brengen met robuuste strategieën voor risicobeperking
Generatieve AI Machine Learning
Al het AI-nieuws

Meer AI-nieuws

Onderzoek

Nvidia onthult ReplaySSM om inferentie van hybride modellen te versnellen

Nvidia heeft ReplaySSM geïntroduceerd, een inferentiemechanisme dat is ontworpen om hybride grote taalmodellen te versnellen. De techniek optimaliseert het genereren door te voorkomen dat de status naar het geheugen moet worden weggeschreven. Ontwikkeld als een gezamenlijk onderzoeksproject pakt het cruciale knelpunten in de doorvoer bij hybride architecturen aan.

Modellen

Apple Intelligence goedgekeurd voor China met cloudverzoeken via Alibaba

Apple heeft naar verluidt toestemming gekregen om Apple Intelligence-functies in China te lanceren, waarbij de standaardintegraties van OpenAI worden vervangen door de Qwen-modellen van Alibaba. Volgens de Chinese gegevensregelgeving worden cloudgebaseerde verzoeken van lokale gebruikers verwerkt via de binnenlandse infrastructuur van Alibaba.

Modellen

Singapore en Google DeepMind zetten on-device AI in om oplichting lokaal te detecteren

Google DeepMind en GovTech Singapore hebben kunstmatige intelligentie op apparaten geïmplementeerd die oplichting direct op de hardware van de gebruiker kan identificeren. Het systeem gebruikt een gefinetuned Gemma-model om binnenkomende communicatie lokaal te analyseren zonder gegevens naar externe cloudservers te verzenden.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, vrijblijvend
Geen verkooppraatje
Prototype in 7 dagen