Outils23 juin 2026

Exabeam lance Praxen en open source pour vérifier le comportement et la sécurité des agents d'IA

Exabeam a lancé Praxen, un outil open source conçu pour surveiller et vérifier les actions des agents d'IA et des travailleurs numériques. Le framework aide les organisations à définir le rôle prévu d'un agent et garantit qu'il n'effectue que des actions autorisées dans un environnement de production.

Pourquoi c'est important

Pour les équipes en entreprise, s'assurer que les agents autonomes opèrent dans des limites de sécurité strictes est essentiel pour le déploiement en production. Praxen fournit une méthode standardisée pour auditer la logique des agents et empêcher l'accès non autorisé au système ou l'exfiltration de données.

Points clés

Praxen offre un framework pour vérifier le comportement prévu des agents d'IA par rapport aux performances réelles.
L'outil identifie les risques de sécurité potentiels et les actions non autorisées avant qu'ils n'affectent les systèmes de l'entreprise.
Il est publié en tant que projet open source pour encourager des normes communautaires en matière de sécurité des agents d'IA.

Solutions associées

Agents IA & automatisation IA générative Logiciel sur mesure

Toutes les actualités IA

Plus d'actualités IA

Outils

Lasso Security souligne les risques de dérive d'échantillonnage dans les systèmes d'agents avec filigrane

Une vérification menée par Lasso Security révèle que le filigranage des grands modèles de langage peut provoquer une dérive d'échantillonnage qui altère les résultats du modèle. Ces conclusions mettent en évidence la frontière opérationnelle critique requise entre les propositions de l'IA et l'exécution autonome pour les paiements et la conformité réglementaire.

Modèles

Apple Intelligence autorisée en Chine avec des requêtes cloud acheminées vers Alibaba

Apple aurait obtenu l'autorisation de déployer les fonctionnalités d'Apple Intelligence en Chine, remplaçant les intégrations OpenAI par défaut par les modèles Qwen d'Alibaba. Conformément aux réglementations chinoises sur les données, les requêtes cloud des utilisateurs locaux seront traitées via l'infrastructure nationale d'Alibaba.

Modèles

Singapour et Google DeepMind déploient une IA sur l'appareil pour détecter les arnaques localement

Google DeepMind et GovTech Singapour ont déployé une intelligence artificielle sur l'appareil capable d'identifier les menaces d'escroquerie directement sur le matériel de l'utilisateur. Le système utilise un modèle Gemma affiné pour analyser les communications entrantes localement sans transmettre de données à des serveurs cloud externes.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sans engagement

Aucune pression commerciale

Prototype en 7 jours