+31 20 705 1010
EnglishNederlandsFrançaisDeutschEspañol
Modelos

OpenAI disuelve el equipo de preparación responsable de evaluar los riesgos catastróficos de la IA

Según se informa, OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar y mitigar los posibles riesgos catastróficos de los modelos de IA avanzados. Esta reestructuración interna se produce tras varias salidas de alto perfil de las divisiones de seguridad y alineación de la empresa.

Por qué importa

Para los equipos empresariales, este cambio resalta un panorama cambiante en la forma en que los principales proveedores de modelos equilibran el despliegue rápido frente a marcos de seguridad rigurosos. Subraya la importancia de la gobernanza interna y la evaluación de riesgos independiente al integrar modelos fundacionales en producción.

Puntos clave

  • El equipo de preparación se centró en identificar riesgos relacionados con la ciberseguridad y las amenazas químicas o biológicas
  • Se espera que la responsabilidad de las pruebas de seguridad se integre en otros departamentos de investigación e ingeniería
  • La medida se produce en medio de un debate continuo sobre la priorización de la seguridad frente a la velocidad comercial en el desarrollo de la IA

Soluciones relacionadas

Apps y plataformas de IA IA generativa
Todas las noticias de IA

Más noticias de IA

Modelos

Anthropic restringe el acceso a Claude por riesgos de armas biológicas y vigilancia

Según se informa, Anthropic ha cancelado el acceso a su asistente Claude para usuarios específicos identificados como realizadores de investigaciones sensibles. La empresa con sede en EE. UU. señaló actividades que podrían contribuir potencialmente al desarrollo de armas biológicas o programas de vigilancia no autorizados, reforzando su compromiso con los protocolos de seguridad.

Modelos

World Labs lanza Atlas para llevar la IA del lenguaje a modelos de mundos espaciales

World Labs ha presentado Atlas, un modelo de inteligencia espacial diseñado para ir más allá del procesamiento basado en texto. A diferencia de los modelos de lenguaje extensos tradicionales, este sistema se centra en crear modelos de mundo que comprenden e interactúan con espacios físicos en 3D. La tecnología proporciona a la IA una comprensión fundamental de la profundidad, la física y las relaciones espaciales.

Modelos

Los CISO modernos cambian su enfoque para facilitar el riesgo estratégico y acelerar la adopción de la IA

El liderazgo en seguridad está abandonando el papel tradicional de guardián para convertirse en un facilitador activo del riesgo empresarial y la innovación. Esta transición se centra en guiar la integración segura de la inteligencia artificial mientras se fomenta una cultura de experimentación responsable en toda la empresa.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días