OpenAI disuelve el equipo de preparación responsable de evaluar los riesgos catastróficos de la IA

Según se informa, OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar y mitigar los posibles riesgos catastróficos de los modelos de IA avanzados. Esta reestructuración interna se produce tras varias salidas de alto perfil de las divisiones de seguridad y alineación de la empresa.

Para los equipos empresariales, este cambio resalta un panorama cambiante en la forma en que los principales proveedores de modelos equilibran el despliegue rápido frente a marcos de seguridad rigurosos. Subraya la importancia de la gobernanza interna y la evaluación de riesgos independiente al integrar modelos fundacionales en producción.

  • El equipo de preparación se centró en identificar riesgos relacionados con la ciberseguridad y las amenazas químicas o biológicas
  • Se espera que la responsabilidad de las pruebas de seguridad se integre en otros departamentos de investigación e ingeniería
  • La medida se produce en medio de un debate continuo sobre la priorización de la seguridad frente a la velocidad comercial en el desarrollo de la IA
Apps y plataformas de IA IA generativa
Todas las noticias de IA

Más noticias de IA

Modelos

Una herramienta de código abierto elude el nuevo sistema de marcas de agua de Claude de Anthropic

Un desarrollador ha lanzado una herramienta de código abierto que elimina las marcas de agua invisibles que Anthropic añadió recientemente a sus resultados de IA. Estas marcas de agua tenían como objetivo ayudar a la empresa a cumplir con los próximos requisitos de transparencia de la Ley de IA de la UE. La elusión demuestra la rapidez con la que las herramientas impulsadas por la comunidad pueden neutralizar las funciones de seguridad del proveedor.

Modelos

El enfoque de China en los modelos de IA de código abierto transforma el panorama del desarrollo global

Las restricciones comerciales de EE. UU. destinadas a contener el progreso de la IA en China han acelerado, en cambio, el crecimiento de su ecosistema de código abierto. Las principales empresas tecnológicas chinas están lanzando cada vez más modelos abiertos potentes que compiten directamente con los sistemas propietarios líderes de Occidente.

Herramientas

Faraday AI supera a los principales modelos en la replicación de investigaciones científicas

Inherent ha lanzado Faraday AI, un modelo diseñado específicamente para replicar investigaciones científicas complejas con alta precisión. Pruebas recientes indican que el sistema supera el rendimiento de los modelos generalistas de OpenAI y Anthropic en tareas de validación técnica y síntesis de datos.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días