OpenAI disuelve el equipo de preparación responsable de evaluar los riesgos catastróficos de la IA

Según se informa, OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar y mitigar los posibles riesgos catastróficos de los modelos de IA avanzados. Esta reestructuración interna se produce tras varias salidas de alto perfil de las divisiones de seguridad y alineación de la empresa.

Para los equipos empresariales, este cambio resalta un panorama cambiante en la forma en que los principales proveedores de modelos equilibran el despliegue rápido frente a marcos de seguridad rigurosos. Subraya la importancia de la gobernanza interna y la evaluación de riesgos independiente al integrar modelos fundacionales en producción.

  • El equipo de preparación se centró en identificar riesgos relacionados con la ciberseguridad y las amenazas químicas o biológicas
  • Se espera que la responsabilidad de las pruebas de seguridad se integre en otros departamentos de investigación e ingeniería
  • La medida se produce en medio de un debate continuo sobre la priorización de la seguridad frente a la velocidad comercial en el desarrollo de la IA
Apps y plataformas de IA IA generativa
Todas las noticias de IA

Más noticias de IA

Modelos

Microsoft presenta el chip de inferencia Maia 300 y Meta estrena el modelo Muse Wonder

Microsoft ha anunciado Maia 300, un nuevo procesador propio diseñado específicamente para cargas de trabajo de inferencia de inteligencia artificial. Mientras tanto, Meta ha presentado Muse Wonder, clasificado como su modelo frontera inaugural. Estos lanzamientos indican un impulso continuo en hardware dedicado para aprendizaje automático junto con el desarrollo de modelos fundacionales avanzados.

Modelos

Meta presenta los modelos frontera Wonder para competir con los principales laboratorios de IA

Meta ha anunciado dos nuevos modelos frontera de inteligencia artificial, llamados Wonder y Wonder Full. La organización afirma que estos lanzamientos ofrecen un rendimiento a la par de los sistemas frontera rivales de OpenAI y Anthropic.

Modelos

Muse Wonder Full de Meta entra en la tabla de clasificación de SevenLab en el cuarto puesto

El modelo Muse Wonder Full (max) de Meta ha debutado en la tabla de clasificación de IA de SevenLab, obteniendo el cuarto lugar general. Esta clasificación utiliza el marco ajustado al valor de SevenLab, derivado de los datos de referencia de ArtificialAnalysis. Este hito posiciona al modelo como un nuevo y sólido contendiente dentro del nivel superior de las evaluaciones empresariales.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días