OpenAI disuelve el equipo de preparación responsable de evaluar los riesgos catastróficos de la IA

Según se informa, OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar y mitigar los posibles riesgos catastróficos de los modelos de IA avanzados. Esta reestructuración interna se produce tras varias salidas de alto perfil de las divisiones de seguridad y alineación de la empresa.

Para los equipos empresariales, este cambio resalta un panorama cambiante en la forma en que los principales proveedores de modelos equilibran el despliegue rápido frente a marcos de seguridad rigurosos. Subraya la importancia de la gobernanza interna y la evaluación de riesgos independiente al integrar modelos fundacionales en producción.

  • El equipo de preparación se centró en identificar riesgos relacionados con la ciberseguridad y las amenazas químicas o biológicas
  • Se espera que la responsabilidad de las pruebas de seguridad se integre en otros departamentos de investigación e ingeniería
  • La medida se produce en medio de un debate continuo sobre la priorización de la seguridad frente a la velocidad comercial en el desarrollo de la IA
Apps y plataformas de IA IA generativa
Todas las noticias de IA

Más noticias de IA

Modelos

Moonshot AI presenta Kimi K3.1 Pro y una variante de alta velocidad para evaluación comercial

Moonshot AI ha lanzado oficialmente su modelo Kimi K3.1 Pro junto con una versión de alta velocidad dedicada y diseñada para un procesamiento más rápido. Las organizaciones que evalúan el lanzamiento están examinando minuciosamente los costes operativos y las políticas de gestión de datos del proveedor antes de comprometerse con el despliegue en producción.

Modelos

Kimi K3.1 Pro asegura el quinto lugar en la tabla de clasificación SevenLab AI

Kimi K3.1 Pro, del desarrollador Kimi, ha entrado oficialmente en el top diez de la tabla de clasificación SevenLab AI, asegurando la quinta posición general. La prueba de referencia realiza un seguimiento de los modelos fundacionales líderes mediante una metodología especializada ajustada al valor, derivada de los datos de evaluación de Artificial Analysis.

Modelos

La selección de hardware empresarial para LLM locales prioriza la capacidad y el ancho de banda de la memoria

Los equipos empresariales que evalúan hardware para ejecutar modelos de lenguaje locales deben centrarse en la capacidad y el ancho de banda de la memoria por encima de la potencia de cálculo pura. La arquitectura de memoria unificada permite que las estaciones de trabajo de desarrollo carguen modelos con mayores parámetros directamente en memoria. Los líderes de planificación están evaluando estas especificaciones para garantizar una inferencia en el dispositivo que resulte rentable.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días