OpenAI disuelve el equipo de preparación responsable de evaluar los riesgos catastróficos de la IA

Según se informa, OpenAI ha disuelto su equipo de preparación, el grupo encargado de evaluar y mitigar los posibles riesgos catastróficos de los modelos de IA avanzados. Esta reestructuración interna se produce tras varias salidas de alto perfil de las divisiones de seguridad y alineación de la empresa.

Para los equipos empresariales, este cambio resalta un panorama cambiante en la forma en que los principales proveedores de modelos equilibran el despliegue rápido frente a marcos de seguridad rigurosos. Subraya la importancia de la gobernanza interna y la evaluación de riesgos independiente al integrar modelos fundacionales en producción.

  • El equipo de preparación se centró en identificar riesgos relacionados con la ciberseguridad y las amenazas químicas o biológicas
  • Se espera que la responsabilidad de las pruebas de seguridad se integre en otros departamentos de investigación e ingeniería
  • La medida se produce en medio de un debate continuo sobre la priorización de la seguridad frente a la velocidad comercial en el desarrollo de la IA
Apps y plataformas de IA IA generativa
Todas las noticias de IA

Más noticias de IA

Modelos

La selección de hardware empresarial para LLM locales prioriza la capacidad y el ancho de banda de la memoria

Los equipos empresariales que evalúan hardware para ejecutar modelos de lenguaje locales deben centrarse en la capacidad y el ancho de banda de la memoria por encima de la potencia de cálculo pura. La arquitectura de memoria unificada permite que las estaciones de trabajo de desarrollo carguen modelos con mayores parámetros directamente en memoria. Los líderes de planificación están evaluando estas especificaciones para garantizar una inferencia en el dispositivo que resulte rentable.

Modelos

RouteStack introduce integración nativa de Stripe ACP para agentes de IA de viajes

RouteStack.ai ha lanzado una integración nativa con el Stripe Agentic Commerce Protocol (ACP). La actualización permite a los agentes de IA enfocados en viajes completar pagos basados en API dentro del chat directamente en los flujos de conversación.

Herramientas

GPT-6 de OpenAI llega a Google Cloud mediante una asociación entre proveedores

El modelo GPT-6 de OpenAI ya está disponible directamente en la infraestructura de Google Cloud tras una asociación entre ambos proveedores tecnológicos rivales. Esta medida responde a la amplia demanda empresarial de equipos de ingeniería que desean ejecutar modelos GPT avanzados de forma nativa junto con sus despliegues actuales en Google Cloud.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días