Una herramienta de código abierto elude el nuevo sistema de marcas de agua de Claude de Anthropic

Un desarrollador ha lanzado una herramienta de código abierto que elimina las marcas de agua invisibles que Anthropic añadió recientemente a sus resultados de IA. Estas marcas de agua tenían como objetivo ayudar a la empresa a cumplir con los próximos requisitos de transparencia de la Ley de IA de la UE. La elusión demuestra la rapidez con la que las herramientas impulsadas por la comunidad pueden neutralizar las funciones de seguridad del proveedor.

Para los equipos empresariales, esto resalta la fragilidad de los mecanismos actuales de seguridad y cumplimiento de la IA. Confiar únicamente en las marcas de agua del proveedor para la procedencia o el cumplimiento normativo puede resultar insuficiente a medida que evolucionan las herramientas adversarias.

  • Anthropic introdujo marcas de agua para cumplir con los estándares de transparencia de la Ley de IA de la UE
  • Un proyecto popular de GitHub demuestra con qué facilidad se pueden eliminar estas marcas del texto generado
  • El incidente plantea dudas sobre la viabilidad a largo plazo de la identificación de IA basada en metadatos
IA generativa IA soberana
Todas las noticias de IA

Más noticias de IA

Modelos

Microsoft presenta el chip de inferencia Maia 300 y Meta estrena el modelo Muse Wonder

Microsoft ha anunciado Maia 300, un nuevo procesador propio diseñado específicamente para cargas de trabajo de inferencia de inteligencia artificial. Mientras tanto, Meta ha presentado Muse Wonder, clasificado como su modelo frontera inaugural. Estos lanzamientos indican un impulso continuo en hardware dedicado para aprendizaje automático junto con el desarrollo de modelos fundacionales avanzados.

Modelos

Meta presenta los modelos frontera Wonder para competir con los principales laboratorios de IA

Meta ha anunciado dos nuevos modelos frontera de inteligencia artificial, llamados Wonder y Wonder Full. La organización afirma que estos lanzamientos ofrecen un rendimiento a la par de los sistemas frontera rivales de OpenAI y Anthropic.

Modelos

Muse Wonder Full de Meta entra en la tabla de clasificación de SevenLab en el cuarto puesto

El modelo Muse Wonder Full (max) de Meta ha debutado en la tabla de clasificación de IA de SevenLab, obteniendo el cuarto lugar general. Esta clasificación utiliza el marco ajustado al valor de SevenLab, derivado de los datos de referencia de ArtificialAnalysis. Este hito posiciona al modelo como un nuevo y sólido contendiente dentro del nivel superior de las evaluaciones empresariales.

Ready to build something extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días