Una herramienta de código abierto elude el nuevo sistema de marcas de agua de Claude de Anthropic

Un desarrollador ha lanzado una herramienta de código abierto que elimina las marcas de agua invisibles que Anthropic añadió recientemente a sus resultados de IA. Estas marcas de agua tenían como objetivo ayudar a la empresa a cumplir con los próximos requisitos de transparencia de la Ley de IA de la UE. La elusión demuestra la rapidez con la que las herramientas impulsadas por la comunidad pueden neutralizar las funciones de seguridad del proveedor.

Para los equipos empresariales, esto resalta la fragilidad de los mecanismos actuales de seguridad y cumplimiento de la IA. Confiar únicamente en las marcas de agua del proveedor para la procedencia o el cumplimiento normativo puede resultar insuficiente a medida que evolucionan las herramientas adversarias.

  • Anthropic introdujo marcas de agua para cumplir con los estándares de transparencia de la Ley de IA de la UE
  • Un proyecto popular de GitHub demuestra con qué facilidad se pueden eliminar estas marcas del texto generado
  • El incidente plantea dudas sobre la viabilidad a largo plazo de la identificación de IA basada en metadatos
IA generativa IA soberana
Todas las noticias de IA

Más noticias de IA

Modelos

El enfoque de China en los modelos de IA de código abierto transforma el panorama del desarrollo global

Las restricciones comerciales de EE. UU. destinadas a contener el progreso de la IA en China han acelerado, en cambio, el crecimiento de su ecosistema de código abierto. Las principales empresas tecnológicas chinas están lanzando cada vez más modelos abiertos potentes que compiten directamente con los sistemas propietarios líderes de Occidente.

Herramientas

Faraday AI supera a los principales modelos en la replicación de investigaciones científicas

Inherent ha lanzado Faraday AI, un modelo diseñado específicamente para replicar investigaciones científicas complejas con alta precisión. Pruebas recientes indican que el sistema supera el rendimiento de los modelos generalistas de OpenAI y Anthropic en tareas de validación técnica y síntesis de datos.

Herramientas

Nvidia y Cloverleaf Infrastructure se asocian para centros de datos de IA de miles de millones de dólares

Nvidia se ha asociado con Cloverleaf Infrastructure para desarrollar centros de datos de IA a gran escala, lo que representa una inversión de miles de millones de dólares en potencia de computación de alto rendimiento. La colaboración se centra en la construcción de la infraestructura física necesaria para soportar las enormes demandas de energía y procesamiento de los modelos de IA generativa de próxima generación.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 min, sin compromiso
Sin presión comercial
Prototipo en 7 días