+31 20 705 1010
EnglishNederlandsFrançaisDeutschEspañol
Modelle

Anthropic schränkt den Zugriff auf Claude wegen Risiken durch Biowaffen und Überwachung ein

Berichten zufolge hat Anthropic den Zugang zu seinem Assistenten Claude für bestimmte Nutzer gesperrt, die als Akteure sensibler Forschung identifiziert wurden. Das US-Unternehmen markierte Aktivitäten, die potenziell zur Entwicklung von Biowaffen oder unbefugten Überwachungsprogrammen beitragen könnten, und bekräftigte damit seine Verpflichtung zu Sicherheitsprotokollen.

Warum das wichtig ist

Für Unternehmen unterstreicht dies die entscheidende Bedeutung robuster Sicherheitsvorkehrungen und proaktiver Überwachung in Produktionsumgebungen. Es verdeutlicht die potenziellen Haftungs- und Reputationsrisiken, die mit Dual-Use-Fähigkeiten in großen Sprachmodellen bei einer flächendeckenden Bereitstellung verbunden sind.

Kernpunkte

  • Anthropic identifizierte und blockierte Forschungsaktivitäten, die als erhebliche globale Sicherheitsrisiken eingestuft wurden.
  • Die Einschränkungen richteten sich gezielt gegen potenzielle Beiträge zur Entwicklung von Biowaffen und chemischen Bedrohungen.
  • Überwachungsbezogene Anwendungsfälle wurden ebenfalls als Verstöße gegen die Nutzungsrichtlinien des Unternehmens markiert.
  • Dieser Schritt zeigt den zunehmenden Druck auf KI-Anbieter, die Nutzung ihrer Modelle in der Praxis zu überwachen.

Passende Lösungen

Generative KI Sovereign AI
Alle KI-Nachrichten

Mehr KI-Nachrichten

Tools

Shanghai AI Lab stellt RSI-Anything-Framework zur Verbesserung von Code-Reparatur und Planung vor

Forschende des Shanghai AI Lab, der CUHK, der NTU und aus Oxford haben mit RSI-Anything ein Framework vorgestellt, das auf JEPA-Anything aufbaut. Das System nutzt prädiktive Weltmodelle, um Umgebungen zu simulieren und die Entscheidungsfindung autonomer Agenten zu verbessern. Der Ansatz steigert die Genauigkeit von Code-Reparatur-Agenten auf 31,2 Prozent und den Erfolg bei Laborplanungen auf 46 Prozent.

Tools

Absicherung autonomer KI-Agenten beim Übergang vom Antworten zum Handeln

Da künstliche Intelligenz über Protokolle wie das Model Context Protocol von dialogbasierten Antworten zu eigenständigen Handlungen übergeht, führen Systeme zunehmend operative Aufgaben über externe Werkzeuge hinweg aus. Dieser Wandel bringt spezifische Sicherheitsrisiken für autonome Agenten mit sich, die mit Softwareumgebungen in Unternehmen interagieren. Entwicklungsteams müssen sich nun mit neu entstehenden Angriffsflächen auseinandersetzen, da Modelle die Berechtigung erhalten, Systeme direkt zu steuern.

Tools

Spotpreise für KI-Rechenleistung in den USA steigen auf das Doppelte langfristiger Leasingverträge

Die kurzfristigen Spot-Mietpreise für KI-Rechenleistung in den USA sind auf das Doppelte des Preises langfristiger Verträge gestiegen. Aktuelle Branchendaten zeigen, dass die Spot-Mietpreise zwischen vierzig und fünfzig Milliarden Dollar pro Gigawatt und Jahr erreichen. Diese Zahlen entsprechen dem Vierfachen der Mindestrenditeschwelle für Investitionen in Rechenleistung.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 Min, unverbindlich
Kein Verkaufsdruck
Prototyp in 7 Tagen