Microsoft entwickelt Project Perception um die Kosten für KI-Sicherheit zu senken

Berichten zufolge entwickelt Microsoft ein internes Tool namens Project Perception, um die Sicherheit von KI zu verbessern. Das System nutzt eine Multi-Modell-Architektur, um Schwachstellen zu identifizieren und das Modellverhalten effizienter als bestehende Lösungen zu überwachen. Diese Initiative zielt darauf ab, eine robuste Alternative zu kostspieligen Sicherheitssuiten zu bieten.

Unternehmen benötigen skalierbare Wege, um die Modellsicherheit zu gewährleisten, ohne unverhältnismäßig hohe Kosten zu verursachen. Dieser Trend zur Multi-Modell-Verifizierung deutet auf einen reifenden Markt für automatisierte KI-Governance und Tools zur Risikominderung hin.

  • Project Perception nutzt mehrere Modelle, um KI-Antworten abzugleichen und auf Sicherheit zu validieren.
  • Das Tool soll eine kostengünstigere Alternative zu spezialisierten Sicherheitssuiten wie Mythos von Anthropic bieten.
  • Es konzentriert sich darauf, schädliche Prompts zu identifizieren und gefährliche Ausgaben in Echtzeit zu verhindern.
Generative KI KI-Apps & Plattformen Machine Learning
Alle KI-Nachrichten

Mehr KI-Nachrichten

Tools

Google veröffentlicht EmbeddingGemma 2 als Open Source für multimodale Suche auf Edge-Geräten

Google hat EmbeddingGemma 2 als Open Source veröffentlicht, ein kompaktes multimodales Embedding-Modell, das mit weniger als 600 MB Speicher auskommt. Das schlanke Modell ermöglicht eine einheitliche Suche über Text, Code, Bilder, Videos und Audio mit einer einzigen Anfrage. Es wurde entwickelt, um lokal auf mobiler Hardware zu laufen, und bietet vollständige Offline-Suchfunktionen.

Tools

Nutzung von Open-Source-KI wächst trotz Sicherheits- und Lizenzhürden in Unternehmen

Open-Source-Modelle für künstliche Intelligenz verzeichnen eine rasante Verbreitung in Unternehmen und bieten Organisationen besseren Datenschutz, planbare Kostenkontrolle sowie weitreichende Anpassungsmöglichkeiten. Trotz dieser Vorteile stoßen Entwicklungsteams auf erhebliche betriebliche Reibungsverluste bei der Überführung offener Modelle in die Produktion. Unternehmen müssen komplexe Lizenzbedingungen, Softwaresicherheitslücken und spürbare Hürden bei der Bereitstellung entlang ihrer Arbeitsabläufe aktiv bewältigen.

Modelle

Anthropic veröffentlicht Claude Haiku 5.5 mit 75 Prozent Kostensenkung

Anthropic hat Claude Haiku 5.5 auf den Markt gebracht und positioniert es als sein bisher schnellstes, günstigstes und leistungsfähigstes kleines Modell. Das Update senkt die Preise um rund 75 Prozent im Vergleich zu früheren Benchmarks seiner Lightweight-Kategorie. Es soll schnelle Inferenzen für Aufgaben mit hohem Volumen liefern, ohne die Gesamtleistung des Modells zu beeinträchtigen.

Ready to build something
extraordinary?

15 minutes. No pitch deck. Just a conversation about what AI can do for your team.

Talk directly with our AI specialists

15 Min, unverbindlich
Kein Verkaufsdruck
Prototyp in 7 Tagen