Modelle
Anthropic schränkt den Zugriff auf Claude wegen Risiken durch Biowaffen und Überwachung ein
Berichten zufolge hat Anthropic den Zugang zu seinem Assistenten Claude für bestimmte Nutzer gesperrt, die als Akteure sensibler Forschung identifiziert wurden. Das US-Unternehmen markierte Aktivitäten, die potenziell zur Entwicklung von Biowaffen oder unbefugten Überwachungsprogrammen beitragen könnten, und bekräftigte damit seine Verpflichtung zu Sicherheitsprotokollen.
Modelle
Shanghai AI Lab veröffentlicht ArchPreview Modell unter Verwendung von Next Concept Prediction
Das Shanghai AI Lab hat ArchPreview vorgestellt, ein offenes Modell mit 8,9 Milliarden Parametern, das eine neuartige Trainingsmethode namens Next Concept Prediction nutzt. Dieser Ansatz ermöglicht es dem Modell, abstrakte Konzepte zu lernen, anstatt sich nur auf einzelne Wörter zu konzentrieren. ArchPreview erreicht die gleiche Leistung wie das OLMo-3-7B Modell, benötigt aber nur die Hälfte der Trainings Token.
Forschung
Anthropic-Chef fordert langsameres Tempo bei der Entwicklung künstlicher Intelligenz
Dario Amodei, der CEO von Anthropic, hat sich öffentlich für eine Verlangsamung der Entwicklung künstlicher Intelligenz ausgesprochen, um Sicherheit und Schutz in den Vordergrund zu stellen. Seine Bedenken hinsichtlich potenzieller großflächiger Risiken werden von anderen prominenten Branchengrößen wie Sam Altman und Elon Musk geteilt.
