Anthropic hat Teile seines Claude-Angebotes um eine neue, auf den Namen „Model Welfare“ getaufte Funktion erweitert. Sie ermöglicht es dem KI-Modell, Interaktionen mit dem Nutzer zu beenden, wenn der Eindruck entsteht, dass diese Schaden verursachen oder für schädliche Zwecke missbraucht werden könnten.

Aktuell nur für kostenpflichtige Tarife

Die Funktion steht derzeit ausschließlich den Modellen Claude Opus 4 und 4.1 zur Verfügung, die zu den leistungsstärksten, aber auch kostenpflichtigen Varianten zählen. Erfahrungsgemäß dürfte die Neuerung nach einer gewissen Erprobungsphase auch in den frei zugänglichen Tarifen angeboten werden.

Keine neue Idee

Bereits im April dieses Jahres hatte Anthropic erste Ansätze veröffentlicht, wie mit schädlichen Interaktionen in KI-Modellen umgegangen werden soll. Diese Überlegungen hat das Unternehmen nun in die Praxis überführt und eine Funktion in seine Chatbots integriert, die genau vor solchen Situationen schützen soll. Nach eigenen Angaben ist Anthropic jedoch weiterhin unsicher, welchen moralischen Status Claude und andere LLMs möglicherweise haben könnten.

Mit „Model Welfare“ soll dieser Umstand entschärft werden, indem Claude die Möglichkeit erhält, „potenziell belastende Interaktionen“ selbstständig zu beenden. Dazu sollen nach Angaben des Unternehmens etwa Anfragen zu sexuellen Inhalten, die Minderjährige betreffen, sowie Versuche, an Informationen zu gelangen, die groß angelegte Gewalt oder Terrorakte ermöglichen würden, gehören.

Nur wenn es nicht anders geht

Anthropic versteht dieses Vorgehen allerdings lediglich als letzten Schritt einer fehllaufenden Unterhaltung, wenn mehrere Umleitungsversuche gescheitert sind und eine produktive Interaktion nicht mehr erwartet werden kann.

Bei Untersuchungen stellte sich heraus, dass Anwender mit schädlichen Anfragen oder missbräuchlicher Nutzung selbst dann fortfuhren, wenn Claude sich mehrfach weigerte, darauf einzugehen und versuchte, das Gespräch in eine produktive Richtung zu lenken.

Hier soll die neue Funktion greifen, indem Claude befähigt wird, Gespräche eigenständig zu beenden. Das Modell ist jedoch angewiesen, diese Möglichkeit nur in Fällen einzusetzen, in denen Anwender einer unmittelbaren Gefahr ausgesetzt sind, sich selbst oder anderen Schaden zuzufügen. Gleichzeitig betont Anthropic, dass die überwiegende Mehrheit der Nutzer bei der normalen Verwendung von Claude diese Funktion weder bemerken noch davon betroffen sein dürften, auch dann nicht, wenn über sehr kontroverse Themen diskutiert wird.

Wenn Claude eine Unterhaltung beendet, kann der Nutzer keine neuen Nachrichten mehr zu dieser hinzufügen, hat aber die Möglichkeit, frühere Eingaben zu bearbeiten, um das Gespräch in eine konstruktivere Richtung zu lenken. Andere parallele Konversationen sollen davon nicht betroffen sein und unverändert fortgeführt werden können.

Stete Entwicklung

Anthropic bezeichnet die neue Funktion als „ein laufendes Experiment“, sodass weitere und grundlegende Änderungen nicht ausgeschlossen sind. Nutzer werden zudem dazu aufgefordert, Rückmeldungen zu geben, wenn das KI-Modell in dieser Weise reagiert, um das Vorgehen weiter verfeinern zu können.

Polar ist vor allem für seine erschwinglichen und hochwertigen Fitness-Tracker und Sportuhren bekannt. Meiner Meinung nach waren die Herzfrequenzmesser (HRMs), die man mit der Apple Watch koppeln kann, um die Genauigkeit zu erhöhen, schon immer das Herzstück von Polars Portfolio. Trotzdem bleibt Polar eine Nischenmarke und hat, anders als Whoop, nicht viel in Marketing investiert, obwohl die Hardware oft gleichwertig ist.

Das könnte sich bald ändern. Nachdem Amazfit mit der Einführung seines Helio Strap an Zugkraft gewonnen hat, scheint Polar bereit zu sein, auf einer ähnlichen Welle zu reiten. Das Unternehmen hat bereits eine Veröffentlichung am 3. September angekündigt und sogar angedeutet, dass es sich bei dem Gerät nicht um eine Smartwatch handelt, indem es das Wort „Uhr“ auf seiner Website durchgestrichen hat. Das Gerät hat unter dem Namen Polar Strap für Schlagzeilen gesorgt.

Auf dem neuesten Bild sehen wir eindeutig ein Sensorendesign für das Handgelenk, ähnlich wie beim Whoop MG (Test) und dem Helio Strap von Amazfit.

Was können wir erwarten?

Im Dezember letzten Jahres brachte Polar ein B2B-Wearable namens Polar 360 heraus, das es nie auf den Verbrauchermarkt schaffte. Es wurde als bildschirmloses Wearable für Unternehmen entwickelt. Der Schwerpunkt lag auf präzisen biometrischen Daten wie Herzfrequenz, HRV und Schlaftracking, mit Integrationsmöglichkeiten für Partner-Apps und -Dienste.

Der Polar 360 ist ein Fitness-Tracker, der von der Herzfrequenz über die tägliche Aktivität bis hin zum Schlaf alles überwachen kann, ähnlich wie Geräte wie der Whoop und der Helio Strap. Er läuft leise im Hintergrund ohne Display und leitet alle Daten an die dazugehörige App weiter, in diesem Fall an Polar Flow. Das lässt mich vermuten, dass wir einige gemeinsame Funktionen für alle Geräte sehen werden.

Polar feilt seit Jahren an seinen Gesundheitsmetriken, verfügt über solide Algorithmen und ist bekannt für zuverlässige Messungen. Ein gutes Beispiel dafür ist der Polar Verity Sense, der in Rezensionen als erschwinglicher und leistungsfähiger Tracker beschrieben wird, der vor allem bei der Schlafüberwachung überzeugt.

Obwohl Amazfit mit seinem preisgünstigen Helio Strap gute Arbeit geleistet hat, ist er in Sachen Forschung noch immer unzureichend, und seine App-Benutzeroberfläche (UI) leiht sich zu viele Elemente von der Konkurrenz. Hier könnte Polar dank seiner forschungsbasierten Entwicklung und seines originellen Ansatzes die Nase vorn haben – auch wenn sich Nutzerinnen und Nutzer immer noch über die Oberfläche der Flow-App beschweren.

Das Wichtigste: Polar hat bereits bestätigt, dass es keine Abo-Gebühr verlangen wird. Da ich selbst Nutzer von Whoop MG bin, glaube ich, dass Polar die härteste Konkurrenz für Whoop sein könnte, die es bisher gab. Was haltet Ihr davon? Mehr dazu am 3. September!