KI-Chatverlauf zurücksetzen senkt CO₂-Ausstoß | heise online

Ein Forschungsteam des Versicherungskonzerns Axa hat untersucht, welchen Einfluss Anwender von KI-Chatbots auf ihren CO₂-Fußabdruck ausüben können. In ihrem Fachartikel Mitigating the Carbon Footprint of Chatbots as Consumers, der bei Springer Nature veröffentlicht wurde, formulieren die Forscher einen verblüffend einfachen Tipp: Sobald das Thema wechselt, sollte ein neuer Chat gestartet und somit der Chatverlauf zurückgesetzt werden.

Diese Empfehlung basiert auf einem Mechanismus, mit dem KI-Chatbots einen konsistenten Gesprächsverlauf simulieren. Da KI-Modelle kein Gedächtnis besitzen, fügen sie bei jeder Interaktion die gesamte vorherige Chat-Historie der Anfrage hinzu. Für den Benutzer unsichtbar, erhöht dieses Verfahren im Laufe der Konversation fortwährend die Anzahl der verwendeten Token. Je mehr Token verarbeitet werden müssen, desto höher ist der Rechenaufwand – und damit auch der Energieverbrauch.

Die Forscher wollten herausfinden, wie viel sich durch die Handlungsempfehlung einsparen lässt. Dafür analysierten sie anonymisierte Logdaten eines GPT-basierten Chatbots aus einer internen Anwendung mit über 190.000 Einträgen. Eine entsprechende Simulation zeigte, dass sich der Tokenverbrauch für die vorliegenden Daten um bis zu 19 Prozent senken ließe.

Fazit

Das größte Optimierungspotenzial liegt dennoch bei den KI-Dienstleistern. Benutzer können aber unnötige Rechenlast vermeiden, indem sie konsequent einen neuen Chat beginnen, sobald sich der Kontext ändert und frühere Nachrichten für den weiteren Verlauf irrelevant werden. Wer KI-Chatbots nutzt, kann so sein CO₂-Aufkommen zumindest teilweise reduzieren.

Transparenzhinweis: Der Autor Boris Ruf ist ebenfalls Hauptautor der Studie.

(fo)