Künstliche Intelligenz
Lokale KIs mit OpenClaw nutzen: Agenten und Bildgenerierung auf eigener Hardware
In Kombination mit modernen Cloud-KIs von Anthropic, Google, OpenAI und Co. ist OpenClaw ein vielseitiges Werkzeug mit mächtigen Agenten-Funktionen. So können Nutzer ihrer KI verschiedene Jobs anvertrauen und sie etwa E-Mails senden, Buchungen vornehmen oder Skripte schreiben und ausführen lassen. Doch was ist mit lokalen KIs: Lassen sie sich sinnvoll in das OpenClaw-Framework integrieren?
Wir haben genau das ausprobiert und OpenClaw mit den lokalen Anwendungen Ollama (für agentische Sprachmodelle) und ComfyUI (zur Bildgenerierung) verbunden. Im Bereich typischer Endanwender-LLMs kommen einige infrage, die grundlegende agentische Funktionen wie Lesen und Schreiben von Dateien sowie Ausführen von Skripten über OpenClaw beherrschen und keine Monstergrafikkarten benötigen. Eines der Modelle passt in den Grafikspeicher von 16-GByte-Grafikkarten, etwa einer GeForce RTX 5060 Ti.
- OpenClaw kann nicht nur mit großen Cloud-KIs arbeiten, auch lokale LLMs lassen sich in das Agenten-Framework einbinden, wo sie Funktionen übernehmen können, die über reine Chats hinausgehen.
- Für den Artikel testen wir OpenClaw im Zusammenspiel mit Ollama. Das gewählte LLM passt in den Videospeicher einer 16-GByte-Grafikkarte. Es kann uns etwa Skripte schreiben und wiederkehrende Aufgaben in Form von Cronjobs abarbeiten, die wir zuvor mit einer Cloud-KI erstellt haben. So nimmt die lokale KI der großen aus der Cloud Arbeit ab und senkt den Verbrauch kostenpflichtiger Token.
- Auch die lokale Bildgenerierung über ComfyUI haben wir an OpenClaw angeschlossen. So kann man etwa im mobilen Messenger einen Prompt eingeben, den die KI nutzt, um ein Bild in ComfyUI zu erstellen und anschließend via Messenger an den Nutzer zu senden.
Der Artikel erläutert, wie man Ollama-LLMs für agentische Funktionen über OpenClaw unter der Linux-Distribution Ubuntu einsetzen kann. Ein Praxisbeispiel erklärt, wie die lokale KI etwa in Cronjobs kleinere wiederkehrende Aufgaben erledigt. So nimmt sie den teuren Cloud-Modellen Arbeit ab und senkt den kostenpflichtigen Token-Verbrauch. Zudem verknüpfen wir ComfyUI zur lokalen Bildgenerierung mit OpenClaw. Auf einen Befehl, etwa über einen mobilen Messenger, gibt dann eine nichtlokale KI Befehle an die . So können Nutzer etwa komplexere Bildgenerierungs-Workflows in OpenClaw nutzen, die einfache Bildgeneratoren nicht bieten. Der Artikel setzt voraus, dass eine grundlegende Einrichtung von OpenClaw bereits stattgefunden hat. Eine kurze Einführung zur Installation und Konfiguration von OpenClaw finden Sie hier.
Das war die Leseprobe unseres heise-Plus-Artikels „Lokale KIs mit OpenClaw nutzen: Agenten und Bildgenerierung auf eigener Hardware“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.