Begeistert von KI und den ersten Berichten von openClaw habe ich mir das angeschaut und wollte verstehen, wie openClaw funktioniert und was man damit so machen kann. Nach ersten Wow-Effekten kam die Enttäuschung. Alles ist m.E. kompliziert gebaut, viel Overhead und sehr mächtig, wenn man nicht aufpasst. Noch dazu kann man damit so viel machen, dass es einfach zu viel ist. Ich saß davor, wie damals zu Beginn des Internets für Normalos. Browser gestartet, leere Seite, und was mach ich jetzt damit?
Erst Suchmaschinen haben mir damals den Zugang zum World-Wide-Web geöffnet. Ähnlich ging es mir mit openClaw. Was genau mach ich jetzt damit? Die paar Anwendungsfäll der möglichen Automatisierung, die mir da einfielen, wollte ich nicht eine KI machen lassen, schon gar nicht die Daten in openAI oder Claude oder wo anders hin ausleiten.
So habe ich mir angeschaut, was openClaw wie macht, und meinen eigenen Agenten, den Bolle, gebaut. Die Architektur entspricht wahrscheinlich einem ähnlichen Schema, ist nur deutlich einfacher. Der Kern von Bolle ist in python geschrieben und orchestriert verschiedene Skills (andere bezeichnen die Fähigkeiten als Tools – sei´s drum). Jede der Anfragen an Bolle werden durch ein LLM analysiert. Das LLM ist angewiesen, basierend auf allen vorhandenen Skills (Teil vom Kontext), den oder die richtigen Skill/s für die Anfrage zu ermitteln. Jeder Skill an sich ist auch in Python geschrieben und nutzt die Eingaben aus dem Orchestrator (Kern) um zu arbeiten. So kann ein Skill bspw. im Internet recherchieren, ein anderer kann selbst eigenen Python Code erstellen, falls das nötig sein sollte. Das Ergebnis des Skills landet wieder in einem LLM-Aufruf um ggf. einen weiteren Skill aufzurufen, der mit dem Ergebnis des vorherigen Skills weiterrechnet. Zu Guter Letzt wird das Ergebnis der einzelnen Skill-Aufrufe erneut in einen LLM-Aufruf gekippt, um eine sinnvolle und schöne Antwort zu generieren. That´s it, kein Hexenwerk.
Nach zahlreichen Versuchen, ein LLM lokal betreiben zu können, musste ich aufgrund der Hardware-Limits aufgeben und nutze nun doch GPT-4.0-mini. Das ist relativ günstig und kann tatsächlich aus einem mitgegebenen Kontext in strukturierter Weise antworten (JSON-Format), damit die Inputs in die Skills nutzbar werden.
Fazit: ich nutze Bolle eigentlich nur, um sich Dinge zu merken oder im Netz zu recherchieren, mir verschiedene Inhalte zusammenzufassen oder mir Listen zu erstellen. Für alles Weitere traue ich der KI doch nicht ausreichend Akuratess zu, um nicht doch aus Versehen Dinge zu löschen oder zu aktivieren, die ich nicht wollte. Und das, was mein Bolle jetzt so kann, das kann Google Gemini oder Claude auch – also ist Bolle für mich bisher nur ein kleines Spielzeug.
Die eigentliche Power würde er aber entfalten, wenn ich ihm Zugriff auf verschiedene APIs oder Systemdateien gebe. Dann könnte er für mich lange E-Mail Kaskaden zusammenfassen oder ein Shopsystem steuern, eigene Marketing-Kampagnen bauen oder Analysen für mich erstellen. Ja, wenn ich dem LLM nur ausreichend vertrauen würde…
