Souveräne KI im Heimnetz: Das Hermes Agent Dashboard sicher als systemd-Service betreiben
Mein Hermes Agent läuft seit mehreren Wochen produktiv auf meinem Applikation-Server: als...
Weiterlesen
Schlagwort: lokale KI
Souveräne KI auf dem Mikrocontroller: Wie ich mit ESP-Claw einen KI-Agenten auf HMI-Hardware zum Leben erwecke – Auftakt einer neuen Serie
Nachdem ich euch in meinen Beitrag zum Thema „Souveräne KI“ gezeigt habe, wie ich mit...
Weiterlesen
LM Studio auf Gigabyte AI TOP ATOM installieren: Benutzerfreundliche GUI mit OpenAI-kompatibler API für lokale LLMs
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama, Open WebUI, LLaMA...
Weiterlesen
ComfyUI auf Gigabyte AI TOP ATOM installieren: KI-Bildgenerierung mit Stable Diffusion im eigenen Netzwerk – Teil 1-2
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama und Open WebUI auf dem...
Weiterlesen
Open WebUI auf dem Gigabyte AI TOP ATOM: ChatGPT-ähnliche Chat-Oberfläche für das eigene Netzwerk
Nachdem ich im letzten Beitrag gezeigt habe, wie ihr Ollama auf dem Gigabyte AI TOP ATOM...
Weiterlesen
Ollama auf dem Gigabyte AI TOP ATOM: Zentraler LLM-Server für das gesamte Netzwerk
Wer mit Large Language Models experimentiert, kennt das Problem: Die lokale Hardware reicht oft...
Weiterlesen
Mein KI Cockpit für die Souveränität: Open WebUI als ChatGPT Web-Interface für Deinen Ollama-Server
Du hast den ersten großen Schritt getan: Dein eigner, unabhängiger Ollama-Server läuft, die Tokens...
Weiterlesen
- NemoClaw als systemd-Service automatisch starten
Im letzten Beitrag habe ich Euch gezeigt, wie ich NemoClaw auf einem Dell OptiPlex 5040 mit Ubuntu 24.04 aufgesetzt habe und meinen Ollama-Server als Inferenz-Backend nutze. Ein Punkt ist mir dabei direkt aufgefallen: Nach jedem Reboot des OptiPlex muss ich NemoClaw manuell wieder hochfahren. Docker selbst startet brav als systemd-Service, aber das OpenShell-Gateway und der… NemoClaw als systemd-Service automatisch starten weiterlesen - Souveräne KI auf einem 10 Jahre alten Office-PC: NemoClaw auf Dell OptiPlex 5040 mit eigenem Ollama-Server
Warum NemoClaw jetzt in meine KI-Werkstatt einzieht In den letzten Wochen habe ich euch in mehreren Beiträgen gezeigt, wie ich Stück für Stück meine eigene KI-Infrastruktur aufbaue: einen lokalen Inferenz-Server mit zwei RTX A6000 GPUs unter Ollama, einen ESP-Claw auf einem Guition JC1060P470 als Embedded-Agent und einen eigenen MCP-Server für GPU-Monitoring. Alles lokal, alles ohne… Souveräne KI auf einem 10 Jahre alten Office-PC: NemoClaw auf Dell OptiPlex 5040 mit eigenem Ollama-Server weiterlesen - Souveräne KI im Heimnetz: Das Hermes Agent Dashboard sicher als systemd-Service betreiben
Mein Hermes Agent läuft seit mehreren Wochen produktiv auf meinem Applikation-Server: als Telegram-Gateway, mit angebundenem MCP-Server für GPU-Monitoring und mit ein paar Cron-Jobs für tägliche Hintergrundaufgaben. Konfiguriert habe ich bisher alles über die CLI und direkt in der ~/.hermes/config.yaml. Das funktioniert wunderbar, ist aber nicht immer der schnellste Weg. Besser ist da schon ein Web-Dashboard… Souveräne KI im Heimnetz: Das Hermes Agent Dashboard sicher als systemd-Service betreiben weiterlesen - Ein MCP-Server für Multi-GPU-Monitoring – Schritt für Schritt mit Python, pynvml und EMA-Glättung
In meinen letzten Beiträgen habe ich den Inferenz-Layer (Ollama, TensorRT-LLM) und den Orchestrator-Layer (NeMo Agent Toolkit) auf meinem Applikations-Server in Kombination mit meinem KI-Server aufgebaut. Was bisher gefehlt hat, ist eine sinnvolle Brücke zwischen diesen Server-Schichten und der Welt der Embedded-Geräte in meiner Werkstatt. Das war der Moment, an dem ich mir das Model Context… Ein MCP-Server für Multi-GPU-Monitoring – Schritt für Schritt mit Python, pynvml und EMA-Glättung weiterlesen - ESP-Claw aktuell halten – Update, Rebuild und Re-Flash auf das Guition JC1060P470
Nachdem ich euch in Teil 4 meiner ESP-Claw-Serie gezeigt habe, wie ich meinen ESP-Claw-Agenten zum ersten Mal mit meinem lokalen Ollama-Server zum Reden gebracht habe, ist erst einmal Ruhe eingekehrt. Mein Guition JC1060P470 läuft, redet mit Qwen 3.6 35B auf meinen RTX A6000-GPUs und tut, was es soll. Aber ESP-Claw ist ein sehr aktives Open-Source-Projekt.… ESP-Claw aktuell halten – Update, Rebuild und Re-Flash auf das Guition JC1060P470 weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…