Hermes Agent als native Desktop-App unter Windows
Nous Research hat seinem quelloffenen Hermes Agent mit dem „Surface Release“ (Version 0.16.0, Juni...
Weiterlesen
Schlagwort: Ollama
Firecrawl im eigenen LAN: Sovereign Web-Scraping mit lokalem Ollama-Server
Schon länger juckt es mich in den Fingern: Firecrawl selbst gehostet, im eigenen LAN, ohne...
Weiterlesen
OpenShell-Egress-Policies in der Praxis: Firecrawl an NemoClaw anbinden
In den letzten zwei Beiträgen habe ich Euch gezeigt, wie ich NemoClaw auf einem Dell OptiPlex 5040...
Weiterlesen
NemoClaw als systemd-Service automatisch starten
Im letzten Beitrag habe ich Euch gezeigt, wie ich NemoClaw auf einem Dell OptiPlex 5040 mit Ubuntu...
Weiterlesen
Souveräne KI auf einem 10 Jahre alten Office-PC: NemoClaw auf Dell OptiPlex 5040 mit eigenem Ollama-Server
Warum NemoClaw jetzt in meine KI-Werkstatt einzieht In den letzten Wochen habe ich euch in...
Weiterlesen
NeMo Agent Toolkit – Multi-Agent Supervisor-Pattern lokal
Nachdem ich in meinem letzten Beitrag die ReAct-Schleife im Detail seziert und das erste eigene...
Weiterlesen
NeMo Agent Toolkit – GenAI Agent Orchestrierung lokal
Agent-Orchestrierung ist konzeptionell genau der Sprung, der aus „LLM-Inferenz“ tatsächlich...
Weiterlesen
NeMo Agent Toolkit auf der RTX A6000 Ada – vom Inferenz-Layer zum Orchestrator-Layer
In meiner vierteiligen TensorRT-LLM-Serie habe ich gezeigt, wie ich Inferenz-Performance auf der...
Weiterlesen
Souveräne KI auf dem Mikrocontroller: Wie ich mit ESP-Claw einen KI-Agenten auf HMI-Hardware zum Leben erwecke – Auftakt einer neuen Serie
Nachdem ich euch in meinen Beitrag zum Thema „Souveräne KI“ gezeigt habe, wie ich mit...
Weiterlesen
Ein KI-generiertes Browser-Spiel mit Qwen 3.6 entwickeln – Ein kreatives Experiment
Ich habe mich in letzter Zeit mit der Schnittstelle zwischen lokaler KI-Inferenz und kreativer...
Weiterlesen
Open WebUI auf dem Gigabyte AI TOP ATOM: ChatGPT-ähnliche Chat-Oberfläche für das eigene Netzwerk
Nachdem ich im letzten Beitrag gezeigt habe, wie ihr Ollama auf dem Gigabyte AI TOP ATOM...
Weiterlesen
Ollama auf dem Gigabyte AI TOP ATOM: Zentraler LLM-Server für das gesamte Netzwerk
Wer mit Large Language Models experimentiert, kennt das Problem: Die lokale Hardware reicht oft...
Weiterlesen
- NVIDIA Magpie TTS lokal: deutsche Sprachausgabe als Microservice
Die Spracherkennung steht: Mit Parakeet (Teil 2) und Canary (Teil 3) habe ich die Eingangsrichtung also Sprache zu Text NVIDIA-nativ abgedeckt. Jetzt kommt die Gegenrichtung, die Sprachausgabe. In diesem Beitrag betreibe ich NVIDIA Magpie TTS als lokales NIM und lasse mir deutschen Text natürlich vorlesen. Das ist das NVIDIA-native Gegenstück zu meinem früheren Beitrag über… NVIDIA Magpie TTS lokal: deutsche Sprachausgabe als Microservice weiterlesen - NVIDIA Canary lokal: mehrsprachige Spracherkennung und Übersetzung als NIM
In Teil 2 habe ich mit Parakeet ein streamingfähiges ASR-NIM für Deutsch als Sprache aufgesetzt und als live Service betreiben mit niedriger Latenz. In diesem Beitrag nehme ich mir das Schwestermodell vor: NVIDIA Canary als NIM. Canary glänzt nicht bei der Latenz, sondern bei der Genauigkeit und es kann etwas, das Parakeet nicht beherrscht: übersetzen. Aus… NVIDIA Canary lokal: mehrsprachige Spracherkennung und Übersetzung als NIM weiterlesen - NVIDIA NIM lokal: deutsche Spracherkennung als Microservice betreiben
In meinem letzten Beitrag habe ich NVIDIA Nemotron ASR Streaming direkt mit NeMo lokal betrieben. Das war der „nackte“ Weg über das Framework. In diesem Beitrag gehe ich einen Schritt weiter und steige in NVIDIA NIM ein. NIM steht für NVIDIA Inference Microservices also die Microservice-Variante, mit der NVIDIA seine Modelle als fertige, optimierte Container… NVIDIA NIM lokal: deutsche Spracherkennung als Microservice betreiben weiterlesen - NVIDIA Nemotron ASR Streaming lokal installieren – Schritt-für-Schritt-Anleitung
Echtzeit-Spracherkennung gehört zu den Bausteinen, die ich für souveräne Sprach-Agenten unbedingt selbst hosten möchte. Ich stelle mir das immer so vor das ich alles lokal laufen lasse ohne Cloud-API, ohne dass mein Audioaufnahme mein Netzwerk verlässt. Mit dem im März 2026 aktualisierten Modell NVIDIA Nemotron ASR Streaming (0.6B) gibt es dafür inzwischen eine sehr attraktive… NVIDIA Nemotron ASR Streaming lokal installieren – Schritt-für-Schritt-Anleitung weiterlesen - Open WebUI Sprachsteuerung lokal: Deutsche STT & TTS mit Whisper, Piper und XTTS
In meinem lokalen KI-Stack laufen bereits Inferenz-Server, Open WebUI, der Hermes-Agent, Firecrawl, SearXNG, ComfyUI und noch einige mehr. Alles habe ich auf eigener Hardware, ohne Cloud aufgesetzt. Was bisher als Integration in Open WebUI mir fehlte: Sprache. Ich wollte Open WebUI per Stimme Texte diktieren können (Speech-to-Text) und mir die Antworten vorlesen lassen (Text-to-Speech), und… Open WebUI Sprachsteuerung lokal: Deutsche STT & TTS mit Whisper, Piper und XTTS weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…