RTX A6000 vs. AMD Radeon AI PRO R9700: Qwen3.6 im LLM-Benchmark
Meine beiden NVIDIA RTX A6000 haben inzwischen fünf Jahre auf dem Buckel. Sie stammen aus der...
Weiterlesen
Kategorie: News
Souveräner Voice-Agent: Lokales Wake-Word als Türsteher vor ASR, LLM und TTS
In Teil 6 habe ich ASR, LLM und TTS mit NVIDIA Pipecat zu einem vollständigen, lokalen Voice-Loop...
Weiterlesen
Voice-Agent mit Tool-Calling: NAT als Gehirn im lokalen Pipecat-Loop Zeitansage & Co.
In Teil 6 steht der erste vollständige, lokale Voice-Loop: Ich spreche, Parakeet transkribiert,...
Weiterlesen
Lokaler Voice-Agent: ASR, LLM und TTS mit NVIDIA Pipecat lokal zum Loop verbinden
Alle Bausteine liegen jetzt lokal vor: ASR (Parakeet, Canary), TTS (Magpie), ein LLM über meinen...
Weiterlesen
NVIDIA NeMo Agent Toolkit (NAT): den Agenten-Orchestrator lokal aufsetzen
Die beiden Hälften eines Sprach-Agenten stehen: Mit Parakeet (Teil 2) und Canary (Teil 3) hört der...
Weiterlesen
NVIDIA Magpie TTS lokal: deutsche Sprachausgabe als Microservice
Die Spracherkennung steht: Mit Parakeet (Teil 2) und Canary (Teil 3) habe ich die Eingangsrichtung...
Weiterlesen
NVIDIA Canary lokal: mehrsprachige Spracherkennung und Übersetzung als NIM
In Teil 2 habe ich mit Parakeet ein streamingfähiges ASR-NIM für Deutsch als Sprache aufgesetzt...
Weiterlesen
NVIDIA NIM lokal: deutsche Spracherkennung als Microservice betreiben
In meinem letzten Beitrag habe ich NVIDIA Nemotron ASR Streaming direkt mit NeMo lokal betrieben....
Weiterlesen
NVIDIA Nemotron ASR Streaming lokal installieren – Schritt-für-Schritt-Anleitung
Echtzeit-Spracherkennung gehört zu den Bausteinen, die ich für souveräne Sprach-Agenten unbedingt...
Weiterlesen
llama-benchy: LLM-Benchmarks im llama-bench-Stil für jeden OpenAI-kompatiblen Endpoint
Wer wie ich seine Modelle lokal und souverän betreibt, kennt das Problem: Ich will wissen, wie...
Weiterlesen
Firecrawl im eigenen LAN: Sovereign Web-Scraping mit lokalem Ollama-Server
Schon länger juckt es mich in den Fingern: Firecrawl selbst gehostet, im eigenen LAN, ohne...
Weiterlesen
NemoClaw als systemd-Service automatisch starten
Im letzten Beitrag habe ich Euch gezeigt, wie ich NemoClaw auf einem Dell OptiPlex 5040 mit Ubuntu...
Weiterlesen
- RTX A6000 vs. AMD Radeon AI PRO R9700: Qwen3.6 im LLM-Benchmark
Meine beiden NVIDIA RTX A6000 haben inzwischen fünf Jahre auf dem Buckel. Sie stammen aus der Ampere-Generation und unterstützen die neueren FP8-Formate moderner LLMs nicht mehr direkt in Hardware. Trotzdem leisten sie in meinem Homelab täglich treue Dienste als souveräner KI-Server. Als Dr. Tristan Behrens auf LinkedIn von MIFCOM eine Workstation mit einer brandaktuellen AMD-GPU… RTX A6000 vs. AMD Radeon AI PRO R9700: Qwen3.6 im LLM-Benchmark weiterlesen - Souveräner Voice-Agent: Lokales Wake-Word als Türsteher vor ASR, LLM und TTS
In Teil 6 habe ich ASR, LLM und TTS mit NVIDIA Pipecat zu einem vollständigen, lokalen Voice-Loop verdrahtet. In Teil 7 habe ich diesem Loop ein Gehirn mit zwei Tools gegeben: Der NAT-Agent hängt jetzt als „LLM-Stufe“ im Loop und kann über Tools echte Aktionen ausführen, etwa die Zeit ansagen oder die GPU-Auslastung melden. Es… Souveräner Voice-Agent: Lokales Wake-Word als Türsteher vor ASR, LLM und TTS weiterlesen - Voice-Agent mit Tool-Calling: NAT als Gehirn im lokalen Pipecat-Loop Zeitansage & Co.
In Teil 6 steht der erste vollständige, lokale Voice-Loop: Ich spreche, Parakeet transkribiert, ein Ollama-LLM antwortet, Magpie spricht. Schön zum Reden auf Basis des gelernten Wissens des LLMs aber der Agent kann noch nichts tun: Im Loop hängt ein nacktes LLM, das frei drauflosredet und keinen Zugriff auf Werkzeuge hat. Genau da setzt dieser Teil… Voice-Agent mit Tool-Calling: NAT als Gehirn im lokalen Pipecat-Loop Zeitansage & Co. weiterlesen - Lokaler Voice-Agent: ASR, LLM und TTS mit NVIDIA Pipecat lokal zum Loop verbinden
Alle Bausteine liegen jetzt lokal vor: ASR (Parakeet, Canary), TTS (Magpie), ein LLM über meinen Ollama-Server und der Orchestrator (NAT, Teil 5). Jetzt verbinde ich sie zu einem durchgängigen, unterbrechbaren Sprach-Loop. Das wird mein erster kleine lokale Voice-Agent. Mein Zielbild ist eine Art General-Agent: Ich spreche, er versteht, erledigt Dinge und antwortet mir in natürlicher… Lokaler Voice-Agent: ASR, LLM und TTS mit NVIDIA Pipecat lokal zum Loop verbinden weiterlesen - NVIDIA NeMo Agent Toolkit (NAT): den Agenten-Orchestrator lokal aufsetzen
Die beiden Hälften eines Sprach-Agenten stehen: Mit Parakeet (Teil 2) und Canary (Teil 3) hört der Agent zu, mit Magpie (Teil 4) antwortet er. Was noch fehlt, ist das Gehirn: die Schicht, die aus dem erkannten Text eine Entscheidung macht und die passende Antwort oder Aktion auslöst. Genau dafür nehme ich mir in diesem Teil… NVIDIA NeMo Agent Toolkit (NAT): den Agenten-Orchestrator lokal aufsetzen weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…