Voice-Agent mit Tool-Calling: NAT als Gehirn im lokalen Pipecat-Loop Zeitansage & Co.
In Teil 6 steht der erste vollständige, lokale Voice-Loop: Ich spreche, Parakeet transkribiert,...
Weiterlesen
Autor: Maker
Lokaler Voice-Agent: ASR, LLM und TTS mit NVIDIA Pipecat lokal zum Loop verbinden
Alle Bausteine liegen jetzt lokal vor: ASR (Parakeet, Canary), TTS (Magpie), ein LLM über meinen...
Weiterlesen
NVIDIA NeMo Agent Toolkit (NAT): den Agenten-Orchestrator lokal aufsetzen
Die beiden Hälften eines Sprach-Agenten stehen: Mit Parakeet (Teil 2) und Canary (Teil 3) hört der...
Weiterlesen
NVIDIA Magpie TTS lokal: deutsche Sprachausgabe als Microservice
Die Spracherkennung steht: Mit Parakeet (Teil 2) und Canary (Teil 3) habe ich die Eingangsrichtung...
Weiterlesen
NVIDIA Canary lokal: mehrsprachige Spracherkennung und Übersetzung als NIM
In Teil 2 habe ich mit Parakeet ein streamingfähiges ASR-NIM für Deutsch als Sprache aufgesetzt...
Weiterlesen- Dev-Umgebung für Claude Code einrichten: Ubuntu, GitHub und uv sauber aufsetzen
Ich entwickle in letzter Zeit immer öfter mit Claude Code. Und dabei ist mir eines schnell klar geworden. Bevor der erste Prompt läuft, braucht es eine saubere Entwicklungsumgebung. Sonst wird aus dem KI-Assistenten schnell ein Chaos-Assistent bzw. ein Assistent der viele Tokens verbraucht. Soll heißen den Anfang macht das Setup und die Konfiguration meines Ubuntu… Dev-Umgebung für Claude Code einrichten: Ubuntu, GitHub und uv sauber aufsetzen weiterlesen - cuFOLIO Web-UI: GPU-Portfolio-Optimierung auf RTX A6000
Im ersten Teil habe ich cuFOLIO headless als Skript auf meinem Dual-A6000-Server zum Laufen gebracht. Ein kleines run_cvar.py, ein uv run, und die Ergebnisse liegen sauber im Ordner results/. Für Automatisierung und Versionierung ist das schon ordentlich. Eine kleine Datenbank für die einzelnen Läufe wäre der logische nächste Schritt. Darum geht es mir hier aber… cuFOLIO Web-UI: GPU-Portfolio-Optimierung auf RTX A6000 weiterlesen - GPU-Portfolio-Optimierung per Skript auf dual RTX A6000
Mein Homelab-Server mit zwei NVIDIA RTX A6000 macht im Alltag KI-Inferenz. Er bedient lokale Sprachmodelle und bleibt dabei souverän in den eigenen vier Wänden. An diesem Wochenende wollte ich aber etwas ganz anderes ausprobieren. Können die beiden Karten auch eine klassische Finanzaufgabe rechnen? Konkret die Optimierung eines Wertpapier-Portfolios direkt auf der GPU. Das Werkzeug dafür… GPU-Portfolio-Optimierung per Skript auf dual RTX A6000 weiterlesen - RTX A6000 vs. AMD Radeon AI PRO R9700: Qwen3.6 im LLM-Benchmark
Meine beiden NVIDIA RTX A6000 haben inzwischen fünf Jahre auf dem Buckel. Sie stammen aus der Ampere-Generation und unterstützen die neueren FP8-Formate moderner LLMs nicht mehr direkt in Hardware. Trotzdem leisten sie in meinem Homelab täglich treue Dienste als souveräner KI-Server. Als Dr. Tristan Behrens auf LinkedIn von MIFCOM eine Workstation mit einer brandaktuellen AMD-GPU… RTX A6000 vs. AMD Radeon AI PRO R9700: Qwen3.6 im LLM-Benchmark weiterlesen - Souveräner Voice-Agent: Lokales Wake-Word als Türsteher vor ASR, LLM und TTS
In Teil 6 habe ich ASR, LLM und TTS mit NVIDIA Pipecat zu einem vollständigen, lokalen Voice-Loop verdrahtet. In Teil 7 habe ich diesem Loop ein Gehirn mit zwei Tools gegeben: Der NAT-Agent hängt jetzt als „LLM-Stufe“ im Loop und kann über Tools echte Aktionen ausführen, etwa die Zeit ansagen oder die GPU-Auslastung melden. Es… Souveräner Voice-Agent: Lokales Wake-Word als Türsteher vor ASR, LLM und TTS weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…