So skalierst du Ollama mit zwei oder mehr GPUs – Parallele Instanzen für maximale Performance
Wer einen leistungsstarken Server mit zwei NVIDIA GPUs (wie z.B. zwei RTX A6000) betreibt, stößt...
Weiterlesen
Kategorie: Prozessautomatisierung mit n8n, ollama & Open Source LLMs
Email-to-Art: Automatisierung der KI-Bildgenerierung mit n8n, ComfyUI, Ollama & FLUX.1-dev
Stellen Sie sich vor, Sie erhalten eine E-Mail, die innerhalb von weniger als einer Minute auf...
Weiterlesen
- LLaMA Factory auf Gigabyte AI TOP ATOM installieren: Sprachmodelle mit LoRA und QLoRA fine-tunen
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama, Open WebUI und ComfyUI auf dem Gigabyte AI TOP ATOM installiert, kommt jetzt etwas für alle, die ihre eigenen Sprachmodelle anpassen also individuelle gestalten möchten: LLaMA Factory – ein Open-Source-Framework, das das Fine-Tuning von Large Language Models vereinfacht und Methoden wie LoRA, QLoRA und… LLaMA Factory auf Gigabyte AI TOP ATOM installieren: Sprachmodelle mit LoRA und QLoRA fine-tunen weiterlesen - ComfyUI auf Gigabyte AI TOP ATOM installieren: KI-Bildgenerierung mit Stable Diffusion im eigenen Netzwerk
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama und Open WebUI auf dem Gigabyte AI TOP ATOM installiert, kommt jetzt etwas für alle, die mit KI-generierten Bildern und kurzen KI-generierten Videos experimentieren möchten: ComfyUI – eine leistungsstarke, node-basierte Oberfläche für die Erstellung von KI-Bildern mit Diffusion-Modellen wie Stable Diffusion, SDXL oder Flux.… ComfyUI auf Gigabyte AI TOP ATOM installieren: KI-Bildgenerierung mit Stable Diffusion im eigenen Netzwerk weiterlesen - Open WebUI auf dem Gigabyte AI TOP ATOM: ChatGPT-ähnliche Chat-Oberfläche für das eigene Netzwerk
Nachdem ich im letzten Beitrag gezeigt habe, wie ihr Ollama auf dem Gigabyte AI TOP ATOM installiert und für Netzwerk-Zugriff konfiguriert, kommt jetzt der nächste logische Schritt: Eine benutzerfreundliche Chat-Oberfläche, die jeder im Netzwerk nutzen kann. Open WebUI ist genau das – eine selbst gehostete, erweiterbare KI-Oberfläche, die vollständig offline funktioniert und direkt mit Ollama… Open WebUI auf dem Gigabyte AI TOP ATOM: ChatGPT-ähnliche Chat-Oberfläche für das eigene Netzwerk weiterlesen - Ollama auf dem Gigabyte AI TOP ATOM: Zentraler LLM-Server für das gesamte Netzwerk
Wer mit Large Language Models experimentiert, kennt das Problem: Die lokale Hardware reicht oft nicht aus, um größere Modelle flüssig laufen zu lassen. Für mich war die Lösung klar: Ich nutze einen Gigabyte AI TOP ATOM mit seiner mächtigen Blackwell-GPU als dedizierten Ollama-Server im Netzwerk. So können alle Computer in meinem lokalen Netzwerk auf die… Ollama auf dem Gigabyte AI TOP ATOM: Zentraler LLM-Server für das gesamte Netzwerk weiterlesen - Chatterbox TTS: Modulare Text-to-Speech-Lösung – Teil 2
Nach dem im Teil 1 bereits die Lösung im Detail vorgestellt wurde und die Architektur erläutert wurde geht es jetzt im Teil 2 um die Installation und Konfiguration der Lösung. Installation und Einrichtung der virtuellen Python-Umgebung Um eine saubere und reproduzierbare Umgebung zu gewährleisten, verwende ich eine dedizierte Python Virtual Environment (venv). Das hat sich… Chatterbox TTS: Modulare Text-to-Speech-Lösung – Teil 2 weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…