So skalierst du Ollama mit zwei oder mehr GPUs – Parallele Instanzen für maximale Performance
Wer einen leistungsstarken Server mit zwei NVIDIA GPUs (wie z.B. zwei RTX A6000) betreibt, stößt...
Weiterlesen
Schlagwort: nvidia
NVIDIA RTX 5090: Hardware-Defekt führt zu fehlenden ROPs und Leistungseinbußen
NVIDIAs Blackwell GPUs haben derzeit erhebliche Probleme aufgrund eines Hardware-Defekts, der zu...
Weiterlesen
DeepSeek R1 Die neue Revolution im KI-Bereich
In einer bahnbrechenden Woche am 2025-01-20 hat das chinesische Startup DeepSeek mit seinem neuen...
Weiterlesen
Landminen-Erkennung in Echtzeit: Integration von FLIR-Kameramodul, RGB-Kamera und neuronalem YOLO-Netzwerk
Den ersten Roboter, mit dem ich nach Landminen/Metallen im Boden suchte, baute ich 2015 selbst in...
Weiterlesen
Das Industrial Metaverse als Basis für die Fabrik der Zukunft
Mit ihrem Vortrag zum Thema „Das Industrial Metaverse als Basis für die Fabrik der...
Weiterlesen
YOLOv5 – Optimierung der Trainingsdaten für die Erkennung von PFM-1 Antipersonenminen
Nach dem ich die ersten 31 Modelle trainiert habe für die Erkennung von Antipersonenminen ist mein...
Weiterlesen
YOLOv5 – Training eines neuronalen Netzes für die Erkennung von PFM-1 Antipersonenminen
Bei diesem Beitrag geht es darum ein neuronales Netz auf Basis von YOLOv5 zu trainieren. Dieses...
Weiterlesen
Deep-Learning PC selber bauen – Die Gehäuse Auswahl
Die Wahl des Gehäuses ist eigentlich recht einfach. Alle Komponenten müssen in das Gehäuse passen....
Weiterlesen
Deep-Learning PC selber bauen – Auswahl der Grafikkarte
In diesem Artikel gehe ich auf die wichtigste Komponente die Grafikkarte ein die einen Rechner...
Weiterlesen
Deep-Learning PC selber bauen – eine Schritt für Schritt Bauanleitung
Es ist seit über 17 Jahren mal wieder an der Zeit, dass ich mir selber einen PC zusammen bauen den...
Weiterlesen
Übersicht veröffentlichter neuronaler Netze
In diesem Artikel geht es darum, hier Quellen zu sammeln und aufzulisten welche bereits...
Weiterlesen
AI Pipeline – Bilder und Video Anonymization API
Nach dem Sie jetzt erste Erfahrungen mit der No-Code AI Pipeline gesammelt haben geht es weiter...
Weiterlesen
- LibreChat auf Gigabyte AI TOP ATOM installieren: Professionelle Chat-Oberfläche für lokale LLM-Modelle
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama, Open WebUI, ComfyUI, LLaMA Factory, vLLM und LM Studio auf dem Gigabyte AI TOP ATOM installiert, kommt jetzt eine weitere interessante Alternative für alle, die eine professionelle Chat-Oberfläche mit erweiterten Features wie RAG (Retrieval-Augmented Generation), Multi-User-Support und Plugin-System suchen: LibreChat ist eine Open-Source-Alternative zu… LibreChat auf Gigabyte AI TOP ATOM installieren: Professionelle Chat-Oberfläche für lokale LLM-Modelle weiterlesen - LM Studio auf Gigabyte AI TOP ATOM installieren: Benutzerfreundliche GUI mit OpenAI-kompatibler API für lokale LLMs
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama, Open WebUI, LLaMA Factory, vLLM, ComfyUI und das AI Toolkit auf dem Gigabyte AI TOP ATOM installiert, kommt jetzt eine weitere interessante Alternative für alle, die eine benutzerfreundliche GUI-Oberfläche für lokale Large Language Models suchen und eben nicht Ollama verwenden möchten: LM Studio –… LM Studio auf Gigabyte AI TOP ATOM installieren: Benutzerfreundliche GUI mit OpenAI-kompatibler API für lokale LLMs weiterlesen - RAGFlow auf Ubuntu Server installieren: RAG-System mit zwei NVIDIA RTX A6000 GPUs einrichten
Wer mit Large Language Modellen arbeitet und gleichzeitig große Mengen an Dokumenten analysieren möchte, kennt das Problem: Einfache Chat-Interfaces reichen nicht aus, wenn es darum geht, spezifische Informationen aus PDFs, Word-Dokumenten oder anderen Dateiformaten zu extrahieren und zu verstehen. Für mich war die Lösung klar: Ich nutze RAGFlow auf meinem X86 Ubuntu Server mit zwei… RAGFlow auf Ubuntu Server installieren: RAG-System mit zwei NVIDIA RTX A6000 GPUs einrichten weiterlesen - AI Toolkit auf Gigabyte AI TOP ATOM installieren – Schritt-für-Schritt Anleitung – Teil 2-2
Phase 8: Web-UI kompilieren und starten Jetzt kann ich die Web-UI kompilieren und starten. Zuerst wechsle ich in das UI-Verzeichnis des AI Toolkits: Befehl: cd ui Falls ihr das AI Toolkit Repository noch nicht geklont habt, müsst ihr das zuerst tun. Das UI-Verzeichnis sollte sich im Root-Verzeichnis des AI Toolkit Repositories befinden. Jetzt starte ich… AI Toolkit auf Gigabyte AI TOP ATOM installieren – Schritt-für-Schritt Anleitung – Teil 2-2 weiterlesen - AI Toolkit auf Gigabyte AI TOP ATOM installieren – Schritt-für-Schritt Anleitung – Teil 1-2
Nachdem ich in meinen vorherigen Beiträgen gezeigt habe, wie ihr Ollama, Open WebUI, LLaMA Factory, vLLM und ComfyUI auf dem Gigabyte AI TOP ATOM installiert, kommt jetzt etwas für alle, die ihre eigenen Stable Diffusion AI-Modelle trainieren möchten: AI Toolkit von Ostris – eine umfassende Lösung für das Training von Stable Diffusion Modellen mit einer… AI Toolkit auf Gigabyte AI TOP ATOM installieren – Schritt-für-Schritt Anleitung – Teil 1-2 weiterlesen
Ein toller Guide der leicht zugänglich und verständlich ist. Perfekt für ein kleines Side-Project geeignet. Aktuell half mir noch mein…
Thank you for this great tutorial, could you share n8n workflow and comfyui workflow please?
Hallo Anton, die Meldung besagt das in meinem Beisiel Methoden verwendet werden die veraltet (deprecated) sind. Also müsstest Du die…
Danke für das Tool! Ich habe erst kürzlich angefangen mich mit der Thematik zu beschäftigen und bin für meine Erwartungen…
Hallo, ich habe ihre Anleitung befolgt und bekomme im letzten Schritt leider immer folgende Meldung im Terminal: bash <(wget -qO-…