Omarchy für lokale KI: Was das Linux von DHH im Betrieb taugt

Kurz gesagt

• Omarchy ist ein kostenloses Linux auf Basis von Arch Linux mit fertig eingerichteter Oberfläche. Es richtet sich an Entwickler und technisch versierte Teams, weniger an den klassischen Büroarbeitsplatz.
• Lokale Modelle sind eingebaut: Ein Menüpunkt installiert LM Studio oder Ollama. Auf Nvidia-Rechnern wird die Grafikkarte automatisch genutzt, auf AMD-Rechnern müssen Sie nachhelfen.
• Nicht alles bleibt im Haus: Die Modelle laufen ohne Internet, einige Voreinstellungen schicken aber Daten nach draußen, etwa das Diktat. Das sollten Sie vor dem Einsatz umstellen.
• Im Unternehmen: guter Schutz ab Werk mit Verschlüsselung, Firewall und Sicherungspunkten, aber kein kommerzieller Support und ein Rolling Release, das Pflege verlangt.

Was Omarchy ist

Omarchy erschien im Juni 2025 zunächst als Einrichtung für ein vorhandenes Arch Linux. Heute ist es eine eigene Distribution mit Installationsabbild, eigener Paketquelle und eigenem Kernel. Die Oberfläche bildet Hyprland, das Fenster automatisch nebeneinander anordnet. Bedient wird vor allem über Tastenkürzel, seit Version 4.5 gibt es zusätzlich einen herkömmlichen Desktop-Modus.

Aktuell ist Version 4.5 vom 4. November 2026. Seit August 2026 pflegt die gemeinnützige Omacom Foundation das Projekt, finanziert unter anderem von 37signals, Shopify-Chef Tobi Lütke und Michael Dell. Omarchy steht unter der MIT-Lizenz und kostet nichts. Es läuft auf üblichen PCs und Notebooks, auf Intel-Macs und seit Version 4.5 auf Apple-Rechnern mit M1 bis M3. Für ARM-Rechner wie Nvidia DGX Spark gibt es eine vorläufige Unterstützung.

Lokale Modelle einrichten

Im Omarchy-Menü finden Sie unter Install › AI zwei Wege für lokale Modelle: LM Studio und Ollama. Das Handbuch empfiehlt Einsteigern LM Studio. Beide sind LLM-Runtimes, also Programme, die ein Modell laden und Antworten berechnen.

LM Studio: der einfache Einstieg

1. Im Omarchy-Menü Install › AI › LM Studio wählen.
2. LM Studio starten und in der Modellsuche ein Modell herunterladen, das in Ihren Grafikspeicher passt. Wie viel Platz ein Modell braucht, rechnet unser Speicherrechner vor.
3. Im Chat testen. Bei Bedarf stellt LM Studio das Modell über einen lokalen Endpunkt anderen Programmen bereit.

Ollama: für Skripte und andere Programme

1. Im Omarchy-Menü Install › AI › Ollama wählen.
2. Ein Modell laden und starten, etwa mit ollama run und dem Namen des Modells.
3. Mit ollama ps prüfen, ob in der Spalte PROCESSOR „100% GPU“ steht. Nur dann rechnet die Grafikkarte.

Welche Ollama-Variante das Menü installiert, entscheidet ein kleines Skript: Findet es den Nvidia-Befehl nvidia-smi, nimmt es ollama-cuda. Findet es das AMD-Werkzeug rocminfo, nimmt es ollama-rocm. Sonst installiert es die Grundfassung ollama, die laut Arch Wiki nur auf dem Prozessor rechnet.

Wichtig auf AMD-Rechnern

Omarchy richtet für AMD-Grafik nur die Vulkan-Treiber ein, nicht das Werkzeug rocminfo. Nach dem Programmcode landet ein frisch installierter AMD-Rechner deshalb bei der langsamen Prozessor-Fassung. Abhilfe:

• Die Vulkan-Fassung nachinstallieren: sudo pacman -S ollama-vulkan. Laut Arch Wiki ist sie auf AMD-Grafikkarten ab der Generation RDNA 3 meist schneller als die Variante mit ROCm.
• Bei Prozessoren mit integrierter Grafik, etwa dem Ryzen AI Max+ 395 in Mini-PCs mit 128 GB, muss Ollama die Grafik erst freigeben. Das Arch Wiki nennt dafür die Einstellung OLLAMA_IGPU_ENABLE=1.
• Danach wieder mit ollama ps prüfen.

ROCm selbst gibt es unter Arch in Version 7.2.4 aus den Paketquellen der Distribution. AMD unterstützt Arch nicht offiziell, die aktuelle AMD-Version ist 10.1.0.

Nvidia-Rechner

Für Grafikkarten ab der Generation Turing (RTX 20 und neuer) installiert Omarchy den offenen Nvidia-Treiber, für ältere Karten von Maxwell bis Volta einen älteren Treiberzweig. Das Entwicklerpaket CUDA ist nicht vorinstalliert. Für Ollama brauchen Sie es nicht, das Menü wählt die passende Fassung. Wer selbst Software für die Grafikkarte entwickelt, installiert das Paket cuda nach.

Weitere Werkzeuge

llama.cpp, die Grundlage vieler Runtimes, liegt mit Fassungen für Nvidia, AMD und Vulkan in den offiziellen Arch-Paketquellen. Die Weboberfläche Open WebUI gibt es dagegen nur im inoffiziellen Arch User Repository (AUR). Dessen Pakete prüft niemand systematisch, im Juni 2026 meldete das Arch-Projekt schädliche AUR-Pakete. Installieren Sie von dort nur, was Sie kennen.

In Entwicklung: abgeschottete Modelle für Agenten

Am 1. November 2026 hat Heinemeier Hansson eine Funktion in den Entwicklungszweig übernommen, die lokale Modelle für KI-Agenten bereitstellt: omarchy agent local. Sie ist in Version 4.5 noch nicht enthalten. Das Modell läuft in einem abgeschotteten Container ohne Internetzugang mit schreibgeschütztem System und ist nur am eigenen Rechner über eine OpenAI-kompatible Adresse mit Schlüssel erreichbar.

Der vorbereitete Katalog richtet sich bislang nur an Rechner mit 128 GB gemeinsamem Speicher: Mini-PCs mit AMD Strix Halo, Nvidia DGX Spark und Notebooks mit Nvidia N1X. Auf Strix Halo sind zum Beispiel Qwen 3.8-27B mit rund 40 GiB und ein größeres Qwen-Modell mit rund 100 GiB vorgesehen. Getestet hat Heinemeier Hansson nach eigenen Angaben auf einem Strix-Halo-Rechner mit 128 GB.

Welche Hardware passt?

Omarchy selbst ist genügsam. Eine Mindestausstattung nennt das Projekt nicht, auf seiner Website zeigt es als Beispiel ein ThinkPad von 2011 mit 2 GB Arbeitsspeicher. Für lokale Modelle entscheidet aber der schnelle Speicher von Grafikkarte oder Unified Memory. Schon 2025 schrieb Heinemeier Hansson über seinen Framework Desktop mit AMD Ryzen AI Max, die volle Ausstattung mit 128 GB lohne sich eigentlich nur für lokale Sprachmodelle.

Wie viel Speicher und Bandbreite Sie für ein bestimmtes Modell brauchen, zeigt der Ratgeber Passt das KI-Modell auf Ihre Grafikkarte? mit interaktivem Rechner. Was die einzelnen Klassen kosten, steht in Hardware für lokale KI.

Datenschutz: Was den Rechner trotzdem verlässt

Die Modelle selbst arbeiten ohne Internet. Einige Voreinstellungen von Omarchy stellen aber Verbindungen nach außen her. Prüfen Sie diese Punkte, bevor vertrauliche Daten auf dem Rechner landen:

• Diktat: Voreingestellt ist Superwhisper, das laut Handbuch in der Cloud verarbeitet. Lokal arbeiten die Alternativen Voxtype und Hex.
• Web-Apps: Vorinstalliert sind unter anderem ChatGPT, Grok sowie Anwendungen von Google und Microsoft. Über Remove › Preinstalls lassen sie sich entfernen.
• Hintergrunddienste: Die Prüfung der Internetverbindung ruft einen Server des Projekts auf, das Wetter-Widget bestimmt den Standort über die IP-Adresse, solange kein Ort eingetragen ist.
• Telemetrie: Im Quellcode findet sich keine, eine offizielle Aussage des Projekts dazu gibt es aber nicht.

Omarchy bietet außerdem an, Passwortabfragen für Agenten abzuschalten. Das Handbuch warnt selbst: Dann kann jedes Programm, das unter Ihrem Konto läuft, alles als Administrator tun. Für Firmenrechner kommt das nicht infrage.

Sicherheit und Pflege im Unternehmen

Zwei Punkte gehören in jede Abwägung: Das Arch-Projekt unterstützt abgeleitete Distributionen wie Omarchy nicht, Fragen gehen also allein an das Omarchy-Projekt. Und eine unabhängige Prüfung von Version 3.0.2 fand im Oktober 2025 unter anderem eine trotz anderslautender Dokumentation inaktive Firewall. Laut Autor war das ab Version 3.1.0 behoben, die Sorgfalt bei Updates bleibt trotzdem Ihre Aufgabe.

Was es kostet

Omarchy selbst ist kostenlos. Die Kosten entstehen bei der Hardware und bei der Zeit für Einrichtung und Pflege. Rechnen Sie bei einem Rolling Release mit regelmäßigen Updates, die jemand im Team überwacht. Bei mehreren Rechnern sollte eine Person zuständig sein, die Linux kennt.

Wann sich Omarchy lohnt

• Ja: Für Entwickler und technische Teams, die mit Linux vertraut sind und einen eigenen Arbeitsplatz für lokale Modelle wollen. Neue Treiber und Programmversionen kommen schnell an, das hilft bei aktueller Hardware wie Strix-Halo-Mini-PCs.
• Eher nein: Für gemischte Büroteams mit Windows-Fachsoftware, für zentral verwaltete Rechnerflotten mit Supportvertrag oder wenn Secure Boot vorgeschrieben ist.
• Mischbetrieb: Omarchy für einzelne Entwickler- und KI-Arbeitsplätze, für den Server, der ein Modell für alle bereitstellt, eine Distribution mit langer Wartung wie Ubuntu LTS oder Debian, die AMD für ROCm offiziell unterstützt.

Wenn Sie klären wollen, ob ein lokales Modell Ihre Aufgaben erledigt und auf welcher Plattform es laufen soll, unterstützen wir Sie gern. Mehr dazu unter KI-Beratung. Die Grundlagen der Einrichtung stehen in Lokales LLM einrichten.

Grenzen

• Die Angaben beruhen auf Handbuch, Quellcode und Release-Beiträgen von Omarchy, nicht auf einem eigenen Test auf echter Hardware. Das gilt besonders für die Auswahl der Ollama-Variante auf AMD-Rechnern.
• Die Funktion für abgeschottete Agentenmodelle ist in Entwicklung und kann sich bis zur nächsten Version noch ändern.
• Omarchy erscheint in kurzen Abständen. Menüs, Paketnamen und Voreinstellungen können sich ändern. Stand ist der 5. November 2026.

Quellen

• Omarchy: Handbuch, Abschnitte AI, Getting Started, Security, Updates, System snapshots, Text Extraction & Dictation, abgerufen am 5. November 2026 – omarchy.org/manual
• Omarchy: Omarchy 4.5, Release-Beitrag, 4. November 2026 – omarchy.org
• omacom/omarchy: Quellcode, Menü und Hardware-Skripte, GitHub, abgerufen am 5. November 2026 – github.com/omacom/omarchy
• omacom/omarchy: Pull Request 17267, Lokale Modelle für Agenten, 1. November 2026 – github.com
• omacom/omarchy-local-ai: Katalog und Laufzeiten – github.com
• David Heinemeier Hansson: Omarchy is out, HEY World, 26. Juni 2025 – world.hey.com
• David Heinemeier Hansson: The Framework Desktop is a beast, HEY World, 7. August 2025 – world.hey.com
• Omarchy: Omacom Foundation launches with $23.7 million, 21. August 2026 – omarchy.org
• Omarchy: Bug-Bounty-Programm auf HackerOne, Oktober 2026 – omarchy.org
• Arch Wiki: Ollama, NVIDIA, Arch-based distributions, Arch User Repository, abgerufen am 5. November 2026 – wiki.archlinux.org
• archlinux.org: Active AUR malicious packages incident, Juni 2026 – archlinux.org
• Arch Linux: Paketsuche (ollama, llama-cpp, cuda, rocm), abgerufen am 5. November 2026 – archlinux.org/packages
• AMD: ROCm-Kompatibilitätsliste und Versionen – rocm.docs.amd.com
• Ollama: Dokumentation GPU – docs.ollama.com
• マリウス: A Word on Omarchy, 22. Oktober 2025 – Blogbeitrag