Zum Inhalt springen

Ratgeber · Lokale KI

Strata: Ein großes Sprachmodell auf dem Gaming-PC und welcher Rechner dafür reicht

Strata ist ein kostenloses Programm, das ein großes Mixture-of-Experts-Modell auf einem gewöhnlichen Gaming-PC betreibt, indem es Grafikkarte, Arbeitsspeicher und SSD geschickt aufteilt. Der Beitrag zeigt, welcher Rechner dafür reicht und wann sich Strata gegenüber Ollama lohnt.

· 8 Minuten Lesezeit · von Rainer Winkler

Bisher galt für lokale KI eine einfache Regel: Das Modell muss in den Grafikspeicher passen. Mit 16 oder 24 GB laufen deshalb mittelgroße Modelle, alles darüber braucht teure Profi-Hardware. Das Open-Source-Projekt Strata umgeht diese Grenze. Es betreibt ein Modell mit rund 40 bis 55 GB auf einer Grafikkarte mit 12 GB, indem es die Arbeit zwischen Grafikkarte, Arbeitsspeicher und SSD aufteilt.

Dieser Beitrag erklärt, wie das funktioniert, welcher Rechner dafür nötig ist und für wen sich Strata im Herbst 2026 lohnt.

Kurz gesagt

  • Strata ist ein kostenloses Programm unter MIT-Lizenz, das ein großes Sprachmodell (Qwen3.8-Flash-Next) auf einem gewöhnlichen PC betreibt. Es bringt eine Chat-Oberfläche mit und bietet eine Schnittstelle im OpenAI- und Anthropic-Format.
  • Der Arbeitsspeicher ist der wichtigste Faktor: Mindestens 48 GB RAM, besser 64 GB, dazu eine Grafikkarte mit mindestens 12 GB und rund 80 GB freier SSD.
  • Grafikspeicher bringt Tempo: Jedes zusätzliche Gigabyte auf der Karte nimmt dem Prozessor Arbeit ab. Mehr VRAM ist laut Projekt wichtiger als eine schnellere Grafikkarte.
  • Das Projekt ist jung. Zum Ausprobieren und für einzelne Arbeitsplätze geeignet, für den produktiven Einsatz im Unternehmen noch mit Vorsicht.

Was ist Strata?

Strata ist eine Runtime, also das Programm, das ein Sprachmodell lädt und die Antworten berechnet. Anders als Ollama oder LM Studio ist es nicht für eine große Auswahl an Modellen gebaut, sondern auf ein bestimmtes Modell zugeschnitten: Qwen3.8-Flash-Next. Inzwischen unterstützt es zusätzlich das kleinere Qwen3.6-35B-A3B und das sehr große DeepSeek V4.1-Flash.

Das Projekt liegt öffentlich auf GitHub und wurde im September 2026 angelegt. Es gibt eine Desktop-App für Windows, Linux und Mac sowie eine Fassung für das Terminal. Ein Konto ist nicht nötig. Nach dem Herunterladen des Modells läuft alles ohne Internetverbindung, und laut Projekt sendet Strata keine Nutzungsdaten.

Was Strata mitbringt:

  • Chat im Browser unter der Adresse 127.0.0.1:8080, mit Dateien und einer Vorschau für erzeugten Code
  • Anzeige der Auslastung von Grafikkarte, Prozessor und Arbeitsspeicher
  • Optionale Bildeingabe, das Modell kann also auch Bildschirmfotos oder Fotos auswerten
  • Einstellbare Denktiefe je Chat
  • Schnittstellen im OpenAI- und Anthropic-Format, dazu die Responses-Schnittstelle für Codex CLI
  • Den Befehl „strata connect“, der die Einstellungen für Werkzeuge wie Claude Code, Codex CLI oder OpenCode ausgibt
  • Unterstützung für mehrere Grafikkarten

Wie Strata ein großes Modell auf eine kleine Karte bringt

Qwen3.8-Flash-Next ist ein Modell mit Mixture-of-Experts-Technik. Es besteht aus 24.576 kleinen Teilmodellen, den Experten. Für jedes Wort werden davon nur 10 gebraucht. Das ist der Schlüssel: Das Modell ist zwar groß, aber pro Wort wird nur ein winziger Teil davon gerechnet.

Strata verteilt die Arbeit deshalb auf drei Stellen:

OrtWas dort liegtWarum
Grafikkarteder feste Kern des Modells, der Gesprächsverlauf und die am häufigsten genutzten ExpertenHier wird am schnellsten gerechnet. Laut Projekt passen pro Gigabyte rund 700 Experten.
Arbeitsspeicheralle ExpertenWas nicht auf der Karte liegt, rechnet der Prozessor direkt im Arbeitsspeicher, parallel zur Grafikkarte.
SSDeine Nachschlagetabelle mit knapp 29 GBPro Wort werden daraus nur wenige kleine Einträge gelesen.

Während eines Chats merkt sich Strata, welche Experten oft gebraucht werden, und hält genau diese auf der Grafikkarte. Dazu kommt eine Vorhersagetechnik: Eine kleine Zusatzschicht schlägt die nächsten Wörter vor, das große Modell prüft sie in einem Durchgang. Laut Projekt werden Antworten dadurch 1,6- bis 1,8-mal schneller, ohne dass sich der Inhalt ändert.

Welchen Rechner Sie für Strata brauchen

Anders als bei Ollama entscheidet bei Strata nicht allein der Grafikspeicher, sondern die Summe aus Arbeitsspeicher und Grafikspeicher. Die Grundlagen dazu erklärt der Beitrag Hardware für lokale KI.

Arbeitsspeicher: die wichtigste Zahl

Das Modell gibt es in vier Größen. Die Angaben nennen den Speicher, den die Gewichte in Arbeitsspeicher und Grafikspeicher zusammen belegen. Betriebssystem und andere Programme kommen noch dazu.

VarianteSpeicherbedarfTempoQualitätpasst ab
Q2_037,6 GBam schnellstengut48 GB RAM
IQ2_XS39,2 GBschnellbesser48 GB RAM
IQ3_XXS47,0 GBlangsamersehr gut64 GB RAM
IQ3_S54,8 GBam langsamstenlaut veröffentlichten Tests gleichauf mit dem vollen Modell64 GB RAM, wenig anderes geöffnet

Die Kürzel stehen für unterschiedlich starke Quantisierung. Mit 32 GB Arbeitsspeicher bleibt nur eine eigene Variante für Programmcode, die bei anderen Aufgaben und bei deutschen Texten schwächer ist. Für den Einsatz im deutschsprachigen Büro sind deshalb 48 GB das Minimum und 64 GB die sinnvolle Größe.

Grafikkarte: mindestens 12 GB

Unterstützt werden laut Projekt:

  • Nvidia GeForce RTX 20, 30, 40 und 50 mit mindestens 12 GB, unter Windows und Linux. Für die aktuellen Pakete ist der Nvidia-Treiber ab Version 580 nötig, ältere Karten nutzen eine eigene Fassung.
  • AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 und Radeon AI PRO R9700. Die ältere RX 6800 und 6900 gilt als experimentell.
  • Intel Arc nur unter Linux, bisher wenig getestet.

12 GB reichen zum Starten. Jedes Gigabyte darüber macht Strata spürbar schneller, weil mehr Experten auf der Karte bleiben. Eine Karte mit 16 GB ist deshalb die bessere Wahl als eine schnellere mit 12 GB. Für die Bildeingabe gilt: Unter 24 GB Grafikspeicher wertet der Prozessor die Bilder aus, das dauert länger.

Prozessor und SSD

Weil der Prozessor einen Teil der Experten selbst rechnet, spielt er bei Strata eine größere Rolle als bei anderen Runtimes. Ein aktueller Desktop-Prozessor ist von Vorteil. Das Testsystem des Projekts nutzt einen AMD Ryzen 5 7600, also ein Modell der Mittelklasse.

Auf der SSD sollten rund 80 GB frei sein. Der Download der kleineren Varianten umfasst 66 bis 76 GB, beim ersten Start kommen etwa 6 GB dazu. Wir empfehlen eine schnelle NVMe-SSD, weil Strata Teile des Modells während der Arbeit von dort liest.

Mac und Rechner mit gemeinsamem Speicher

Auf Apple-Rechnern ab M1 mit macOS 15 und auf Mini-PCs mit AMD Ryzen AI Max (Strix Halo) teilen sich Prozessor und Grafikeinheit einen gemeinsamen Speicher. Er wird nur einmal gezählt. Für die kleinste Variante sollten es deshalb mindestens 64 GB sein. Die Mac-Fassung ist laut Projekt neu und erst wenig getestet. Intel-Macs werden nicht unterstützt.

Drei Ausbaustufen

AusbauArbeitsspeicherGrafikkarteWas läuft
Einstieg48 GB12 GB, z. B. RTX 3060 12 GB oder RTX 5070Q2_0 und IQ2_XS
Empfehlung64 GB16 GB, z. B. RTX 5060 Ti 16 GB, RTX 5070 Ti oder RX 9070 XTalle vier Größen, mehr Tempo durch größeren Expertenspeicher
Komfort96 GB oder mehr24 GB, z. B. RTX 3090 oder 4090größere Varianten anderer Anbieter, Bildeingabe auf der Grafikkarte

Wer bereits einen Gaming-PC mit 12 oder 16 GB Grafikspeicher hat, muss oft nur den Arbeitsspeicher aufrüsten. Prüfen Sie vorher, wie viele Steckplätze frei sind und welche Größe das Mainboard verträgt.

Wie schnell ist Strata?

Das Projekt hat selbst gemessen. Unabhängige Tests gab es bei Redaktionsschluss noch nicht.

SystemVarianteAntwortEingabe lesen
RTX 5070 (12 GB), Ryzen 5 7600, 64 GB RAMQ2_094 Tokens pro Sekunde2.650 Tokens pro Sekunde
RTX 5070 (12 GB), Ryzen 5 7600, 64 GB RAMIQ3_S53 Tokens pro Sekunde1.620 Tokens pro Sekunde
RX 9070 XT (16 GB), Ryzen 9 3900X, 47 GB RAMQ2_060 Tokens pro Sekunde1.160 Tokens pro Sekunde

Zum Vergleich: Für Agenten, die viele Schritte nacheinander ausführen, gelten etwa 30 Tokens pro Sekunde als Untergrenze. Die gemessenen Werte liegen deutlich darüber. Die erste Nachricht mit einer langen Eingabe braucht allerdings Zeit, laut Projekt rund eine Minute je 30.000 Tokens. Folgefragen im selben Gespräch starten nach wenigen Sekunden. Der erste Start nach der Installation dauert ein bis drei Minuten.

Installation in drei Schritten

  1. Herunterladen: Den Installer nur von der Release-Seite des Projekts auf GitHub laden. Für Windows gibt es eine Setup-Datei, für Linux ein AppImage, für den Mac eine DMG-Datei. Die Windows-Fassung ist nicht signiert, Windows zeigt deshalb beim Start eine Warnung.
  2. Starten: Beim ersten Start lädt Strata die passende Engine für Ihre Grafikkarte und das Modell. Im Terminal startet der Befehl „strata launch“ das Modell. Mit dem Zusatz „--plan“ zeigt Strata vorab, ob Speicher oder Platz fehlen.
  3. Werkzeuge anschließen: Die Chat-Oberfläche öffnet sich im Browser. Für Coding-Werkzeuge gibt „strata connect“ die passenden Einstellungen aus.

Wie Runtime, Endpunkt und Werkzeuge zusammenspielen, beschreibt der Beitrag Lokales LLM einrichten.

Strata oder Ollama?

StrataOllama
Modellewenige, auf ein Modell zugeschnittengroße Bibliothek, Wechsel mit einem Befehl
Hardware-IdeeGrafikkarte, Arbeitsspeicher und SSD zusammen nutzenModell sollte in den Grafikspeicher passen
Modellgröße bei 12 GB Grafikkarterund 40 bis 55 GBdeutlich kleinere Modelle
Reifewenige Wochen alt, Version 0.2seit Jahren verbreitet
LizenzMITMIT

Unsere Einschätzung: Strata lohnt sich, wenn Sie einen Rechner mit viel Arbeitsspeicher, aber begrenztem Grafikspeicher haben und ein deutlich größeres Modell nutzen wollen, als es mit Ollama möglich wäre. Wer verschiedene Modelle vergleichen oder einen Server für mehrere Nutzer betreiben will, ist mit Ollama oder vLLM besser bedient.

Sicherheit und Datenschutz

  • Strata lauscht in der Voreinstellung nur auf dem eigenen Rechner (127.0.0.1). Lassen Sie es dabei. Für den Zugriff von anderen Rechnern ist ein VPN der sichere Weg, nicht ein freigegebener Port.
  • Für den Einsatz im Unternehmen ist die Herkunft der Datei wichtig: Laden Sie nur von der offiziellen Release-Seite und prüfen Sie den Namen des Projekts.
  • Strata selbst steht unter MIT-Lizenz, die Modelldateien haben eigene Lizenzen. Prüfen Sie diese vor dem geschäftlichen Einsatz.
  • Dass keine Daten den Rechner verlassen, sagt das Projekt selbst. Unabhängig geprüft ist das bisher nicht. Für vertrauliche Daten empfehlen wir einen Test mit gesperrter Internetverbindung nach dem Download.

Grenzen

  • Das Projekt existiert erst seit September 2026 und hat Hunderte offene Fehlermeldungen. Funktionen und Bedienung ändern sich schnell.
  • Alle Geschwindigkeitswerte stammen vom Projekt selbst. Messen Sie auf Ihrem eigenen System.
  • Ein Modell wird nie zwischen einer Nvidia- und einer AMD-Karte aufgeteilt.
  • Unter Linux braucht das AppImage FUSE 2.
  • Die Pfade für Mac, Intel Arc und ältere AMD-Karten sind neu oder experimentell.

Quellen

Änderungsprotokoll

Aktuelle Version 1.0 · Stand:

  1. Version 1.0 Erstveröffentlichung am
Rainer Winkler

Über den Autor

Rainer Winkler

Rainer Winkler ist Geschäftsführer der Alpha Digitalagentur GmbH und Experte für digitale Sichtbarkeit. Darüber hinaus ist er als Dozent für Webentwicklung und Künstliche Intelligenz an einer Berufsfachschule tätig.

Fragen zum Thema? Wir antworten ohne Vertriebsschleife.

Kostenlose Erstberatung