Strata: Ein großes Sprachmodell auf dem Gaming-PC und welcher Rechner dafür reicht
Strata ist ein kostenloses Programm, das ein großes Mixture-of-Experts-Modell auf einem gewöhnlichen Gaming-PC betreibt, indem es Grafikkarte, Arbeitsspeicher und SSD geschickt aufteilt. Der Beitrag zeigt, welcher Rechner dafür reicht und wann sich Strata gegenüber Ollama lohnt.
· 8 Minuten Lesezeit · von Rainer Winkler
Bisher galt für lokale KI eine einfache Regel: Das Modell muss in den Grafikspeicher passen. Mit 16 oder 24 GB laufen deshalb mittelgroße Modelle, alles darüber braucht teure Profi-Hardware. Das Open-Source-Projekt Strata umgeht diese Grenze. Es betreibt ein Modell mit rund 40 bis 55 GB auf einer Grafikkarte mit 12 GB, indem es die Arbeit zwischen Grafikkarte, Arbeitsspeicher und SSD aufteilt.
Dieser Beitrag erklärt, wie das funktioniert, welcher Rechner dafür nötig ist und für wen sich Strata im Herbst 2026 lohnt.
Kurz gesagt
- Strata ist ein kostenloses Programm unter MIT-Lizenz, das ein großes Sprachmodell (Qwen3.8-Flash-Next) auf einem gewöhnlichen PC betreibt. Es bringt eine Chat-Oberfläche mit und bietet eine Schnittstelle im OpenAI- und Anthropic-Format.
- Der Arbeitsspeicher ist der wichtigste Faktor: Mindestens 48 GB RAM, besser 64 GB, dazu eine Grafikkarte mit mindestens 12 GB und rund 80 GB freier SSD.
- Grafikspeicher bringt Tempo: Jedes zusätzliche Gigabyte auf der Karte nimmt dem Prozessor Arbeit ab. Mehr VRAM ist laut Projekt wichtiger als eine schnellere Grafikkarte.
- Das Projekt ist jung. Zum Ausprobieren und für einzelne Arbeitsplätze geeignet, für den produktiven Einsatz im Unternehmen noch mit Vorsicht.
Was ist Strata?
Strata ist eine Runtime, also das Programm, das ein Sprachmodell lädt und die Antworten berechnet. Anders als Ollama oder LM Studio ist es nicht für eine große Auswahl an Modellen gebaut, sondern auf ein bestimmtes Modell zugeschnitten: Qwen3.8-Flash-Next. Inzwischen unterstützt es zusätzlich das kleinere Qwen3.6-35B-A3B und das sehr große DeepSeek V4.1-Flash.
Das Projekt liegt öffentlich auf GitHub und wurde im September 2026 angelegt. Es gibt eine Desktop-App für Windows, Linux und Mac sowie eine Fassung für das Terminal. Ein Konto ist nicht nötig. Nach dem Herunterladen des Modells läuft alles ohne Internetverbindung, und laut Projekt sendet Strata keine Nutzungsdaten.
Was Strata mitbringt:
- Chat im Browser unter der Adresse 127.0.0.1:8080, mit Dateien und einer Vorschau für erzeugten Code
- Anzeige der Auslastung von Grafikkarte, Prozessor und Arbeitsspeicher
- Optionale Bildeingabe, das Modell kann also auch Bildschirmfotos oder Fotos auswerten
- Einstellbare Denktiefe je Chat
- Schnittstellen im OpenAI- und Anthropic-Format, dazu die Responses-Schnittstelle für Codex CLI
- Den Befehl „strata connect“, der die Einstellungen für Werkzeuge wie Claude Code, Codex CLI oder OpenCode ausgibt
- Unterstützung für mehrere Grafikkarten
Wie Strata ein großes Modell auf eine kleine Karte bringt
Qwen3.8-Flash-Next ist ein Modell mit Mixture-of-Experts-Technik. Es besteht aus 24.576 kleinen Teilmodellen, den Experten. Für jedes Wort werden davon nur 10 gebraucht. Das ist der Schlüssel: Das Modell ist zwar groß, aber pro Wort wird nur ein winziger Teil davon gerechnet.
Strata verteilt die Arbeit deshalb auf drei Stellen:
| Ort | Was dort liegt | Warum |
|---|---|---|
| Grafikkarte | der feste Kern des Modells, der Gesprächsverlauf und die am häufigsten genutzten Experten | Hier wird am schnellsten gerechnet. Laut Projekt passen pro Gigabyte rund 700 Experten. |
| Arbeitsspeicher | alle Experten | Was nicht auf der Karte liegt, rechnet der Prozessor direkt im Arbeitsspeicher, parallel zur Grafikkarte. |
| SSD | eine Nachschlagetabelle mit knapp 29 GB | Pro Wort werden daraus nur wenige kleine Einträge gelesen. |
Während eines Chats merkt sich Strata, welche Experten oft gebraucht werden, und hält genau diese auf der Grafikkarte. Dazu kommt eine Vorhersagetechnik: Eine kleine Zusatzschicht schlägt die nächsten Wörter vor, das große Modell prüft sie in einem Durchgang. Laut Projekt werden Antworten dadurch 1,6- bis 1,8-mal schneller, ohne dass sich der Inhalt ändert.
Welchen Rechner Sie für Strata brauchen
Anders als bei Ollama entscheidet bei Strata nicht allein der Grafikspeicher, sondern die Summe aus Arbeitsspeicher und Grafikspeicher. Die Grundlagen dazu erklärt der Beitrag Hardware für lokale KI.
Arbeitsspeicher: die wichtigste Zahl
Das Modell gibt es in vier Größen. Die Angaben nennen den Speicher, den die Gewichte in Arbeitsspeicher und Grafikspeicher zusammen belegen. Betriebssystem und andere Programme kommen noch dazu.
| Variante | Speicherbedarf | Tempo | Qualität | passt ab |
|---|---|---|---|---|
| Q2_0 | 37,6 GB | am schnellsten | gut | 48 GB RAM |
| IQ2_XS | 39,2 GB | schnell | besser | 48 GB RAM |
| IQ3_XXS | 47,0 GB | langsamer | sehr gut | 64 GB RAM |
| IQ3_S | 54,8 GB | am langsamsten | laut veröffentlichten Tests gleichauf mit dem vollen Modell | 64 GB RAM, wenig anderes geöffnet |
Die Kürzel stehen für unterschiedlich starke Quantisierung. Mit 32 GB Arbeitsspeicher bleibt nur eine eigene Variante für Programmcode, die bei anderen Aufgaben und bei deutschen Texten schwächer ist. Für den Einsatz im deutschsprachigen Büro sind deshalb 48 GB das Minimum und 64 GB die sinnvolle Größe.
Grafikkarte: mindestens 12 GB
Unterstützt werden laut Projekt:
- Nvidia GeForce RTX 20, 30, 40 und 50 mit mindestens 12 GB, unter Windows und Linux. Für die aktuellen Pakete ist der Nvidia-Treiber ab Version 580 nötig, ältere Karten nutzen eine eigene Fassung.
- AMD Radeon RX 7700, 7800, 7900, RX 9060, 9070 und Radeon AI PRO R9700. Die ältere RX 6800 und 6900 gilt als experimentell.
- Intel Arc nur unter Linux, bisher wenig getestet.
12 GB reichen zum Starten. Jedes Gigabyte darüber macht Strata spürbar schneller, weil mehr Experten auf der Karte bleiben. Eine Karte mit 16 GB ist deshalb die bessere Wahl als eine schnellere mit 12 GB. Für die Bildeingabe gilt: Unter 24 GB Grafikspeicher wertet der Prozessor die Bilder aus, das dauert länger.
Prozessor und SSD
Weil der Prozessor einen Teil der Experten selbst rechnet, spielt er bei Strata eine größere Rolle als bei anderen Runtimes. Ein aktueller Desktop-Prozessor ist von Vorteil. Das Testsystem des Projekts nutzt einen AMD Ryzen 5 7600, also ein Modell der Mittelklasse.
Auf der SSD sollten rund 80 GB frei sein. Der Download der kleineren Varianten umfasst 66 bis 76 GB, beim ersten Start kommen etwa 6 GB dazu. Wir empfehlen eine schnelle NVMe-SSD, weil Strata Teile des Modells während der Arbeit von dort liest.
Mac und Rechner mit gemeinsamem Speicher
Auf Apple-Rechnern ab M1 mit macOS 15 und auf Mini-PCs mit AMD Ryzen AI Max (Strix Halo) teilen sich Prozessor und Grafikeinheit einen gemeinsamen Speicher. Er wird nur einmal gezählt. Für die kleinste Variante sollten es deshalb mindestens 64 GB sein. Die Mac-Fassung ist laut Projekt neu und erst wenig getestet. Intel-Macs werden nicht unterstützt.
Drei Ausbaustufen
| Ausbau | Arbeitsspeicher | Grafikkarte | Was läuft |
|---|---|---|---|
| Einstieg | 48 GB | 12 GB, z. B. RTX 3060 12 GB oder RTX 5070 | Q2_0 und IQ2_XS |
| Empfehlung | 64 GB | 16 GB, z. B. RTX 5060 Ti 16 GB, RTX 5070 Ti oder RX 9070 XT | alle vier Größen, mehr Tempo durch größeren Expertenspeicher |
| Komfort | 96 GB oder mehr | 24 GB, z. B. RTX 3090 oder 4090 | größere Varianten anderer Anbieter, Bildeingabe auf der Grafikkarte |
Wer bereits einen Gaming-PC mit 12 oder 16 GB Grafikspeicher hat, muss oft nur den Arbeitsspeicher aufrüsten. Prüfen Sie vorher, wie viele Steckplätze frei sind und welche Größe das Mainboard verträgt.
Wie schnell ist Strata?
Das Projekt hat selbst gemessen. Unabhängige Tests gab es bei Redaktionsschluss noch nicht.
| System | Variante | Antwort | Eingabe lesen |
|---|---|---|---|
| RTX 5070 (12 GB), Ryzen 5 7600, 64 GB RAM | Q2_0 | 94 Tokens pro Sekunde | 2.650 Tokens pro Sekunde |
| RTX 5070 (12 GB), Ryzen 5 7600, 64 GB RAM | IQ3_S | 53 Tokens pro Sekunde | 1.620 Tokens pro Sekunde |
| RX 9070 XT (16 GB), Ryzen 9 3900X, 47 GB RAM | Q2_0 | 60 Tokens pro Sekunde | 1.160 Tokens pro Sekunde |
Zum Vergleich: Für Agenten, die viele Schritte nacheinander ausführen, gelten etwa 30 Tokens pro Sekunde als Untergrenze. Die gemessenen Werte liegen deutlich darüber. Die erste Nachricht mit einer langen Eingabe braucht allerdings Zeit, laut Projekt rund eine Minute je 30.000 Tokens. Folgefragen im selben Gespräch starten nach wenigen Sekunden. Der erste Start nach der Installation dauert ein bis drei Minuten.
Installation in drei Schritten
- Herunterladen: Den Installer nur von der Release-Seite des Projekts auf GitHub laden. Für Windows gibt es eine Setup-Datei, für Linux ein AppImage, für den Mac eine DMG-Datei. Die Windows-Fassung ist nicht signiert, Windows zeigt deshalb beim Start eine Warnung.
- Starten: Beim ersten Start lädt Strata die passende Engine für Ihre Grafikkarte und das Modell. Im Terminal startet der Befehl „strata launch“ das Modell. Mit dem Zusatz „--plan“ zeigt Strata vorab, ob Speicher oder Platz fehlen.
- Werkzeuge anschließen: Die Chat-Oberfläche öffnet sich im Browser. Für Coding-Werkzeuge gibt „strata connect“ die passenden Einstellungen aus.
Wie Runtime, Endpunkt und Werkzeuge zusammenspielen, beschreibt der Beitrag Lokales LLM einrichten.
Strata oder Ollama?
| Strata | Ollama | |
|---|---|---|
| Modelle | wenige, auf ein Modell zugeschnitten | große Bibliothek, Wechsel mit einem Befehl |
| Hardware-Idee | Grafikkarte, Arbeitsspeicher und SSD zusammen nutzen | Modell sollte in den Grafikspeicher passen |
| Modellgröße bei 12 GB Grafikkarte | rund 40 bis 55 GB | deutlich kleinere Modelle |
| Reife | wenige Wochen alt, Version 0.2 | seit Jahren verbreitet |
| Lizenz | MIT | MIT |
Unsere Einschätzung: Strata lohnt sich, wenn Sie einen Rechner mit viel Arbeitsspeicher, aber begrenztem Grafikspeicher haben und ein deutlich größeres Modell nutzen wollen, als es mit Ollama möglich wäre. Wer verschiedene Modelle vergleichen oder einen Server für mehrere Nutzer betreiben will, ist mit Ollama oder vLLM besser bedient.
Sicherheit und Datenschutz
- Strata lauscht in der Voreinstellung nur auf dem eigenen Rechner (127.0.0.1). Lassen Sie es dabei. Für den Zugriff von anderen Rechnern ist ein VPN der sichere Weg, nicht ein freigegebener Port.
- Für den Einsatz im Unternehmen ist die Herkunft der Datei wichtig: Laden Sie nur von der offiziellen Release-Seite und prüfen Sie den Namen des Projekts.
- Strata selbst steht unter MIT-Lizenz, die Modelldateien haben eigene Lizenzen. Prüfen Sie diese vor dem geschäftlichen Einsatz.
- Dass keine Daten den Rechner verlassen, sagt das Projekt selbst. Unabhängig geprüft ist das bisher nicht. Für vertrauliche Daten empfehlen wir einen Test mit gesperrter Internetverbindung nach dem Download.
Grenzen
- Das Projekt existiert erst seit September 2026 und hat Hunderte offene Fehlermeldungen. Funktionen und Bedienung ändern sich schnell.
- Alle Geschwindigkeitswerte stammen vom Projekt selbst. Messen Sie auf Ihrem eigenen System.
- Ein Modell wird nie zwischen einer Nvidia- und einer AMD-Karte aufgeteilt.
- Unter Linux braucht das AppImage FUSE 2.
- Die Pfade für Mac, Intel Arc und ältere AMD-Karten sind neu oder experimentell.
Quellen
- Strata auf GitHub, Projektseite und Releases, abgerufen am 28. Oktober 2026 – https://github.com/Niko1221/Strata
- Strata: Modelle und Speicherbedarf (MODELS.md) – https://github.com/Niko1221/Strata/blob/main/docs/MODELS.md
- Strata: Funktionsweise (HOW_IT_WORKS.md) – https://github.com/Niko1221/Strata/blob/main/docs/HOW_IT_WORKS.md
- Strata: Installation (INSTALL.md) – https://github.com/Niko1221/Strata/blob/main/docs/INSTALL.md
- PromptQuorum: Strata-Rezension, Stand 23. Oktober 2026 – https://www.promptquorum.com/de/power-local-llm/strata-review
Änderungsprotokoll
Aktuelle Version 1.0 · Stand:
- Version 1.0 Erstveröffentlichung am