オープンなAIモデル:最先端との差は4か月

Was „offen“ hier heißt

Offene Modelle, oft „Open Weights“ genannt, sind KI-Modelle, die du herunterladen und auf eigener Hardware betreiben kannst. Das ist nicht automatisch Open Source: Die Trainingsdaten fehlen meist, und die Lizenzen unterscheiden sich stark.

Wie gut sie sind

Der Abstand zur Spitze ist klein geworden. Laut Epoch AI (Mai 2026) liegen die besten offenen Modelle seit Januar 2026 im Schnitt etwa vier Monate hinter den besten geschlossenen. Im Index von Artificial Analysis führt derzeit MiMo-V2.6-Pro von Xiaomi mit 46 Punkten, dicht gefolgt von GLM-5.3 (Z.ai) und Kimi K3 (Moonshot). Das beste geschlossene Modell liegt laut einer Übersicht von Slash Digital bei 58 Punkten. Bei normalen Chats ist die Lücke klein, bei langen Agenten-Aufgaben größer.

Genutzt werden sie längst: Über das KI-Gateway von Vercel liefen im August 2026 erstmals 56 Prozent aller Tokens über offene Modelle, im Dezember 2025 waren es etwa 7 Prozent (Vercel). Beim Geld sieht es anders aus: Nur 14 Prozent der Ausgaben flossen in offene Modelle. Ihr größter Vorteil ist also der Preis.

Die wichtigsten Familien

• Gemma 4 (Google): Apache-2.0-Lizenz, von Handy-Größe bis 31 Milliarden Parameter, über 35 Sprachen direkt unterstützt (Model Card).
• Mistral (Frankreich): Mistral Small 4 (März 2026), Mistral Large 3 und die kleinen Ministral-3-Modelle unter Apache 2.0 (Mistral). Das ist die naheliegende europäische Wahl.
• Qwen 3.8 (Alibaba): Die Variante mit 27 Milliarden Parametern steht unter Apache 2.0.
• DeepSeek V4.1-Flash: seit 10. September 2026, 552 Milliarden Parameter, von denen pro Schritt aber nur 8 bis 16 Milliarden arbeiten (DeepSeek).
• gpt-oss (OpenAI): 20b und 120b, beide unter Apache 2.0.

Lies die Lizenz genau. Einige Spitzenmodelle sind auf eigene Lizenzen umgestiegen. Bei Kimi K3 brauchst du laut Own Your Mind einen Extra-Vertrag, wenn du das Modell als Dienst anbietest und mehr als 20 Millionen Dollar Umsatz im Jahr machst.

Welche Hardware du brauchst

Grobe Werte für komprimierte Modelle (4-Bit), ebenfalls laut Own Your Mind:

• Gemma 4 12B: etwa 8 GB Speicher. Das läuft auf vielen Laptops.
• gpt-oss-20b: etwa 14 GB.
• Gemma 4 31B: etwa 19 GB, passt auf eine Grafikkarte mit 24 oder 32 GB.
• gpt-oss-120b: etwa 65 GB, also Workstation oder ein Mac mit viel Arbeitsspeicher.
• DeepSeek V4.1-Flash (458 GB) und Kimi K3 (1.680 GB): Server-Klasse.

Als Preisrahmen nennt Slash Digital für eine RTX 5090 mit 32 GB einen US-Startpreis von 1.999 Dollar, für einen Mac Studio M5 Max ab 2.499 Dollar, jeweils ohne Steuern. Einsteigen kannst du mit kostenlosen Programmen wie Ollama oder LM Studio. Ollama nutzen laut TechCrunch jeden Monat über 8,9 Millionen Entwickler.

Warum das für Datenschutz zählt

Läuft ein Modell auf deinem Rechner, verlassen deine Eingaben das Gerät nicht. In Deutschland ist das ein starkes Argument: Unter den Unternehmen, die KI nutzen, nennen laut Bitkom 66 Prozent den Datenschutz als Hemmnis und 45 Prozent die Sorge, dass Daten abfließen. Nutzt du dagegen die Cloud-Schnittstelle eines Anbieters außerhalb des Europäischen Wirtschaftsraums, greifen die DSGVO-Regeln für Datentransfers in Drittländer.

Die EU-Perspektive

Große Teile des AI Act gelten seit dem 2. August 2026. Wer ein offenes Modell nur nutzt oder leicht anpasst, wird dadurch nicht zum Modell-Anbieter. Nach den Leitlinien der EU-Kommission passiert das erst, wenn du mehr als ein Drittel der ursprünglichen Trainings-Rechenleistung einsetzt (zusammengefasst bei Slash Digital). Pflichten als Betreiber eines KI-Systems können trotzdem gelten. Mit Mistral gibt es zudem einen europäischen Anbieter mit frei lizenzierten Modellen.

Die Kehrseite

Lokal heißt nicht automatisch sicher. Forscher fanden im Januar 2026 über 175.000 öffentlich erreichbare Ollama-Server in 130 Ländern, viele ohne Zugangsschutz (The Hacker News). Der Grund: Die Software war bewusst fürs Netz freigegeben worden, obwohl sie standardmäßig nur lokal läuft. Lass sie also lokal, wenn du keinen guten Grund hast. Und bedenke: Sicherheitsfilter lassen sich bei offenen Modellen entfernen. Prüfe, was du herunterlädst und woher es kommt.