Inkling erklärt: Thinking Machines' Open-Weights-KI-Modell

Was ist Inkling?

Inkling ist Thinking Machines Labs erstes öffentliches Modell, und das Lab macht erfreulich klar, dass es nicht versucht, das Leaderboard anzuführen. Der Pitch ist eine breite, ausgewogene offene Grundlage, die man mit der Tinker-Plattform des Labs für den eigenen Einsatz fine-tuned. Mit anderen Worten: Inkling soll ein Ausgangspunkt sein, den man formt, kein Chatbot, den man abonniert.

Die relevanten Spezifikationen, direkt aus der Model Card:

• Architektur: ein Mixture-of-Experts-(MoE)-Transformer, 975B Parameter insgesamt mit 41B aktiv pro Token (jeder Token wird durch 6 von 256 Experten geroutet, plus 2 gemeinsame Experten). Deshalb lässt sich ein Modell mit rund einer Billion Parametern noch in vernünftiger Geschwindigkeit bedienen - nur ein Ausschnitt läuft pro Token.
• Eingaben: Text, Bilder und Audio (16 kHz WAV, idealerweise unter ca. 20 Minuten). Die Ausgabe ist nur Text.
• Kontextfenster: bis zu 1 Mio. Token, damit liegt es bei der Länge in der Spitzengruppe.
• Lizenz: Apache 2.0, kommerzielle Nutzung ist also erlaubt, und die Gewichte sind auf Hugging Face verfügbar.
• Veröffentlicht: 15. Juli 2026.

Der Audio-Teil ist das Neue daran. Wie es der Top-Kommentar im Launch-Thread formulierte, ist dies das "größte Open-Weights-Modell mit Audio-Unterstützung" - relevant, falls ein Modell einmal einem Support-Anruf zuhören soll, statt nur ein Transkript davon zu lesen.

Wie Inkling gebaut ist

Wer die Technik dahinter mag: Inkling trifft ein paar ungewöhnliche Architekturentscheidungen. Statt der inzwischen üblichen Rotary Position Embeddings (RoPE) beschreibt das Team in seinem eigenen Bericht ein relatives Positionsschema, das direkt in die Attention-Logits eingebacken ist, plus kurze Faltungen (Convolutions) auf Keys und Values, bevor sie in den Cache gelangen. Das praktische Ziel ist dasselbe, das jedes Long-Context-Modell verfolgt: Attention stabil und günstig halten, wenn der Kontext sich Richtung einer Million Token ausdehnt.

Man muss das Diagramm nicht im Detail verstehen, um die Kernaussage mitzunehmen: Inkling ist auf langen Kontext und effizientes Reasoning ausgelegt, nicht darauf, einen einzelnen Benchmark anzuführen. Das zeigt sich auch daran, wie es "denkt".

Der Denkaufwand-Regler

Inkling ist ein Reasoning-Modell und bietet eine einstellbare "Denkaufwand"-Option. In der Hugging-Face-Integration ist das ein reasoning_effort-Level, das von none und minimal über low, medium, high, xhigh bis max reicht. Dreht man ihn runter, antwortet das Modell schnell und günstig; dreht man ihn hoch, verwendet es mehr Token aufs Nachdenken, bevor es antwortet.

Der Anspruch, auf den sich Thinking Machines hier stützt, ist Token-Effizienz: Sie behaupten, Inkling erreiche denselben Terminal-Bench-Score wie Nemotron 3 Ultra, brauche dafür aber nur rund ein Drittel der Token. Für alle, die pro Token zahlen oder eine GPU mieten, ist "gleiche Antwort, weniger Token" eine nützlichere Kennzahl als ein knapper Benchmark-Sieg.

Die Benchmarks: stark, aber nicht König

Hier muss man den Vendor-Pitch von der unabhängigen Einschätzung trennen. Thinking Machines' eigene Tabellen zeigen schmeichelhafte Zahlen bei maximalem Denkaufwand, das sauberere Signal kommt aber von Artificial Analysis, die alle nach demselben Maßstab benchmarken.

Deren Urteil: Inkling erreicht 41 Punkte im AA Intelligence Index, das ist Platz 10 von 97 auf ihrem kuratierten Leaderboard, deutlich über dem Schnitt von ~25 für Open-Weights-Modelle dieser Größe. Es ist also ein kluges Modell. Aber es liegt unter den Frontier-Spitzenreitern (Claude Fable 5, GPT-5.6, Kimi K3, Grok 4.5, GLM-5.2) und landet in einer Gruppe mit Modellen wie DeepSeek V4 Flash. Community-Tracker, die mehr Modelle einbeziehen, setzen es noch niedriger an, näher an Platz 41, woher auch die Debatte "ist 'konkurrenzfähig' fair?" stammt.

Liest man diese Tabelle ehrlich, ergibt sich ein echtes Profil: Inkling ist stark bei wissenschaftlichem und Long-Context-Reasoning und spürbar schwach bei Physik und roher Wissenszuverlässigkeit (der AA-Omniscience-Wissenszuverlässigkeitsindex liegt bei mageren 2 auf einer Skala von −100 bis 100). Es ist ein Modell mit scharfen Kanten, kein glatter Allrounder.

Der Launch-Thread hat genau das aufgegriffen. Lob und Skepsis standen nebeneinander:

"Ich habe mir gerade die Benchmarks angeschaut und war etwas enttäuscht, dass es bei den meisten Benchmarks zwischen KimiK2.6 und KimiK2.7 zu liegen scheint."

juliangoetze, Hacker News

Und die nützlichste Antwort im ganzen Thread, die man sich an den Monitor kleben sollte, bevor man irgendeinem Modellvergleich vertraut:

"Ihr wollt wissen, wie gut ein Modell ist? Testet es mit eurem eigenen, nicht öffentlichen Benchmark - im Grunde die einzige Möglichkeit, halbwegs verlässliche Antworten zu bekommen, alles andere ist manipuliert, missverstanden oder überbewertet."

embedding-shape, Hacker News

Dieser Instinkt, dass der einzige Benchmark, der zählt, die eigenen Daten sind, ist genau der, den man sich bewahren sollte, wenn man ein Modell jemals auf die eigene Support-Queue loslässt. Mehr dazu weiter unten.

Was kostet Inkling?

Das hat mich überrascht. Inkling ist Open Weights, wird auf Thinking Machines' eigener API aber wie ein proprietäres Frontier-Modell bepreist. Laut Artificial Analysis liegt es beim Preis auf Platz 81 von 97, also unter den teuersten seiner Klasse.

Zwei Dinge fallen auf. Erstens gibt es derzeit einen einzigen API-Anbieter, Thinking Machines selbst, es gibt also noch keinen günstigeren Drittanbieter, der unterbietet. Zweitens macht "Open Weights" es nur dann kostenlos, wenn man bereit ist, es selbst zu betreiben - das ist eine echte Entscheidung, keine Fußnote.

Inkling selbst betreiben

Weil die Gewichte offen sind, lief Inkling in der Community schon am ersten Tag lokal. Der Hugging-Face-Launch-Blog skizziert drei grobe Stufen, die die Leiter oben zusammenfasst: Der volle BF16-Checkpoint will rund 2 TB VRAM (Rechenzentrums-Terrain), die NVFP4-Quantisierung senkt das auf rund 600 GB auf Blackwell-Hardware, und Community-1-Bit-GGUF-Builds kürzen das um rund 95% - genug, um eine stark quantisierte Version auf einer kräftigen Workstation zu betreiben.

Die Unterstützung kam ebenfalls schnell: Tag-null-Integration in transformers 5.14, SGLang, vLLM und llama.cpp/Unsloth, plus Speculative-Decoding-Drafter-Layer für einen verlustfreien Geschwindigkeitsschub. Hier läuft ein 1-Bit-Build tatsächlich in Unsloths Studio, schreibt ein vollständiges HTML-Spiel und "denkt" 321 Sekunden lang bei einem Kontext von einer Million Token:

Diese "selbst betreiben"-Geschichte ist der eigentliche Grund, sich für Inkling zu interessieren. Wer ein offenes Modell gegen ein geschlossenes abwägt, steht vor dem Trade-off zwischen Kontrolle und Komfort: Man besitzt die Gewichte, die eigenen Daten verlassen nie die eigene Infrastruktur, und niemand kann einem das Modell unter dem Hintern wegdeprecaten - aber man ist jetzt für die GPUs verantwortlich.

Die Enterprise-Perspektive

Für Teams, die die Kontrolle wollen, ohne einen GPU-Cluster babysitten zu müssen: Inkling war am Tag null auf Databricks verfügbar, erreichbar über das Unity AI Gateway mit eingebauter Governance. Das Enterprise-Argument, das dort vorgebracht wird, ist dasselbe, das Open Weights überhaupt attraktiv macht: mit euren eigenen Daten fine-tunen, innerhalb der eigenen Governance-Grenze bleiben und Pro-Token-Preise umgehen.

Solltet ihr zu Inkling greifen?

Statt eines lahmen "kommt drauf an" gibt es hier einen klaren Entscheidungspfad, basierend darauf, worin Inkling tatsächlich gut und schlecht ist.

Was die Community wirklich denkt

Der Hacker-News-Launch-Thread (1.214 Punkte, ~292 Kommentare) ist die klarste Momentaufnahme davon, wie Entwickler Inkling aufgenommen haben. Die Stimmung war enthusiastisch, aber verhalten, und die Begeisterung galt weniger den Scores als vielmehr der Frage, wer es veröffentlicht hat:

"Nicht zu vergessen - es ist amerikanisch. Das ist das erste konkurrenzfähige, nicht-chinesische Open-Weights-Modell seit, was, Llama 3?"

paxys, Hacker News

Dieser Rahmen bekam Gegenwind (Leute nannten Mistral, Coheres North, Gemma und andere als Gegenbeispiele), aber die zugrunde liegende Stimmung - dass ein glaubwürdiges westliches Open-Weights-Angebot überfällig war - zog sich durch den ganzen Thread. Es gab auch eine gesunde Portion "wie überlebt eine Firma, die ihr Modell verschenkt?", wobei die Antwort auf Tinker, das gehostete Fine-Tuning-Geschäft, hinauslief:

"Die Tech-Geschichte ist übersät mit den Leichen von 'Open Source, aber wir verkaufen Hosting'-Diensten. Modelle sind so teuer zu trainieren, dass man die großen Kunden nicht verlieren darf, sobald sie richtig profitabel werden."

tyre, Hacker News

Ob dieses Modell trägt, ist die offene Frage, die über Inkling schwebt. Aber im Moment haben Entwickler ein fähiges, multimodales, vollständig offenes Modell zum Erkunden bekommen, und die meisten waren zufrieden damit.

Was ein Modell wie Inkling für den Kundensupport bedeutet

Hier verbringe ich seit ein paar Jahren meine Zeit, also lasst mich direkt werden. Ich baue die Agenten-Schicht, die auf Modellen wie Inkling sitzt, und was ich beim Beobachten echter Rollouts gelernt habe, ist dies: ein besseres Basismodell ändert selten, was tatsächlich in einer Support-Queue landet.

Ein rohes Modell, so klug es auch sein mag, kennt eure Rückerstattungspolicy nicht, sieht nicht die letzten 40.000 Tickets, die euer Team schon gelöst hat, und hat keine Ahnung, wann es besser den Mund halten und an einen Menschen übergeben sollte. Setzt man es direkt vor Kunden, antwortet es selbstbewusst und falsch, was schlimmer ist als gar nicht zu antworten. Genau dieses Fehlerbild, der selbstbewusste, aber falsche Bot, ist der Grund, warum KI-Halluzinationen im Support Teams so oft auf die Füße fallen - und warum das Modell immer nur der Motor ist.

Das Auto ist die Schicht drumherum. Genau das ist eesel: Es lernt aus euren gelösten Tickets und Hilfe-Dokumenten (nicht nur einer Marketingseite), routet nach Vertrauensgrad, sodass unsichere Antworten entworfen statt versendet werden, und - der Teil, der mir am meisten am Herzen liegt - lässt euch den Agenten simulieren gegen eure eigenen vergangenen Tickets, bevor auch nur ein einziger Kunde ihn sieht. Diese Simulation ist der Rat "testet es mit eurem eigenen Benchmark" von Hacker News, umgesetzt als Produktschritt.

Das bedeutet auch, dass ihr euren Support-Stack nicht auf ein einzelnes Modell verwetten müsst. Das beste Modell wechselt alle paar Wochen (heute Inkling, nächsten Monat etwas anderes), also bleibt eesel modellunabhängig und nutzt jeweils das stärkste, während der Teil, der euren Kunden wirklich wichtig ist - das Wissen, die Guardrails, die Ticket-Triage - bestehen bleibt.

eesel ausprobieren

Inkling ist ein interessantes Release, aber eine Model Card ist kein Support-Agent. Wenn euer eigentliches Ziel ist, Tier-1-Support zu automatisieren, braucht ihr die Schicht, die aus jedem starken Modell einen Teamkollegen macht: eesel klinkt sich in euer bestehendes Helpdesk ein (Zendesk, Freshdesk, Gorgias, HubSpot, Front und über 100 weitere), lernt aus eurer Historie und lässt euch an echten vergangenen Tickets simulieren, bevor ihr live geht - sodass ihr Abdeckung und Genauigkeit vorher seht, nicht erst, nachdem ein Kunde eine schlechte Antwort bemerkt hat. Gridwise nutzte genau diesen Ansatz, um im ersten Monat 73% der Tier-1-Anfragen zu lösen.

Die Preisgestaltung ist nutzungsbasiert bei rund 0,40 $ pro gelöstem Ticket, ohne Sitzplatzgebühren, und ihr könnt kostenlos starten. Das ist der Unterschied zwischen einem tollen Motor bewundern und tatsächlich irgendwohin fahren.