Das ist Metis Hybrid: ein Modell, das entscheidet, erklärt und chattet

Die meisten KI-Anwendungen betreiben zwei Modelle: einen Klassifikator, der Entscheidungen trifft, und einen Chatbot, der spricht. Metis Hybrid, unser neues Entscheidungsmodell, kann beides. Es entscheidet in Millisekunden mit einer ehrlichen Wahrscheinlichkeit für jede Option, erklärt seine Entscheidung auf Wunsch und chattet wie ein normaler Assistent, alles mit denselben Gewichten.

Ein Modell statt zwei

Teams, die Tickets weiterleiten, Richtlinien prüfen oder Leads bewerten, betreiben meist einen Klassifikator für die Entscheidung und einen separaten Chatbot für das Gespräch. Das sind zwei Modelle, die gehostet, aktualisiert und bezahlt werden müssen.

Metis Hybrid ist ein Modell mit zwei Ausgängen. Ein kleiner Entscheidungsteil wählt eine Antwort aus einer festen Menge von Optionen und gibt für jede eine Wahrscheinlichkeit an. Die Sprachseite desselben Modells kann diese Entscheidung erklären, in Worten antworten oder chatten. Der Wechsel vom Entscheiden zum Chatten ist eine Einstellung in der Anfrage, kein zweiter Server.

Modus	Was Sie bekommen	Zeit pro Anfrage
Nur entscheiden	Die Antwort plus eine Wahrscheinlichkeit für jede Option	etwa 0,06 s
Entscheiden + erklären	Dasselbe, plus eine kurze schriftliche Erklärung	etwa 3 bis 5 s
Nur Text	Eine Antwort in Worten, ohne Wahrscheinlichkeiten	etwa 3 bis 5 s
Chat	Ein normales Gespräch mit einem Assistenten	hängt von der Länge ab

Die Zeiten stammen aus unserer Live-Demo auf einer Cloud-GPU (NVIDIA L4).

Drei Arten von Fragen

Wie Metis beantwortet Metis Hybrid Fragen mit einer festen Menge von Antworten:

• Eine Option wählen: Welches Team bekommt dieses Ticket?
• Ja oder nein: Liegt diese Abrechnung innerhalb der Richtlinie?
• Ein Wert auf einer Skala: Wie schwer ist dieser Vorfall?

Sie schreiben die Frage und die Optionen, das Modell entscheidet. Ein neues Training pro Aufgabe ist nicht nötig.

Entscheidungen in Millisekunden

Eine Entscheidung ist ein einziger Durchlauf durch den Text, ohne dass etwas geschrieben wird: etwa 60 Millisekunden. Schreibt dasselbe Modell seine Antwort aus, dauert das auf derselben GPU etwa 3 Sekunden. Eine Entscheidung braucht also etwa 50× weniger GPU-Zeit. Das passt zu großen Mengen wie Tickets, E-Mails und Bewertungen, und weniger Rechenaufwand pro Entscheidung passt zu dem, wofür GreenPT steht.

Es sagt, wie sicher es ist

Jede Antwort kommt mit einer Wahrscheinlichkeit, und am oberen Ende der Skala können Sie ihr vertrauen. Wenn Metis Hybrid 4B bei den JevBench-Fragen zu 90% oder mehr sicher war, lag es in 97% der Fälle richtig (147 von 151). Das 27B zeigt dasselbe Muster, mit 98%.

Wenn Metis Hybrid 4B zu 90% oder mehr sicher ist, liegt es in 97% der Fälle richtig

147 von 151 Antworten mit 90% oder mehr Sicherheit waren richtig, 231 JevBench-Fragen

Unter 90% ist das Modell sicherer, als es sein sollte: Antworten mit 70 bis 85% Sicherheit waren etwa zwei von drei Malen richtig. Ziehen Sie die Grenze also bei 90%: Diese Antworten gehen direkt durch, der Rest geht an einen Menschen. Und wenn ein Fall knapp ist, sagt das Modell das. Bei der Bewertung eines Vertriebsleads gab es “kaufbereit” 57% und “heiß” 42%: eine knappe Entscheidung, ehrlich gezeigt.

Erklärt seine Entscheidung auf Wunsch

Ein Schalter fügt eine kurze Erklärung in einfacher Sprache hinzu. Bedenken Sie, was diese Erklärung ist: Sie wird nach der Entscheidung geschrieben und beschreibt sie. Sie ist kein Beweis, dass die Entscheidung stimmt, deshalb bleibt die Wahrscheinlichkeit die Zahl, nach der Sie handeln.

Benchmarks

JevBench testet Entscheidungsmodelle mit geschäftlichen Fragen. Auf den 231 öffentlichen Fragen, mit denen keines unserer Modelle trainiert wurde, erreicht Metis Hybrid 4B 84% und das 27B 88%. Unser eigener Durchlauf am 14. Oktober 2026 stimmte bis auf eine Frage mit den veröffentlichten Zahlen überein. Der Vorsprung des 27B kommt von den schwierigsten Fragen.

Jede 4B-Version erzielt dasselbe; das 27B führt bei schweren Fragen

Genauigkeit pro Schwierigkeitsstufe von JevBench, 231 öffentliche Fragen

Die Komprimierung kostet das 4B fast nichts: Die Version mit 4,5 GB gibt bei 99,6% der Fragen dieselbe Antwort wie das vollständige Modell, die Version mit 2,7 GB bei 94,4%, innerhalb einer Frage vom Ergebnis des vollständigen Modells.

Läuft auf eigener Hardware

Version	Größe	Läuft auf	JevBench
Metis Hybrid 4B	9,3 GB	Einem Server oder einer Cloud-GPU mit 16 GB oder mehr	84,4%
Metis Hybrid 4B Q8_0	4,5 GB	Laptops, Macs und Edge-Servern, mit llama.cpp	84,4%
Metis Hybrid 4B Q4_K_M	2,7 GB	Die kleinste Version, mit llama.cpp	84,0%
Metis Hybrid 27B	etwa 54 GB	Einer großen GPU mit 80 GB oder mehr	88,3%

Die komprimierten Versionen sind klein genug für einen Laptop, sodass die Daten das Gerät nicht verlassen müssen. Alle Versionen basieren auf offenen Qwen-Modellen und sind in der Metis-Hybrid-Kollektion auf Hugging Face. Die Kollektion enthält außerdem ein 9B und Entwicklerversionen des 4B; ihre Modellkarten auf Hugging Face zeigen den vollständigen Benchmark.

Was Metis Hybrid nicht kann

Metis Hybrid liegt nicht immer richtig: 84% für das 4B und 88% für das 27B auf JevBench, und weniger bei Aufgaben, die es nie gesehen hat. Es entscheidet in einem Durchlauf und ist deshalb schwach bei Berechnungen und Datumsangaben; geben Sie berechnete Werte im Fall an. Es wurde vor allem mit Englisch trainiert und funktioniert auch mit niederländischen Eingaben.

Metis Hybrid ausprobieren

Sie finden die Modelle in der Metis-Hybrid-Kollektion auf Hugging Face. Wie Metis begann, lesen Sie in unserer Vorstellung von Metis.