TypeSafe AI startet Jev, ein kostengünstiges KI-Entscheidungssystem

TypeSafe AI hat Jev, ein neues KI-Modell zur Unterstützung von Entscheidungen, auf den Markt gebracht. Das Unternehmen, das von Diogo Almeida, einem ehemaligen Mitarbeiter von OpenAI, mitgegründet wurde, hat das Modell System One entwickelt, das speziell für Entscheidungsprozesse konzipiert ist. Jev zeichnet sich durch seine hohe Geschwindigkeit und niedrigen Kosten aus.

Jev kann Fragen in natürlicher Sprache ähnlich wie andere große Sprachmodelle (LLM) verarbeiten, jedoch ist die Antwortform auf Auswahlmöglichkeiten (choice), Bewertungen und Zustimmung mit einer Punktzahl von 0-1 beschränkt. Diese Einschränkung reduziert die Vielseitigkeit im Vergleich zu herkömmlichen LLMs, jedoch ermöglicht Jev eine Antwortzeit von lediglich 70 bis 500 Millisekunden, was eine nahezu sofortige Reaktion gewährleistet.

Die Kosten für die Nutzung von Jev betragen nur 0,0042 Dollar pro Million Token, was es erheblich günstiger macht als viele bestehende LLMs. Anwendungsfälle für Jev umfassen die Verwendung als Schutzmechanismus (guardrail) für andere KI-Modelle, die Unterstützung bei komplexen Entscheidungsprozessen, die eine Sprachinterpretation erfordern, sowie die Verarbeitung großer Datenmengen. Obwohl ähnliche Aufgaben auch von traditionellen LLMs durchgeführt werden können, bietet Jev einen signifikanten Kostenvorteil.

Aktuell ist Jev nur für einen geschlossenen Nutzerkreis verfügbar, und Interessierte müssen sich im Voraus für den Zugang anmelden. Laut Blognone wurde die Geschichte veröffentlicht.