LLMs

Chat-Modelle von KARLI und tokeneurope sind als Provider neben den übrigen (OpenAI, Anthropic usw.) registriert und in jeder modell-fähigen Komponente auswählbar — am häufigsten in Language Model und Agent.

Technisch sprechen beide Provider eine OpenAI-kompatible API: Komponenten wählen ein Modell genauso wie ein OpenAI-Modell, aber die Requests gehen an den jeweiligen Provider-Endpoint.

KARLI-Modelle

Modell	Hinweise
karli/KARLI-MoE-latest	KARLI-Standard-Chat-Modell; unterstützt Tool Calling.

tokeneurope-Modelle

Modell	Hinweise
google/gemma-4-31B-it	Gemma 4 31B Instruction-Tuned; unterstützt Tool Calling.
openai/gpt-oss-120b	GPT-OSS 120B; unterstützt Tool Calling.

Modell auswählen

Jede modell-fähige Komponente (z. B. Language Model oder Agent) öffnen, als Provider KARLI oder tokeneurope wählen und ein Modell aus dem Dropdown picken. Der Provider blendet die in der Model-Provider-Übersicht beschriebenen Zugangsdaten ein.

Provider-Filterung

Einzelne Agentlab-Dropdowns sind auf einen bestimmten Provider eingegrenzt — zum Beispiel ist der Modell-Selector für die Extraktion in der Read-File-Komponente ausschließlich auf KARLI gefiltert (siehe Datenextraktion). Weitergehende, deployment-weite Provider-Filterung (etwa für Datensouveränität oder Compliance) wird nicht von Agentlab, sondern von der umgebenden Karli-Studio-Plattform durchgesetzt.