Modelle¶
Die Agentlab-Sektion Modelle dokumentiert die in Flows verfügbaren KARLI-gehosteten Modelle und wie sie ausgewählt werden. Anders als in früheren Versionen gibt es keine Komponenten „KARLI Embeddings" oder „KARLI Model Provider" — KARLI ist schlicht einer unter mehreren Anbietern und wird über die Standard-Langflow-Modellkomponenten angesprochen.
Die Modelle sind hier nach Typ gegliedert:
- LLMs — KARLI-gehostete Chat-Modelle, wählbar in jeder modell-fähigen Komponente (Language Model, Agent usw.).
- Embeddings — KARLI-gehostete Embedding-Modelle, wählbar in der Embedding-Model-Komponente.
- Datenextraktion — KARLI-gehostete Dokument- und Audio-Extraktions-Modelle, von der Read File-Komponente genutzt, wenn ihr Backend auf
karlisteht. KARLI ist derzeit der einzige Anbieter in dieser Kategorie.
Provider-Zugangsdaten¶
Alle KARLI-gehosteten Modelle teilen sich zwei Provider-Variablen, die an jeder nutzenden Komponente als erweiterte Felder auftauchen:
| Variable | Pflicht | Beschreibung |
|---|---|---|
KARLI_API_KEY |
Ja | API-Key für den KARLI-Dienst. Als Secret gespeichert. Fällt auf die Umgebungsvariable KARLI_API_KEY zurück. |
KARLI_BASE_URL |
Nein | Basis-URL des KARLI-Dienstes. Fällt auf die Umgebungsvariable KARLI_BASE_URL zurück; ohne Konfiguration gilt der Produktions-Endpoint. |
Datensouveränität
Für Deployments mit Anforderungen an Datensouveränität steuert die Karli-Studio-Administration auf Plattform-Ebene, welche Provider freigeschaltet sind, sodass nur Modelle aus genehmigten Regionen erreichbar sind.