KI-Modelle & Provider
Von Connic verwaltete Inferenz und eigene Provider werden im Agent-YAML ausgewählt. Dort lässt sich auch das Verhalten des KI-Modells konfigurieren.
Auf dieser Seite
Jedes KI-Modell verwendet provider/model-name. Wähle ein konkretes KI-Modell wie connic/glm-5.2 für EU-exklusive verwaltete Inferenz, die mit Projektguthaben bezahlt wird, oder nutze ein beliebiges BYOK-Präfix mit Zugangsdaten aus den Projekt-Settings. Beide Varianten funktionieren als primäres KI-Modell und als Fallback.
KI-Modell-Steuerung
model: anthropic/claude-sonnet-4-5
fallback_model: connic/glm-5.2
temperature: 0.7
reasoning_effort: high # supported values depend on the selected modelmodelwählt das primäre KI-Modell aus und ist für LLM-Agenten erforderlich.fallback_modelwird nach der ersten fehlgeschlagenen Anfrage an das primäre KI-Modell verwendet und erhält die konfiguriertenretry_options.attempts. Der Run wird für die Filterung übercontext.fallback_model_usedmarkiert. Managed- und BYOK-KI-Modelle lassen sich beliebig als primäres KI-Modell und als Fallback kombinieren.temperaturesteuert, wie zufällig die Ausgabe ist. Bei niedrigeren Werten fallen die Antworten gleichmäßiger aus.reasoning_effortverwendet modellspezifische Werte. Mitautosteuert das KI-Modell sein Verhalten selbst; fürconnic/*kann unter Connic KI-Modelle ein Override gewählt werden. Provider können die Nutzung von Reasoning-Tokens melden, ohne lesbaren Reasoning-Text zurückzugeben. Ein explizites unterstütztes Effort-Level fordert Reasoning-Text an. Erfasstes Reasoning erscheint in den Traces des Runs, wenn der Provider es zurückgibt; einige KI-Modelle stellen bei keinem Effort-Level Zusammenfassungen bereit.reasoning_budgetlegt bei KI-Modellen, die dies unterstützen, ein direktes Token-Budget fest. Verwendereasoning_effortfür KI-Modelle mit benannten Effort-Levels.
Unterstützte Provider
Wähle in der Agent-Konfiguration das passende Präfix. Nur BYOK-Provider benötigen Zugangsdaten in den Projekt-Settings.
| Provider | Präfix | Konfiguration |
|---|---|---|
| Von Connic verwaltet | connic/ | Kein Provider-Key · Projektguthaben · Inferenz in der EU |
| OpenAI | openai/ | Nur API-Key |
| Azure OpenAI | azure/ | API-Key + Basis-URL + API-Version |
| Anthropic | anthropic/ | Nur API-Key |
| Google Gemini | gemini/ | Nur API-Key |
| OpenRouter | openrouter/ | Nur API-Key |
| AWS Bedrock | bedrock/ | Access Key ID + Secret Access Key + Region |
| Google Vertex AI | vertex_ai/ | GCP Projekt-ID + Standort + Service-Account-JSON |
| Eigener OpenAI-kompatibler Provider | your_prefix/ | API-Basis-URL + optionaler API-Key |
Eigene OpenAI-kompatible Provider
Jeder OpenAI-kompatible Endpoint lässt sich anbinden, einschließlich selbst gehosteter KI-Modelle und Inferenz-Proxys. Wähle unter Projekt-Settings > LLM Provider die Option Add Custom Provider und konfiguriere:
- Model prefix: ein eindeutiges Präfix in Kleinbuchstaben, zum Beispiel
ollama - API base URL: der Endpoint, zum Beispiel
https://my-llm.example.com/v1 - API key: optional; lass das Feld leer, wenn der Endpoint keine Authentifizierung benötigt
# Custom provider configured with prefix "ollama"
model: ollama/llama3
# Custom provider configured with prefix "vllm"
model: vllm/mistral-7bConnic leitet Anfragen mit diesem Präfix an den konfigurierten Endpoint weiter. Das Präfix darf nicht mit dem Namen eines integrierten Providers kollidieren; connic ist reserviert.
Beispiele für KI-Modell-IDs
# Using a Connic-managed model
model: connic/glm-5.2
# Using OpenAI with your own key
model: openai/gpt-5.2
# Using Anthropic
model: anthropic/claude-opus-4-7
# Using Google Gemini
model: gemini/gemini-2.5-pro
# Using Azure OpenAI (use your deployment name)
model: azure/my-gpt5-deployment
# Using OpenRouter (provider/model format)
model: openrouter/anthropic/claude-sonnet-4.5
# Using AWS Bedrock
model: bedrock/us.anthropic.claude-opus-4-7-v1:0
# Using Google Vertex AI
model: vertex_ai/gemini-2.5-pro
# Using a custom OpenAI-compatible provider
model: ollama/llama3