Configuration LLM

cleankoda utilise LiteLLM comme couche d’abstraction sous-jacente. Cela vous offre une flexibilité maximale dans le choix de vos modèles d’IA : vous pouvez utiliser n’importe quel fournisseur et modèle pris en charge par LiteLLM (par exemple, Anthropic, OpenAI, Mistral, Google Gemini, Groq, Bedrock ou des instances locales via Ollama).

De plus, tout fournisseur compatible OpenAI (tel que llama.cpp, vLLM, LM Studio ou des points de terminaison d’API personnalisés) peut être intégré facilement.

La configuration s’effectue de manière interactive directement dans l’interface en ligne de commande de cleankoda à l’aide de commandes :

1. Spécifier le fournisseur (/provider)

Saisissez la commande /provider dans la ligne de commande de cleankoda pour sélectionner le fournisseur LLM souhaité :

/provider

Lors de la sélection d’un fournisseur, vous serez invité à saisir la clé API correspondante.

2. Sélectionner un modèle (/model)

Une fois le fournisseur activé, sélectionnez le modèle de langage souhaité à l’aide de /model :

/model

Emplacement du fichier de configuration (config.json)

Le fournisseur actuellement sélectionné, le modèle actif et les paramètres de base sont stockés dans votre répertoire utilisateur :

~/.config/cleankoda/config.json

Exemple de configuration :

{
  "provider": "mistral",
  "model": "mistral-small-latest",
  "temperature": 0.2,
  "max_tokens": 4096,
}

Fournisseurs personnalisés compatibles avec OpenAI (custom.json)

Si vous souhaitez utiliser votre propre point de terminaison ou un service offrant une interface compatible avec OpenAI (par exemple, un serveur local via vLLM/Ollama ou une passerelle interne), spécifiez-le dans le fichier :

~/.config/cleankoda/custom.json

{
  "<custom-provider-name>": {
    "name": "Custom LLM",
    "api_base": "https://.../v1",
    "models": [
      "gemma4-12b",
      "qwen-3.5"
    ],
    "requires_api_key": true
  },

Une fois ces entrées présentes dans custom.json, votre fournisseur personnalisé et ses modèles apparaîtront automatiquement dans les boîtes de dialogue de sélection de /provider et /model.