Aller au contenu

Configuration LM Studio (Custom / Local)

Utilisez ce guide lorsque vous voulez que Genie dialogue avec un serveur de modèles local ou avec n’importe quelle passerelle OpenAI-compatible au lieu d’un compte fournisseur hébergé.

Genie n’exécute pas lui-même le modèle. Il vous faut un serveur qui expose déjà une API OpenAI-compatible.

Options typiques :

  • LM Studio avec son serveur local activé
  • une passerelle auto-hébergée
  • un autre endpoint compatible, local ou distant

Ouvrez Settings et regardez les paramètres fournisseur pour :

  • Coding pour la génération en mode CODE
  • Logistics pour l’orchestration de ASK, le preflight, QUERY et DATA

Vous pouvez faire pointer les deux rôles vers le même endpoint ou les répartir entre différents modèles.

Lorsque vous choisissez Custom / Local, Genie expose ces champs pour chaque rôle :

  • Custom model id
  • Endpoint (OpenAI-compatible)
  • API key si votre serveur en exige une
  • Test Connection

Exemple de forme d’endpoint :

http://127.0.0.1:1234/v1
  1. Réglez Coding Provider sur Custom / Local.
  2. Saisissez l’identifiant de modèle attendu par votre serveur local.
  3. Saisissez l’URL de base de l’endpoint.
  4. Ajoutez la clé API seulement si votre serveur en exige une.
  5. Cliquez sur Test Connection avant d’enregistrer.
  6. Recommencez pour Logistics si vous voulez que ASK, QUERY ou DATA utilisent la même pile locale.

Vérifiez d’abord les points suivants :

  • le serveur local est bien lancé
  • l’endpoint inclut le bon chemin de base /v1 si votre serveur l’attend
  • l’identifiant du modèle correspond à un modèle réellement exposé par votre serveur
  • la clé API est présente si votre passerelle l’exige

Genie est activé mais les requêtes échouent toujours

Section intitulée « Genie est activé mais les requêtes échouent toujours »

L’activation et les identifiants fournisseur sont distincts.

Vérifiez séparément Coding et Logistics. Chaque rôle peut avoir son propre endpoint, son propre modèle et sa propre clé.

  • garder le trafic des modèles en local
  • tester des modèles de code alternatifs
  • faire pointer Genie vers une passerelle interne
  • séparer un modèle de code plus solide d’un modèle de planification plus rapide