Ir al contenido

Configuración de LM Studio (Custom / Local)

Usa esta guía cuando quieras que Genie hable con un servidor de modelos local o con cualquier gateway compatible con OpenAI en lugar de una cuenta de proveedor alojada.

Genie no ejecuta el modelo por sí mismo. Necesitas un servidor que ya exponga una API compatible con OpenAI.

Opciones típicas:

  • LM Studio con su servidor local activado
  • un gateway autoalojado
  • otro endpoint local o remoto compatible

Abre Settings y mira la configuración del proveedor para:

  • Coding para la generación de CODE
  • Logistics para la coordinación de ASK, preflight, QUERY y DATA

Puedes apuntar ambos roles al mismo endpoint o separarlos entre modelos distintos.

Cuando eliges Custom / Local, Genie muestra estos campos para cada rol:

  • Custom model id
  • Endpoint (OpenAI-compatible)
  • API key si tu servidor la requiere
  • Test Connection

Ejemplo de forma del endpoint:

http://127.0.0.1:1234/v1
  1. Configura Coding Provider en Custom / Local.
  2. Introduce el model ID que espera tu servidor local.
  3. Introduce la URL base del endpoint.
  4. Añade la API key solo si tu servidor la requiere.
  5. Haz clic en Test Connection antes de guardar.
  6. Repite el proceso para Logistics si quieres que ASK, QUERY o DATA usen el mismo stack local.

Comprueba primero esto:

  • el servidor local está en ejecución
  • el endpoint incluye la ruta base correcta /v1 si tu servidor la espera
  • el model ID coincide con un modelo que tu servidor expone realmente
  • la API key está presente si tu gateway la exige

Genie está activado pero las solicitudes siguen fallando

Sección titulada «Genie está activado pero las solicitudes siguen fallando»

La activación y las credenciales del proveedor son cosas separadas.

Revisa Coding y Logistics por separado. Cada rol puede tener su propio endpoint, modelo y clave.

  • mantener el tráfico del modelo en local
  • probar modelos de codificación alternativos
  • apuntar Genie a un gateway interno
  • separar un modelo de codificación más potente de un modelo de planificación más rápido