Núcleo
Servidor de inferencia local
Ejecuta modelos GGUF dentro de tu infraestructura con streaming compatible con el formato OpenAI. Parametrizas contexto, hilos, atención rápida y caché KV desde el panel.
01 · Inferencia
El motor que responde.
Modelos, memoria y concurrencia: donde se define la capacidad real de tu nodo.
Núcleo
Texto y visión
Modelos con componente visual y proyección multimodal. Aceptan imágenes por URL o datos embebidos para leer documentos, capturas y fotografías.
Rendimiento
Lanes de ejecución
Carriles base, gpu0, gpu1, dual y cpu para distribuir cargas y aislar tareas críticas del tráfico ordinario.
Rendimiento
Perfiles de modelos
Ciclo de vida completo: borrador, prueba y publicación. Lo que un ingeniero experimenta queda como configuración estable para el resto.
Rendimiento
Stack multi-modelo
Combinaciones de varios modelos guardadas y restaurables, con estimación previa de memoria antes de cargarlas.
Avanzado
Modo frontier
Suspende el stack habitual, carga un modelo de mayor tamaño y restaura la configuración tras la inactividad sin cortar inferencias activas.
02 · Voz
Escuchar y hablar sin salir del edificio.
Transcripción y síntesis que no envían el audio a ningún servicio externo.
Núcleo
Voz a texto local
Transcripción de audio dentro del nodo, con descarga por inactividad para devolver la GPU a las tareas principales cuando no se usa.
Núcleo
Texto a voz
Generación de audio bajo demanda para avisos, accesibilidad, contenidos formativos y productos que necesitan hablar.
03 · Documentos
Del archivo al texto consultable.
La base de casi todo caso de uso institucional: convertir papeles en conocimiento utilizable.
Núcleo
Servicio de archivos y OCR
Convierte PDF, documentos de Office, imágenes y hojas de cálculo en texto plano listo para consultar, resumir o extraer datos.
Rendimiento
Colas de descarga y pesos
Gestión del almacenamiento de modelos: colas de descarga, verificación de pesos y control de qué versiones quedan disponibles.
04 · Plataforma
Para que tus aplicaciones consuman el nodo.
Interfaces y módulos opcionales. Todo lo opcional está etiquetado como tal.
Núcleo
API de inferencia
Endpoints sobre HTTPS con claves de acceso de alcance limitado, para conectar sistemas internos, automatizaciones o productos propios.
Opcional según proyecto
Integración con Unreal / GameDev
Conexión del nodo con entornos de desarrollo de juegos y simulación para personajes, diálogo asistido y contenido dinámico.
Opcional según proyecto
Telefonía SIP
Vinculación con centralitas para escenarios de voz por teléfono sobre la misma capacidad de transcripción y síntesis.
Opcional Fase 3
Sincronización entre nodos
Coordinación de configuración y catálogo entre varios nodos de una misma organización.
Híbrido
Proveedores externos explícitos
Posibilidad de enrutar cargas concretas a servicios externos cuando la organización lo decide y lo documenta.
Rendimiento
Interfaz multi-idioma
Panel y documentación en español, inglés y portugués para equipos y regiones diversas.
05 · Gobierno y seguridad
Quién puede hacer qué, y constancia de ello.
Controles concretos con responsabilidades claras: ni promesas absolutas ni caja negra.
Núcleo
Usuarios de sistema y de aplicaciones
Identidades humanas y de servicios con roles y privilegios mínimos, administradas desde el propio nodo.
Núcleo
Autenticación y MFA
Segundo factor basado en tiempo y gestión de sesiones para reducir el riesgo de credenciales comprometidas.
Núcleo
Claves de API con alcance
Claves por integración, limitadas por permiso, revocables y con registro de uso.
Núcleo
Auditoría de seguridad
Registros de accesos, cambios de configuración y eventos relevantes para reconstruir qué ocurrió.
Rendimiento
Registro de inferencias
Historial de consultas y respuestas del sistema para trazabilidad operativa y análisis de uso.
Núcleo
Red y firewall
Administración de puertos, reglas y exposición externa desde el panel, con terminación TLS.
06 · Operación
Ver el nodo, no adivinarlo.
Telemetría, servicios y energía: lo que necesitas para sostener el sistema en el tiempo.
Núcleo
HUD de hardware
GPU y VRAM por tarjeta, potencia consumida, CPU, memoria, temperaturas, discos y estado de servicios en una sola vista.
Núcleo
Gestión de servicios
Estado y control de los procesos del sistema, con verificación de salud de cada motor.
Rendimiento
Energía
Consumo eléctrico del nodo y su correlación con la carga de trabajo, insumo directo para el cálculo de costo total.
Avanzado
Benchmarks internos
Medición de latencia del primer token y velocidad de generación en el hardware real del cliente.
Núcleo
Operación offline
Con los modelos instalados, los flujos locales siguen funcionando sin salida a internet.
Núcleo
Instalación por fases
Despliegue en etapas sobre servidor limpio, con verificación y capacitación en cada fase.