Ya tengo la NVIDIA DGX Spark, ¿ahora qué hago? Guía para instalar modelos locales, OpenClaw y agentes de IA

Guias, Programacion, Tecnologia

Compraste una NVIDIA DGX Spark. La conectaste, actualizaste el sistema, viste los 128 GB de memoria unificada y probablemente ejecutaste alguna demo para confirmar que la pequeña caja realmente podía mover un modelo que haría sudar a una laptop convencional.

Ahora viene la pregunta importante: ¿qué hago con una máquina de casi US$5.000 aparte de enseñársela a mis amigos y revisar cuántos parámetros caben en memoria?

La respuesta corta es que una DGX Spark —o una AMD Ryzen AI Halo de 128 GB— solo empieza a justificar su precio cuando deja de funcionar como chatbot caro y se convierte en infraestructura: un servidor local de modelos, una estación de desarrollo, una base de conocimiento privada y un nodo capaz de ejecutar agentes y automatizaciones durante todo el día.

En esta guía vamos a construir esa ruta paso a paso. Veremos herramientas gratuitas y pagas, modelos locales, interfaces, APIs, OpenClaw, servicios de OpenAI, Anthropic y Google, automatizaciones, generación de contenido, agentes de programación y las precauciones necesarias antes de darle a una IA acceso al correo, los archivos y media vida digital.

La respuesta rápida

Mi configuración recomendada sería:

  1. DGX Spark o AMD Halo como servidor local, no como PC principal.
  2. vLLM o llama.cpp para servir modelos con una API compatible con OpenAI.
  3. Ollama o LM Studio para pruebas rápidas y administración sencilla.
  4. Open WebUI como interfaz privada tipo ChatGPT.
  5. OpenClaw o NemoClaw como gateway de agentes y automatizaciones.
  6. n8n para flujos deterministas, integraciones y aprobaciones.
  7. Un modelo local de 20B–35B para tareas rápidas y repetitivas.
  8. Un modelo de 70B–120B para análisis, programación y trabajo complejo.
  9. OpenAI, Claude o Gemini como fallback, no necesariamente como motor de todo.
  10. Sandbox y aprobación humana para correo, archivos, compras, publicación y comandos.

La arquitectura ideal no es “todo local” ni “todo cloud”. Es híbrida:

Telegram / Slack / Web / PC
             │
             ▼
     OpenClaw Gateway
             │
     ┌───────┴────────┐
     │                │
Modelo local      Modelo cloud
privado/barato    razonamiento difícil
     │                │
     └───────┬────────┘
             │
       Skills y MCP
             │
  Gmail, Calendar, GitHub,
  archivos, WordPress, n8n

El modelo local hace el volumen. La nube entra cuando realmente agrega valor.

Antes de instalar: decide para qué compraste la máquina

Este paso parece obvio, pero es donde se pierde más tiempo. Mucha gente empieza descargando cinco modelos, tres interfaces y cuatro frameworks antes de responder una pregunta básica: ¿qué tarea concreta quiero resolver?

Una DGX Spark puede servir para:

  • asistente privado de documentos;
  • programación y revisión de código;
  • generación de contenido;
  • análisis de contratos e informes;
  • búsqueda semántica;
  • soporte interno;
  • traducción;
  • agentes que revisan correo y calendario;
  • automatización de reportes;
  • clasificación de tickets;
  • investigación;
  • generación de imágenes;
  • prototipado de productos de IA;
  • fine-tuning y LoRA;
  • evaluación de modelos;
  • servidor de inferencia para un equipo.

No empezaría intentando hacer todo. Escogería uno de estos proyectos:

Proyecto inicial recomendado

Asistente privado con tus documentos y un agente de automatización limitado.

Te permite probar:

  • inferencia;
  • RAG;
  • embeddings;
  • OpenClaw;
  • MCP;
  • permisos;
  • interfaz web;
  • modelo local y cloud;
  • medición de costos.

Y lo hace sin poner a la IA a cancelar reuniones o borrar correos en su primer día de trabajo. Primero que aprenda dónde está la cafetera.

Paso 1: configura DGX Spark como servidor local

Aunque puedes conectar monitor, teclado y mouse, lo más práctico es dejar la DGX Spark conectada por Ethernet y administrarla desde tu PC o laptop.

Configuración básica

Durante el primer inicio:

  1. conecta Ethernet si es posible;
  2. completa el asistente inicial;
  3. instala todas las actualizaciones;
  4. crea un usuario administrativo;
  5. configura hostname reconocible;
  6. activa acceso SSH;
  7. instala NVIDIA Sync en tu PC;
  8. abre DGX Dashboard;
  9. verifica almacenamiento y temperatura;
  10. crea una IP reservada en el router.

Un nombre como este ayuda:

dgx-spark-office.local

No uses “spark” si tienes tres equipos iguales y dentro de seis meses nadie recuerda cuál era cuál.

Conexión por SSH

Desde otro equipo:

ssh usuario@dgx-spark-office.local

Después verifica:

nvidia-smi
docker --version
python3 --version

También conviene crear carpetas separadas:

mkdir -p ~/ai/models
mkdir -p ~/ai/data
mkdir -p ~/ai/workspaces
mkdir -p ~/ai/backups
mkdir -p ~/ai/containers

Evita descargar modelos de cientos de gigabytes en cualquier carpeta hasta que el SSD parezca un cajón de cables viejos.

Paso 2: configura una AMD Ryzen AI Halo

En AMD puedes trabajar directamente sobre Linux o usar Windows 11 con WSL2. Para muchos desarrolladores que también necesitan aplicaciones Windows, WSL2 es la ruta más cómoda.

La configuración oficial de AMD para OpenClaw utiliza:

  • Windows 11;
  • WSL2;
  • LM Studio;
  • llama.cpp;
  • memoria local;
  • embeddings locales;
  • OpenClaw.

Mi elección según usuario

Linux nativo

Mejor para:

  • vLLM;
  • ROCm;
  • Docker;
  • servidores;
  • desarrollo continuo;
  • máxima estabilidad.

Windows + WSL2

Mejor para:

  • desarrolladores que usan Windows;
  • Adobe y aplicaciones creativas;
  • trabajo corporativo;
  • usuarios que quieren una interfaz más familiar;
  • OpenClaw + herramientas Linux sin abandonar Windows.

No instalaría seis versiones de ROCm y tres builds comunitarios el primer día. Comienza con la configuración validada por AMD y luego experimenta.

Paso 3: elige cómo vas a ejecutar los modelos

Hay varias herramientas y no hacen exactamente lo mismo.

Ollama: la forma más sencilla de comenzar

Precio: gratuito.

Ollama es ideal para:

  • descargar modelos;
  • probar prompts;
  • levantar una API local;
  • integrar Open WebUI;
  • agentes personales;
  • desarrollo rápido.

Ventajas:

  • simple;
  • catálogo amplio;
  • API fácil;
  • buena integración;
  • poca configuración.

Debilidades:

  • no siempre ofrece el mejor rendimiento;
  • menos control para cargas profesionales;
  • no es mi primera opción para alta concurrencia.

Lo usaría durante los primeros días. Después, si el proyecto crece, migraría a vLLM o TensorRT-LLM.

LM Studio: la mejor puerta de entrada visual

Precio: gratuito para uso personal y laboral; versión Enterprise disponible.

LM Studio sirve para:

  • buscar modelos;
  • descargar cuantizaciones;
  • probar contextos;
  • medir memoria;
  • conversar;
  • activar un servidor local;
  • ofrecer una API compatible con OpenAI;
  • conectar MCP;
  • administrar el equipo remotamente.

En AMD Halo es especialmente atractivo porque utiliza llama.cpp y ofrece una ruta bastante amigable sobre Windows o Linux.

También tiene una versión headless llamada llmster, útil cuando la máquina vive debajo del escritorio y no quieres abrir una interfaz gráfica cada vez.

llama.cpp: compatibilidad y eficiencia

Precio: gratuito y open source.

Es una excelente opción para:

  • modelos GGUF;
  • cuantización;
  • inferencia en memoria unificada;
  • uso personal;
  • contextos grandes;
  • máquinas AMD, NVIDIA y Apple;
  • entornos donde quieres menos dependencias.

No siempre será el servidor con mayor throughput concurrente, pero suele ser una de las herramientas más flexibles.

vLLM: mi elección para servir modelos

Precio: gratuito y open source.

vLLM tiene sentido cuando quieres:

  • API compatible con OpenAI;
  • múltiples usuarios;
  • mayor concurrencia;
  • batching;
  • mejor aprovechamiento del hardware;
  • conectar OpenClaw, n8n o aplicaciones propias.

Por defecto suele exponer el servidor en:

http://localhost:8000

Ejemplo conceptual:

vllm serve NOMBRE_DEL_MODELO \
  --host 0.0.0.0 \
  --port 8000 \
  --api-key cambia-esta-clave

No copies un nombre cualquiera y esperes que funcione. Comprueba que la cuantización y la arquitectura estén soportadas por tu versión de vLLM y tu hardware.

TensorRT-LLM y NVIDIA NIM

Precio: herramientas y componentes disponibles para desarrollo; soporte empresarial y NVIDIA AI Enterprise son productos comerciales.

Son las opciones naturales si quieres exprimir DGX Spark dentro del ecosistema NVIDIA.

TensorRT-LLM

Ideal para:

  • optimizar inferencia;
  • FP4/NVFP4;
  • producción;
  • menor latencia;
  • modelos compatibles;
  • usuarios cómodos con CUDA.

NVIDIA NIM

Ideal para:

  • desplegar modelos validados;
  • usar contenedores preparados;
  • APIs estándar;
  • soporte empresarial;
  • reducir tiempo de configuración.

NIM puede ser menos flexible que descargar cualquier modelo comunitario, pero evita parte de la ceremonia de dependencias, kernels y builds nocturnos.

Ese tiempo también cuesta dinero, aunque no aparezca en la factura.

Paso 4: instala una interfaz tipo ChatGPT

No todo debe ocurrir en la terminal.

Open WebUI

Precio: gratuito y self-hosted.

Open WebUI puede conectarse a:

  • Ollama;
  • vLLM;
  • LM Studio;
  • APIs compatibles con OpenAI;
  • OpenAI;
  • Anthropic;
  • otros proveedores.

Permite:

  • conversaciones;
  • usuarios;
  • archivos;
  • modelos múltiples;
  • RAG;
  • herramientas;
  • prompts;
  • control de acceso.

Arquitectura recomendada:

Open WebUI
    │
    ├── vLLM: modelo principal
    ├── Ollama: modelos de prueba
    ├── OpenAI: fallback cloud
    └── Anthropic: análisis complejo

Esta interfaz también sirve para que otros miembros de tu equipo usen la Spark sin darles SSH ni pedirles que aprendan Docker por decreto.

Paso 5: escoge el primer modelo local

No empieces por el modelo más grande que puedas cargar. Empieza por el que entregue la mejor combinación de calidad, velocidad y contexto para tu tarea.

Modelos pequeños: 7B–20B

Útiles para:

  • clasificación;
  • resúmenes;
  • extracción;
  • reescritura;
  • routing;
  • respuestas rápidas;
  • agentes simples.

Ventajas:

  • muy rápidos;
  • permiten concurrencia;
  • bajo consumo de memoria.

Debilidades:

  • razonamiento limitado;
  • más errores en herramientas;
  • menor calidad de escritura;
  • peor desempeño con instrucciones ambiguas.

Ejemplos de familias:

  • Qwen;
  • Gemma;
  • Phi;
  • Mistral;
  • GPT-OSS 20B;
  • modelos de coding compactos.

Los usaría para tareas mecánicas, no para decidir si debes enviar una propuesta contractual de seis cifras.

Modelos intermedios: 30B–35B

Este es probablemente el mejor punto de partida para agentes locales.

Sirven para:

  • coding;
  • generación de contenido;
  • investigación con RAG;
  • tool calling;
  • tareas multiagente;
  • análisis empresarial;
  • asistentes internos.

En AMD Halo, Qwen 3.5 35B-A3B ha mostrado aproximadamente 45 tokens por segundo en pruebas del fabricante y capacidad para ejecutar varios agentes.

En DGX Spark, modelos de esta clase pueden ofrecer una respuesta muy rápida si están bien cuantizados.

Mi recomendación inicial:

Un modelo 30B–35B como motor diario

Es suficientemente bueno para la mayoría de tareas y deja memoria para contexto, embeddings, herramientas y varios procesos.

Modelos grandes: 70B

Útiles para:

  • análisis serio;
  • programación compleja;
  • revisión de código;
  • escritura más consistente;
  • razonamiento;
  • RAG sobre documentos difíciles;
  • agentes con más autonomía.

Ejemplos:

  • Llama 70B;
  • Qwen 72B;
  • modelos de coding de tamaño similar;
  • variantes distill de razonamiento.

Una DGX Spark puede ejecutar modelos de 70B localmente y NVIDIA también la posiciona para fine-tuning de modelos de hasta este tamaño.

Para uso individual, 70B suele ofrecer una mejora clara sin llegar a la lentitud de algunos modelos de más de 100B.

Modelos de 120B y más

Aquí es donde los 128 GB empiezan a justificar su existencia.

Ejemplos:

  • GPT-OSS-120B;
  • Qwen 3.5 122B;
  • modelos MoE grandes;
  • GLM y familias similares;
  • modelos cuantizados de hasta 200B en escenarios compatibles.

Pueden ser útiles para:

  • razonamiento complejo;
  • programación;
  • agentes avanzados;
  • generación larga;
  • evaluación;
  • investigación.

Pero ojo: que el modelo quepa no significa que sea la mejor opción diaria.

GPT-OSS-120B puede ofrecer velocidades muy utilizables en DGX Spark cuando se emplean motores y cuantizaciones optimizados. Qwen 3.5 122B puede ser bastante más lento según el kernel y formato.

Mi regla sería:

  • 35B para velocidad y agentes concurrentes;
  • 70B para calidad general;
  • 120B para tareas donde la calidad adicional realmente importa.

Modelos multimodales

Para imágenes, capturas y documentos visuales:

  • Qwen-VL;
  • modelos de visión de NVIDIA;
  • variantes multimodales compatibles;
  • modelos especializados de OCR y documentos.

Casos:

  • revisar capturas de aplicaciones;
  • analizar interfaces;
  • clasificar imágenes;
  • leer dashboards;
  • procesar documentos;
  • asistir en QA visual.

No usaría un modelo multimodal enorme para todo. Mantendría uno especializado y lo llamaría solo cuando haya imágenes.

Generación de imágenes y video

Herramientas:

  • ComfyUI;
  • FLUX;
  • Stable Diffusion XL;
  • Qwen Image;
  • modelos de edición;
  • LoRA;
  • DreamBooth.

Casos:

  • imágenes para artículos;
  • conceptos;
  • mockups;
  • thumbnails;
  • variaciones de producto;
  • edición;
  • material interno.

DGX Spark cuenta con playbooks para ComfyUI y fine-tuning LoRA. AMD también posiciona Halo para flujos de FLUX, Stable Diffusion, Qwen Image y generación 3D.

Rendimiento: qué puedes esperar realmente

No existe una cifra universal de tokens por segundo.

El resultado depende de:

  • modelo;
  • cuantización;
  • contexto;
  • prompt;
  • batch;
  • número de usuarios;
  • runtime;
  • versión del driver;
  • kernels;
  • sistema operativo;
  • temperatura;
  • tool calling.

Como referencia orientativa, no como promesa:

Plataforma y modeloRendimiento reportado
AMD Halo – Qwen 3.5 35B-A3B~45 tokens/s
DGX Spark – Qwen 3.5 35B~59 tokens/s en pruebas comunitarias
DGX Spark – GPT-OSS-120B~36–59 tokens/s según runtime
DGX Spark – Qwen 3.5 122B~15 tokens/s en una configuración comunitaria

Lo más importante no es perseguir el mayor número.

Para un agente que analiza correo, diez o veinte tokens por segundo pueden ser suficientes. Para una interfaz conversacional, 30–60 tokens por segundo se sienten rápidos. Para seis agentes trabajando al mismo tiempo, importa más el throughput total que la velocidad de una sola respuesta.

Paso 6: convierte la Spark en una API local

Una API compatible con OpenAI es el puente entre tu hardware y casi cualquier herramienta moderna.

Con vLLM, LM Studio o llama.cpp puedes exponer:

http://IP-DE-LA-SPARK:8000/v1

Después tus aplicaciones pueden usar la misma estructura que usarían con OpenAI, pero apuntando al servidor local.

Ejemplo conceptual en Python:

from openai import OpenAI

client = OpenAI(
    base_url="http://dgx-spark-office.local:8000/v1",
    api_key="clave-local"
)

response = client.chat.completions.create(
    model="MODELO_LOCAL",
    messages=[
        {"role": "user", "content": "Resume este documento."}
    ]
)

print(response.choices[0].message.content)

Esto permite conectar:

  • OpenClaw;
  • Open WebUI;
  • n8n;
  • aplicaciones propias;
  • bots;
  • VS Code;
  • herramientas de contenido;
  • RAG;
  • servicios internos.

No expongas ese puerto directamente a internet. Usa VPN, Tailscale, firewall o un reverse proxy correctamente autenticado.

Paso 7: añade una base de conocimiento privada

Un modelo no conoce tus documentos solo porque está en tu casa.

Necesitas RAG:

  1. recopilar documentos;
  2. limpiar contenido;
  3. dividirlo en fragmentos;
  4. crear embeddings;
  5. guardar vectores;
  6. recuperar información relevante;
  7. enviar ese contexto al modelo.

Herramientas gratuitas:

  • Open WebUI Knowledge;
  • LlamaIndex;
  • LangChain;
  • Haystack;
  • Chroma;
  • Qdrant;
  • PostgreSQL + pgvector;
  • AnythingLLM;
  • Dify.

Para un proyecto pequeño usaría:

Open WebUI + Qdrant

Para algo que irá a producción:

LlamaIndex/LangGraph + PostgreSQL/pgvector o Qdrant

Datos útiles para cargar

  • documentación de proyectos;
  • manuales;
  • tickets;
  • políticas;
  • newsletters;
  • artículos propios;
  • contratos;
  • documentación técnica;
  • repositorios;
  • notas internas.

No mezcles documentos personales, corporativos y públicos en la misma colección sin control de permisos. Una base de conocimiento sin separación puede terminar enseñándole a un usuario cosas que no debía ver.

Paso 8: instala OpenClaw

OpenClaw no es un modelo. Es el sistema que conecta modelos, canales, herramientas, memoria y automatizaciones.

Instalación recomendada:

npm install -g openclaw@latest
openclaw onboard --install-daemon
openclaw gateway status

También puedes usar el instalador:

curl -fsSL https://openclaw.ai/install.sh | bash

El asistente onboard configura:

  • gateway;
  • workspace;
  • modelos;
  • autenticación;
  • canales;
  • skills;
  • daemon.

Conectar OpenClaw al modelo local

Ejemplo conceptual de openclaw.json:

{
  models: {
    mode: "merge",
    providers: {
      local: {
        baseUrl: "http://127.0.0.1:8000/v1",
        apiKey: "local-only",
        api: "openai-completions",
        models: [
          {
            id: "MODELO_LOCAL",
            name: "Modelo local principal"
          }
        ]
      }
    }
  },

  agents: {
    defaults: {
      model: {
        primary: "local/MODELO_LOCAL"
      }
    }
  }
}

Después:

openclaw models list --provider local

Y puedes probar:

openclaw agent \
  --message "Resume las tareas pendientes del proyecto" \
  --thinking high

OpenClaw vs NemoClaw

OpenClaw

Mejor para:

  • asistente personal;
  • canales múltiples;
  • Telegram;
  • WhatsApp;
  • Slack;
  • Discord;
  • skills;
  • automatización;
  • experimentación;
  • usuarios que quieren control.

NemoClaw

Mejor para:

  • DGX Spark;
  • entornos NVIDIA;
  • agentes locales;
  • políticas;
  • sandbox;
  • seguridad;
  • despliegues más controlados;
  • usuarios que quieren una ruta validada por NVIDIA.

NVIDIA ofrece un playbook para ejecutar NemoClaw con un modelo servido por vLLM dentro de un sandbox y conectarlo opcionalmente a Telegram.

Mi elección:

  • OpenClaw para laboratorio y asistente personal;
  • NemoClaw para flujos empresariales o cuando el control de ejecución pesa más.

Paso 9: conecta OpenAI, Anthropic o Gemini

El enfoque híbrido es donde estas máquinas se vuelven realmente útiles.

No todo debe ir al modelo cloud. Tampoco todo debe quedarse local.

OpenAI

Puedes utilizar:

  • Responses API;
  • Agents SDK;
  • tools;
  • web search;
  • file search;
  • code execution;
  • MCP;
  • agentes especializados;
  • handoffs.

OpenClaw soporta autenticación con OpenAI mediante API y opciones de autenticación compatibles con Codex/ChatGPT.

Utilizaría OpenAI para:

  • razonamiento difícil;
  • coding complejo;
  • herramientas administradas;
  • investigación con web;
  • generación multimodal;
  • tareas donde el modelo local falla.

Anthropic

Puedes conectar Claude mediante:

  • API key;
  • Claude CLI;
  • tool use;
  • MCP;
  • code execution;
  • herramientas personalizadas.

OpenClaw permite acceso directo a la API de Anthropic y reutilizar Claude CLI en el mismo host.

Utilizaría Claude para:

  • documentos largos;
  • programación;
  • análisis;
  • redacción;
  • herramientas;
  • revisión de decisiones del modelo local.

No intentes reutilizar suscripciones de formas no permitidas. Para servicios de terceros y automatización continua, la API suele ser la opción más predecible.

Google Gemini

Gemini ofrece:

  • function calling;
  • MCP;
  • Gemini CLI;
  • Code Assist;
  • Google Cloud;
  • integración con ecosistema Workspace.

Tiene sentido si tu empresa vive en:

  • Gmail;
  • Drive;
  • Google Cloud;
  • Docs;
  • Calendar;
  • BigQuery.

El patrón híbrido recomendado

Tarea entrante
     │
     ▼
¿Contiene datos privados?
     │
  Sí ├────────► Modelo local
     │
  No ▼
¿Es una tarea repetitiva/simple?
     │
  Sí ├────────► Modelo local barato
     │
  No ▼
¿Requiere web, razonamiento o calidad máxima?
     │
  Sí ├────────► OpenAI / Claude / Gemini
     │
     ▼
Validación local + aprobación humana

Ejemplos:

Correo

  • modelo local clasifica;
  • modelo local resume;
  • Claude redacta una respuesta delicada;
  • humano aprueba;
  • OpenClaw envía.

Contenido

  • modelo local investiga tu biblioteca;
  • modelo local genera outline;
  • modelo cloud mejora estructura;
  • modelo local adapta tono;
  • humano edita;
  • WordPress publica con aprobación.

Desarrollo

  • modelo local indexa repositorio;
  • agente local genera tests;
  • Codex o Claude resuelve issue complejo;
  • modelo local revisa convenciones;
  • humano aprueba PR.

Paso 10: conecta herramientas mediante MCP

MCP es un estándar para que los modelos accedan a datos y herramientas.

Puede conectar:

  • GitHub;
  • Google Drive;
  • Slack;
  • Jira;
  • Confluence;
  • bases de datos;
  • navegadores;
  • archivos;
  • documentación;
  • calendarios;
  • CRMs;
  • WordPress;
  • servicios propios.

La idea es sencilla:

Modelo → MCP → herramienta

En lugar de escribir una integración completamente distinta para cada modelo, puedes exponer herramientas mediante MCP y utilizarlas desde OpenClaw, Claude, Codex, LM Studio u otros clientes compatibles.

Ejemplos útiles

GitHub MCP

  • revisar issues;
  • leer código;
  • crear pull requests;
  • generar reportes;
  • buscar regresiones.

Playwright MCP

  • navegar;
  • validar páginas;
  • realizar QA;
  • tomar capturas;
  • completar formularios.

Filesystem MCP

  • leer documentos;
  • organizar archivos;
  • generar entregables.

Base de datos MCP

  • consultar datos;
  • producir reportes;
  • detectar anomalías.

Empieza con acceso de lectura. Dar permiso de escritura desde el primer día es invitar a una IA junior a hacer cambios en producción porque “parecía correcto”.

Paso 11: usa n8n para automatización determinista

OpenClaw es bueno razonando y coordinando. n8n es mejor cuando necesitas un flujo visual y repetible.

Ejemplo:

Nuevo email
   ↓
n8n extrae contenido
   ↓
modelo local clasifica
   ↓
si es importante → Claude analiza
   ↓
crea borrador
   ↓
pide aprobación
   ↓
envía y registra

n8n puede ser:

  • self-hosted gratis;
  • servicio cloud pago;
  • orquestador;
  • receptor de webhooks;
  • capa de aprobación;
  • conexión con cientos de servicios.

La mejor combinación suele ser:

OpenClaw decide
n8n ejecuta
humano aprueba

No uses un LLM para pasos que pueden resolverse con una condición simple. Preguntarle a un modelo si status == "approved" es como contratar abogado para abrir una lata.

Automatizaciones útiles para aprovechar la máquina

1. Estudio de contenido

Agentes:

  • investigador;
  • SEO;
  • redactor;
  • editor;
  • fact-checker;
  • social media.

Flujo:

  1. monitorea fuentes;
  2. guarda documentos;
  3. genera outline;
  4. redacta;
  5. revisa estilo;
  6. crea meta descripción;
  7. genera publicación para X;
  8. espera aprobación;
  9. publica.

El modelo local puede hacer el volumen. Un modelo cloud puede revisar los puntos más difíciles.

2. Agente de desarrollo

Capacidades:

  • leer repositorio;
  • buscar tickets;
  • generar tests;
  • revisar logs;
  • documentar;
  • preparar PR;
  • analizar errores;
  • ejecutar pruebas dentro de sandbox.

Modelo recomendado:

  • 30B–70B de coding para rutina;
  • OpenAI o Claude para issues complejos;
  • modelo pequeño para clasificación y routing.

3. Asistente de documentos privados

Puede:

  • indexar PDFs;
  • responder preguntas;
  • citar fragmentos;
  • comparar contratos;
  • buscar cláusulas;
  • resumir reportes;
  • mantener datos locales.

Este es uno de los casos más fáciles de justificar económicamente si trabajas con información sensible.

4. Agente de correo y calendario

Puede:

  • clasificar;
  • resumir;
  • detectar urgencias;
  • proponer respuestas;
  • organizar reuniones;
  • preparar briefing diario.

No debería enviar ni cancelar nada sin aprobación durante las primeras semanas.

5. Análisis de atención al cliente

Puede:

  • categorizar tickets;
  • sugerir respuestas;
  • detectar clientes molestos;
  • identificar bugs;
  • generar reportes;
  • crear issues en GitHub o Jira.

6. Investigación continua

OpenClaw puede usar:

  • cron para informes programados;
  • heartbeat para revisiones periódicas;
  • Task Flow para procesos largos;
  • webhooks para eventos;
  • tareas para auditoría.

Ejemplo:

Cada día a las 7:00
- revisar fuentes
- comparar novedades
- detectar cambios
- generar resumen
- enviarlo por Telegram

Herramientas gratuitas y pagas

HerramientaTipoPrecio/uso
OllamaRuntime localGratis
llama.cppRuntime localGratis
vLLMServidor de inferenciaGratis
LM StudioInterfaz/runtimeGratis para casa y trabajo
Open WebUIInterfaz privadaGratis/self-hosted
OpenClawAgentes y gatewayOpen source
NemoClawAgentes seguros NVIDIAOpen source/stack NVIDIA
n8n CommunityAutomatizaciónGratis/self-hosted
ComfyUIImágenes y workflowsGratis
QdrantVector DBGratis/self-hosted + cloud pago
PostgreSQL/pgvectorDatos/RAGGratis
OpenAI APIModelos y agentes cloudPago por uso
Anthropic APIClaude y toolsPago por uso
Gemini APIModelos y toolsGratis limitado/pago
NVIDIA AI EnterpriseSoporte empresarialPago
LM Studio EnterpriseGestión organizacionalPago
LangSmithObservabilidad/evaluaciónPlanes gratuitos y pagos
Make/ZapierAutomatización SaaSPago con planes limitados

Seguridad: la parte menos emocionante y más importante

Un agente con acceso a correo, archivos, navegador y terminal no es un chatbot. Es un usuario con capacidades operativas.

Reglas mínimas

  1. activa sandbox;
  2. limita filesystem;
  3. usa cuentas de servicio;
  4. utiliza claves separadas;
  5. restringe comandos;
  6. exige aprobación para acciones destructivas;
  7. no expongas APIs locales;
  8. revisa skills antes de instalarlas;
  9. audita plugins;
  10. guarda logs;
  11. cifra backups;
  12. actualiza con frecuencia.

Ejecuta:

openclaw security audit --deep

Configuración conceptual:

{
  agents: {
    defaults: {
      sandbox: {
        scope: "agent",
        workspaceAccess: "ro"
      }
    }
  }
}

Empieza con acceso de solo lectura. Luego abre permisos concretos.

No le des acceso completo a:

  • correo;
  • banco;
  • contraseñas;
  • fotos familiares;
  • documentos legales;
  • producción;
  • redes sociales;

todo al mismo agente.

Separar agentes y credenciales reduce el radio de explosión cuando algo sale mal. Porque algo, eventualmente, saldrá mal.

Cómo medir si la compra está valiendo la pena

Registra:

  • tokens por segundo;
  • tiempo al primer token;
  • contexto procesado;
  • consumo;
  • errores;
  • tareas completadas;
  • intervenciones humanas;
  • costo cloud evitado;
  • horas ahorradas;
  • calidad.

No midas solo benchmarks.

La pregunta real es:

¿Cuántas horas o dólares me ahorra este sistema cada mes?

Una máquina de US$4.000–4.700 empieza a tener sentido si:

  • reemplaza gasto cloud importante;
  • trabaja con datos que no pueden salir;
  • atiende varios usuarios;
  • automatiza trabajo repetitivo;
  • acelera desarrollo;
  • permite prototipar productos.

Si solo la usas para preguntarle recetas a un modelo 120B, compraste la licuadora más cara del barrio.

Mi configuración recomendada

DGX Spark

  • DGX OS actualizado;
  • NVIDIA Sync;
  • Docker;
  • vLLM como servidor;
  • modelo 35B rápido;
  • GPT-OSS-120B como modelo grande;
  • Open WebUI;
  • OpenClaw o NemoClaw;
  • Qdrant;
  • n8n;
  • Tailscale;
  • NAS o backup externo.

AMD Ryzen AI Halo

  • Linux o Windows + WSL2;
  • ROCm validado;
  • LM Studio/llama.cpp para primera configuración;
  • vLLM cuando esté soportado y estable para tu modelo;
  • Qwen 3.5 35B-A3B;
  • modelo 70B/120B para análisis;
  • Open WebUI;
  • OpenClaw;
  • Qdrant;
  • n8n;
  • acceso remoto seguro.

Accesorios útiles para DGX Spark y AMD Halo

Un UPS y un buen backup son más importantes que otro accesorio con RGB. Los modelos se pueden volver a descargar. Tus datos y configuraciones, no siempre.

Veredicto final

Una NVIDIA DGX Spark o una AMD Ryzen AI Halo no se aprovechan instalando el modelo más grande posible y abriendo una ventana de chat.

Se aprovechan convirtiéndolas en una plataforma:

  • modelos locales;
  • API privada;
  • documentos;
  • RAG;
  • agentes;
  • skills;
  • MCP;
  • automatizaciones;
  • fallback cloud;
  • controles de seguridad;
  • medición.

Mi recomendación es empezar pequeño:

  1. instala un modelo 30B–35B;
  2. crea una interfaz con Open WebUI;
  3. añade una colección privada de documentos;
  4. conecta OpenClaw;
  5. crea un solo agente;
  6. dale herramientas de lectura;
  7. añade n8n;
  8. implementa aprobación humana;
  9. mide resultados;
  10. escala.

No empieces con quince agentes discutiendo entre ellos y permiso para enviar correos. Eso no es una empresa autónoma. Es una reunión mal organizada que además sabe usar Bash.

La DGX Spark tiene ventaja en CUDA, NIM, TensorRT y ecosistema. AMD Halo tiene ventaja en flexibilidad, Windows/Linux y precio por memoria. Ambas pueden ejecutar modelos grandes y agentes locales capaces.

Pero el valor no está en los 128 GB. Está en lo que construyes encima.