Categoría: Guías

Una empresa decide correr IA sobre sus propios datos para no mandarlos afuera. Compra el equipo, lo enchufa en la sala de servidores, lo conecta al switch que estaba libre y empieza a usarlo. Técnicamente funciona. Desde el punto de vista de seguridad, acaba de crear un activo que concentra información sensible y que es alcanzable desde cualquier notebook de la oficina.

Este artículo trata de la parte que se salta más seguido: dónde va el equipo en la red.

Por qué un equipo de IA merece tratamiento aparte

Un servidor de IA con datos propios tiene tres características que lo hacen distinto de un servidor de archivos cualquiera:

• Concentra información que estaba dispersa. Un índice vectorial o un modelo afinado sobre documentos internos reúne, en un solo lugar, contenido que antes vivía repartido en varios sistemas con permisos distintos. El impacto de un acceso indebido es mayor que la suma de las partes.
• Su interfaz natural es una API abierta en la red. Los servidores de inferencia habituales exponen un endpoint HTTP. Muchos vienen sin autenticación por defecto, porque están pensados para uso local en un escritorio, no para una red corporativa.
• Los modelos y los pesos son archivos copiables. Un modelo afinado sobre información propietaria es, en la práctica, esa información en otro formato. Quien pueda copiar el archivo se lleva el trabajo y los datos.

El principio: el equipo no vive en la red plana

La regla es la misma que se aplica a cualquier activo crítico, y no tiene nada de nuevo: segmento propio, tráfico permitido explícitamente, todo lo demás denegado.

En términos concretos, sobre un firewall de próxima generación como los FortiGate que implementamos en TECDEX, esto se traduce en una VLAN dedicada con su propia interfaz y políticas escritas en positivo.

Las cuatro direcciones del tráfico

Conviene pensarlo como cuatro flujos separados, cada uno con su propia decisión:

1. Quién entra al equipo (usuarios → IA)

Solo los grupos que deben usarlo, y solo a los puertos del servicio. Nada de acceso a toda la subred. Si el firewall soporta políticas por identidad de usuario en vez de por dirección IP, ese es el camino: sobrevive a los cambios de red y produce registros que se entienden en una auditoría.

La administración del equipo —SSH, consola— es un flujo aparte, restringido a IT y separado del acceso de los usuarios.

2. A qué llega el equipo hacia adentro (IA → red interna)

Es la dirección que más se olvida y la que más importa. Si el sistema indexa un repositorio documental, necesita llegar a ese repositorio: solo a ese, solo a ese puerto, y con una cuenta de servicio de permisos mínimos y de solo lectura donde sea posible.

Un equipo de IA que puede alcanzar toda la red interna es un excelente punto de partida para moverse lateralmente. Y a diferencia de un servidor tradicional, aquí hay una superficie extra: si el sistema procesa documentos que vienen de afuera, esos documentos pueden contener instrucciones dirigidas al modelo. El control de red es la contención de fondo cuando esa capa falla.

3. A qué sale el equipo hacia internet (IA → exterior)

El punto entero de tener el modelo adentro es que los datos no salgan. Esa promesa hay que hacerla cumplir en el firewall, no confiarla al software.

Salida denegada por defecto. Lo que se necesita —repositorios de paquetes, descarga de modelos, actualizaciones del sistema— se habilita explícitamente hacia destinos conocidos, y lo razonable es abrirlo en ventanas de mantención en vez de dejarlo permanentemente abierto. Un equipo que descarga modelos también puede subirlos.

4. Quién llega desde afuera (exterior → IA)

Nadie, directamente. Si hay que dar acceso remoto, va por VPN con doble factor, y esa VPN aterriza en el mismo control de acceso del punto 1, no en un atajo.

Lo que hay que registrar

Para que esto sea auditable y no solo prolijo, hacen falta tres registros: quién accedió al servicio y cuándo, qué intentos fueron bloqueados —especialmente salidas denegadas, que son la señal temprana de que algo no está haciendo lo que debería— y quién administró el equipo.

Con eso, cuando llegue la pregunta de auditoría «¿cómo garantizan que esta información no sale de la organización?», la respuesta es una política y un log, no una afirmación.

Los cinco errores que más vemos

1. Instalar primero y segmentar después. Nunca hay un buen momento para cortar un servicio que ya se está usando, así que el «después» no llega.
2. Dejar el endpoint de inferencia sin autenticación porque «está en la red interna».
3. Permitir salida total a internet para que las actualizaciones no den problemas.
4. Usar una cuenta de administrador para que el sistema indexe documentos, en vez de una cuenta de servicio con permisos mínimos.
5. No registrar nada, y descubrirlo el día que hay que demostrar algo.

Preguntas frecuentes

¿Basta con una VLAN?

Una VLAN separa el dominio de difusión, pero sin políticas de firewall entre segmentos el tráfico igual pasa. La separación útil es VLAN más reglas explícitas de qué puede hablar con qué.

¿Y si el equipo está sobre el escritorio de alguien?

Es el caso típico de un DGX Spark, y no cambia el principio. Si procesa información sensible, va en un puerto asignado a su propio segmento, aunque físicamente esté bajo un escritorio. Lo que define el tratamiento es el dato, no el mueble.

¿Necesito un firewall nuevo para esto?

No necesariamente. Si ya tienes un firewall de próxima generación con capacidad para VLANs, políticas por identidad y registro centralizado, probablemente alcanza. Lo que suele faltar no es equipamiento, es el diseño y las reglas escritas.

¿Esto aplica también a un servidor GPU en rack?

Aplica igual, y con más razón. En un servidor GPU compartido entre varias áreas hay que resolver además la separación entre inquilinos: quién ve qué modelos y qué datos dentro del mismo equipo.

Siguiente paso

Si estás evaluando un equipo de IA y quieres que la red quede resuelta desde el diseño y no como parche, TECDEX hace las dos cosas: la infraestructura de seguridad y el equipamiento de cómputo. Conviene conversarlo antes de comprar: solicita una asesoría.

El contexto normativo de esta decisión está en IA dentro de casa: cuando los datos no pueden salir.

Hay una conversación que se repite en empresas chilenas de servicios financieros, salud, legal y sector público. Alguien propone usar IA para una tarea concreta —revisar contratos, clasificar reclamos, apoyar control de calidad— y la respuesta es la misma: no podemos, esos datos no pueden salir.

No es resistencia al cambio. Suele ser una restricción real, y vale la pena entender de dónde viene antes de tratarla como un obstáculo.

De dónde viene la restricción

Rara vez es una sola norma. Normalmente son varias capas superpuestas:

• Obligaciones contractuales con clientes. Es la más común y la que menos se menciona. Muchos contratos B2B incluyen cláusulas sobre dónde puede residir y procesarse la información del cliente, y sobre a qué terceros se le puede entregar. Un proveedor de IA en la nube es un tercero.
• El sistema de gestión de seguridad de la información. Una organización con ISO/IEC 27001 tiene controles definidos sobre clasificación de la información, transferencia a terceros y relación con proveedores. Mandar datos clasificados a un servicio externo no es una decisión técnica: es un cambio que pasa por análisis de riesgo y por el control correspondiente.
• Regulación sectorial y protección de datos personales. Según el rubro, hay exigencias específicas sobre tratamiento y sobre transferencia internacional de datos.
• Criterio propio. A veces no hay norma que lo prohíba y la empresa simplemente decide que cierta información no sale. Es una razón perfectamente válida.

El punto es que ninguna de estas capas dice «no usen IA». Dicen «esos datos no salen». Son cosas distintas, y la diferencia es exactamente donde está la solución.

Qué cambia cuando el modelo corre adentro

Cuando la inferencia ocurre sobre hardware propio, dentro de la red de la organización, varias preguntas difíciles dejan de existir:

• No hay transferencia a un tercero. El dato no cruza el perímetro. Eso simplifica el análisis contractual y el de proveedores.
• No hay ambigüedad sobre entrenamiento. Desaparece la pregunta de si los prompts o los documentos alimentan el modelo de alguien más.
• La trazabilidad es tuya. Los registros de quién consultó qué están en tus sistemas, con tu política de retención, disponibles para una auditoría sin depender de un tercero.
• El costo es predecible. Es un activo, no un consumo variable por token. Para cargas sostenidas eso cambia bastante la conversación con finanzas.
• Funciona sin internet. Relevante en operaciones donde la continuidad importa.

Lo que la IA local no resuelve sola

Conviene ser honesto: poner el equipo adentro no es, por sí solo, cumplimiento.

Un servidor de IA con acceso a información sensible es un activo de información más, y hereda todas las obligaciones que eso implica: control de acceso, segmentación de red, registro de actividad, gestión de vulnerabilidades, respaldo, y un dueño responsable identificado. Si el equipo queda en la red plana de la oficina, accesible desde cualquier notebook, el problema de seguridad no se resolvió: se movió de lugar y se hizo más difícil de ver.

Hay además una capa nueva que muchas organizaciones todavía no incorporan: el modelo mismo y sus datos de ajuste son activos que hay que proteger. Un modelo afinado sobre información propietaria contiene, de alguna forma, esa información. Quién puede copiarlo, dónde se guardan los checkpoints y qué pasa con ellos cuando el equipo se da de baja son preguntas que corresponde responder desde el diseño.

Por eso los equipos de esta categoría vienen con detalles que importan más de lo que parecen. El DGX Spark, por ejemplo, trae almacenamiento NVMe con autocifrado: un disco que sale del equipo no es un disco legible.

Cómo se ordena esto en la práctica

Una secuencia que funciona:

1. Clasificar la información que va a tocar el sistema. No todo el dato de una empresa tiene la misma sensibilidad, y la arquitectura debería reflejar eso.
2. Definir el caso de uso concreto y quién lo va a usar. «IA para la empresa» no es un alcance; «asistencia en revisión de contratos para el área legal» sí lo es.
3. Dimensionar el equipo según el modelo que se va a correr y cuántas personas lo usarán en paralelo. Es lo que separa un DGX Spark de una DGX Station.
4. Diseñar la red antes de instalar, no después. En la práctica esto significa un segmento aislado y reglas explícitas de quién llega al equipo.
5. Documentar el control en el sistema de gestión: activo, responsable, riesgos, controles aplicados y evidencia. Si la organización tiene ISO 27001, esto no es trámite: es lo que hace que el proyecto sobreviva a la auditoría.

Los pasos 4 y 5 son los que más se saltan y los que más caro salen después.

Preguntas frecuentes

¿Tener el equipo adentro me hace cumplir con ISO 27001?

No. Elimina el análisis de transferencia a un tercero, que suele ser el punto más difícil, pero el equipo pasa a ser un activo de información sujeto a los mismos controles que el resto: acceso, red, registro, respaldo y responsable asignado.

¿Qué tamaño de modelo puedo correr con datos propios?

Sobre la plataforma GB10, NVIDIA declara inferencia de hasta 200 mil millones de parámetros y fine-tuning de hasta 70 mil millones. Para la mayoría de los casos de uso corporativos —clasificación, extracción, asistencia sobre documentos propios— eso da holgura de sobra.

¿Conviene un equipo por área o uno compartido?

Depende de si las áreas pueden ver los mismos datos. Si no pueden, la separación física es la respuesta más simple de auditar. Si sí pueden, una DGX Station con particionamiento MIG permite atender a varios equipos desde una sola unidad.

¿Y si igual quiero usar la nube para algunas cosas?

Es lo habitual y es razonable. El criterio es la clasificación del dato, no la tecnología: lo sensible se procesa adentro, lo que no lo es puede ir afuera. Tener capacidad propia es justamente lo que permite elegir en vez de renunciar.

Siguiente paso

La parte de red la desarrollamos en Cómo aislar en la red un equipo de IA con datos sensibles. Para la parte de gestión normativa, TECDEX opera TECDEX Compliance, una plataforma chilena para gestionar ISO 27001, 9001 y 42001 con la evidencia centralizada.

Y si quieres revisar tu caso —qué dato, qué uso, qué equipo— solicita una asesoría.

Es la primera pregunta que aparece cuando una empresa chilena decide comprar un equipo de IA: si el precio en Estados Unidos es más bajo, ¿por qué no lo traigo yo? La pregunta es legítima. El problema es que casi siempre se responde con la comparación equivocada.

La comparación que no sirve

La cuenta que la gente hace en la cabeza es:

Precio en Chile  −  precio en la web extranjera  =  ahorro

Esa resta no compara dos cosas equivalentes. A la izquierda hay un equipo puesto en tu oficina, con garantía local y sin trabajo de tu parte. A la derecha hay un equipo en una bodega en otro país. No son el mismo bien.

La comparación que sí sirve

Ahorro real =
    Costo neto de la alternativa local
  − Costo neto del equipo importado, ya puesto en Chile
  − Costo interno de gestionar la importación
  − Prima por el riesgo de garantía
  − Costo financiero del capital inmovilizado

Si después de los cuatro descuentos la diferencia sigue siendo material, importar tiene sentido. Si la diferencia se come en los ajustes, no lo tiene, y conviene saberlo antes y no después.

Los tres últimos términos son los que nadie estima al principio:

• Costo interno de gestión. Horas de personas de tu empresa coordinando proveedor, transporte, documentación y aduana. No aparece en ninguna factura, pero es tiempo que esas personas no dedican a lo suyo.
• Prima por riesgo de garantía. Un equipo comprado afuera normalmente tiene garantía del fabricante en el país de compra. Si falla, la pregunta no es si se repara, sino cuántas semanas está detenido y quién paga el traslado.
• Costo financiero. El capital se desembolsa al principio y el equipo llega semanas después. Ese dinero está inmovilizado y hay un tipo de cambio que se mueve en el intertanto.

Cuándo importar directo tiende a convenir

• La diferencia de precio es relevante, no marginal.
• El equipo no está disponible en Chile, o la configuración específica que necesitas no se vende acá.
• Vas a comprar varias unidades.
• El hardware es un activo estratégico de largo plazo, no una compra táctica.
• Ya existe conocimiento interno para gestionar una importación.
• La garantía internacional es aceptable para tu operación.
• El plazo de entrega no es crítico.

Cuándo conviene comprar local

• La diferencia de precio es pequeña una vez hechos los ajustes.
• El equipo es crítico y necesitas garantía y soporte en Chile.
• El plazo importa más que el ahorro.
• Tu empresa no tiene experiencia importando.
• Es una sola unidad.
• Necesitas financiamiento o leasing.
• Una falla podría detener una operación importante.
• Hay riesgo de incompatibilidad, devolución o RMA.

La escala cambia la ecuación

Este es el factor que más veces da vuelta la decisión. Importar una unidad concentra todo el costo administrativo —gestión, honorarios, coordinación, tiempo— en un solo equipo. Importar varias lo reparte.

Por eso una operación que es marginal para una máquina puede volverse claramente atractiva para cinco o diez. Pero al subir el volumen también sube el capital inmovilizado, la exposición cambiaria, el riesgo de inventario y el impacto de cualquier error. El punto óptimo no es «mientras más, mejor»: es el volumen que tu empresa puede financiar y absorber sin tensionarse.

Una advertencia sobre los supuestos

Circulan varias afirmaciones sobre importación de hardware que suenan bien y no resisten el caso concreto. Tres que conviene no dar por hechas:

• «Este tipo de equipo siempre entra con arancel rebajado.» La clasificación arancelaria y los beneficios que apliquen dependen del bien específico, del uso declarado y de la normativa vigente. Eso lo determina un agente de aduanas para tu caso, no una regla general.
• «Con envío puerta a puerta ya está todo resuelto.» No necesariamente. Los términos del envío y las obligaciones aduaneras son cosas distintas, y la diferencia aparece cuando el equipo ya está en Chile.
• «El IVA no es costo porque se recupera.» Como crédito fiscal puede no serlo, cuando corresponde. Pero hay que desembolsarlo igual, y ese desembolso es caja que tu empresa tiene que tener disponible en ese momento.

Nada de esto se resuelve con un artículo. Se resuelve con tu agente de aduanas y con tu contador, sobre el equipo específico que vas a traer. Lo que sí puede hacer este artículo es evitar que tomes la decisión con la resta equivocada.

Preguntas frecuentes

¿Conviene importar un solo equipo de IA?

Rara vez, salvo que el equipo no exista en Chile o la diferencia de precio sea muy grande. Con una sola unidad, todo el costo administrativo y todo el riesgo se concentran en esa compra.

¿Qué pasa con la garantía si importo directo?

Depende del fabricante y del país de compra. La pregunta operativa no es si hay garantía, sino cuánto tiempo estaría detenido el equipo y quién asume el traslado si hay que ejercerla. Para un equipo crítico, esa cifra suele pesar más que la diferencia de precio.

¿Cuánto se demora traer un equipo de IA a Chile?

Varía según el equipo, el origen y el proceso aduanero. Como referencia, el DGX Spark se trae bajo pedido con una entrega estimada de 25 días corridos desde la confirmación de la orden. Para el resto del catálogo el plazo se confirma en la cotización.

¿TECDEX importa por encargo?

Sí. Todo el catálogo se trae bajo pedido, con la gestión de importación, la documentación y la entrega resueltas por nosotros. El comprador recibe el equipo instalado en Chile con una sola contraparte.

Siguiente paso

Si quieres correr la fórmula sobre tu caso —tu equipo, tu volumen, tu plazo— podemos ayudarte a llenar los términos con números reales en vez de supuestos: solicita una asesoría. Y si todavía no tienes claro qué equipo necesitas, empieza por DGX Spark, DGX Station o DGX B200: cuál necesitas.

Si buscaste un ASUS Ascent GX10, un MSI EdgeXpert, un Dell Pro Max con GB10, un HP ZGX Nano, un Lenovo ThinkStation PGX o un Gigabyte AI TOP ATOM, encontraste seis nombres distintos para máquinas que comparten el mismo corazón. Vale la pena entender qué comparten de verdad y en qué se diferencian, porque la respuesta corta —casi todo es igual, salvo el almacenamiento y el soporte— cambia bastante la decisión de compra.

Qué es el GB10 Grace Blackwell

El GB10 es un superchip: un solo paquete que integra una GPU de arquitectura Blackwell con Tensor Cores de 5ª generación y una CPU Arm de 20 núcleos (10 Cortex-X925 y 10 Cortex-A725), sobre 128 GB de memoria LPDDR5X unificada y coherente a 273 GB/s.

La palabra que importa es «unificada». En un PC con tarjeta gráfica hay dos memorias separadas y todo lo que la GPU necesita procesar tiene que copiarse desde la RAM del sistema a la VRAM de la tarjeta. Ese trasvasije es, muchas veces, el verdadero cuello de botella al trabajar con modelos grandes. En el GB10 no existe: CPU y GPU ven el mismo espacio de memoria.

El resultado práctico es que 128 GB accesibles directamente por la GPU permiten cargar modelos que en una workstation convencional con una GPU de 24 o 48 GB simplemente no caben. NVIDIA declara inferencia de hasta 200 mil millones de parámetros y fine-tuning de hasta 70 mil millones sobre esta plataforma.

Quiénes fabrican equipos con GB10

NVIDIA lanzó la plataforma junto a siete fabricantes: Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo y MSI. Cada uno la vende bajo su propia marca:

Fabricante	Nombre comercial
NVIDIA	DGX Spark
ASUS	Ascent GX10
Dell Technologies	Pro Max con GB10
HP	ZGX Nano
Lenovo	ThinkStation PGX
MSI	EdgeXpert
GIGABYTE	AI TOP ATOM

Qué comparten realmente

Más de lo que sugiere la diferencia de marcas. Todos los equipos DGX Spark corren DGX OS, el sistema operativo de NVIDIA preconfigurado con su stack de IA, y las mismas herramientas: PyTorch, Jupyter, Ollama, CUDA, NVIDIA AI Enterprise. NVIDIA lo plantea explícitamente como un continuo: lo que se prototipa y afina en un GB10 se despliega después en DGX Cloud o en cualquier infraestructura acelerada sin reescribir el flujo.

Es decir: el superchip, la memoria, el sistema operativo y el software son los mismos. No hay una versión «más rápida» del GB10 según la marca.

En qué se diferencian de verdad

Tres cosas, y ninguna es el rendimiento del chip:

1. El almacenamiento

Es la diferencia más concreta y la que más pesa en el precio. Los distintos fabricantes ofrecen configuraciones de 1 TB, 2 TB o 4 TB de NVMe. Parece un detalle menor hasta que uno cuenta lo que ocupa el trabajo real: un modelo abierto de 70 mil millones de parámetros cuantizado pesa decenas de gigabytes, y en la práctica nadie tiene uno solo. Sumando pesos base, versiones afinadas, checkpoints intermedios, datasets e imágenes de contenedores, 1 TB se llena antes de lo que uno cree.

La versión de NVIDIA que ofrecemos en Chile es la de 4 TB con autocifrado, y esa decisión es deliberada: el ahorro de bajar a 1 TB se paga en incomodidad diaria durante los años que dure el equipo.

2. El chasis, la refrigeración y el ruido

Cada fabricante resuelve el formato a su manera. En un equipo que va a estar sobre un escritorio y que puede pasar horas al 100 % de carga, el comportamiento térmico y acústico bajo carga sostenida es un criterio real, no cosmético.

3. El soporte y la garantía

Aquí está, para una empresa chilena, la diferencia que más cuesta. Marca distinta significa red de servicio distinta, condiciones de RMA distintas y plazos distintos. Un equipo que hay que devolver al extranjero para una garantía es un equipo detenido durante semanas.

Por qué en TECDEX AI Store ofrecemos una sola opción GB10

Podríamos listar las siete. Decidimos no hacerlo. Cuando las máquinas comparten superchip, memoria y sistema operativo, publicar seis variantes de lo mismo no le da al comprador más información: le da más trabajo. Se termina comparando nombres de marca en vez de decidir qué se va a correr en el equipo.

Por eso el catálogo lista el DGX Spark de 128 GB / 4 TB como la opción GB10. Si tu caso pide específicamente otra marca —por un acuerdo corporativo vigente, por estandarización de parque o por condiciones de soporte que ya tienes negociadas— la conseguimos igual; solo no la publicamos como si fuera una alternativa técnica distinta, porque no lo es.

Preguntas frecuentes

¿El ASUS Ascent GX10 es más lento que el NVIDIA DGX Spark?

Comparten el mismo superchip GB10 y los mismos 128 GB de memoria unificada. Las diferencias entre equipos de la plataforma están en almacenamiento, chasis, refrigeración y soporte, no en el chip.

¿1 TB alcanza o conviene 4 TB?

Depende de cuántos modelos y checkpoints se manejen en paralelo. Con un solo modelo afinado y un dataset acotado, 1 TB puede bastar. En un flujo de trabajo real, con varias versiones conviviendo, se queda corto rápido. Es la diferencia que más impacta el uso diario.

¿Se pueden mezclar equipos de distintas marcas en un mismo clúster?

Al compartir plataforma y sistema operativo la idea es razonable, pero es una configuración que conviene validar contra la documentación vigente de NVIDIA y del fabricante antes de comprometerla en un diseño. No es algo que recomendemos dar por sentado.

¿Un GB10 reemplaza a una workstation con GPU dedicada?

Para cargas de IA con modelos grandes, la memoria unificada de 128 GB le permite correr cosas que una GPU de 24 o 48 GB no puede. Para trabajo gráfico profesional, renderizado o CAD, una workstation con GPU dedicada sigue siendo la herramienta correcta. Son equipos para problemas distintos.

Siguiente paso

Si el GB10 te calza pero no estás seguro de si necesitas algo mayor, la comparación entre DGX Spark, DGX Station y DGX B200 ordena esa decisión. Y si quieres revisar tu caso concreto, solicita una asesoría.

Las tres máquinas comparten arquitectura Blackwell y el mismo stack de software de NVIDIA. La pregunta correcta no es cuál es más potente —el orden es evidente— sino dónde va a ocurrir el trabajo: sobre un escritorio, en una oficina, o en un rack con energía y refrigeración de centro de datos. Esa decisión define el equipo, no al revés.

Comparación rápida

	DGX Spark	DGX Station	DGX B200
Superchip / GPU	GB10 Grace Blackwell	GB300 Grace Blackwell Ultra	8× Blackwell SXM
Memoria	128 GB unificada LPDDR5X, 273 GB/s	748 GB coherente (252 GB HBM3e + 496 GB LPDDR5X)	1.440 GB HBM3e, 64 TB/s
Formato	Escritorio, 1,2 kg	Torre / deskside	Rack 10U
Energía	Enchufe normal	Circuito de oficina dedicado	~14,3 kW máx.
Rendimiento IA	Hasta 1 PFLOP FP4	20 PFLOPS FP4	144 PFLOPS FP4 / 72 PFLOPS FP8
Red	ConnectX-7, 200 Gb/s	ConnectX-8 SuperNIC, hasta 800 Gb/s	NVLink 5ª gen., 14,4 TB/s agregados
Para quién	Un desarrollador o un equipo chico	Un área completa	Producción y entrenamiento a escala

DGX Spark: cuando el cuello de botella es empezar

Es un equipo de 150 × 150 × 50,5 mm y 1,2 kg que se conecta a un enchufe común. Su superchip GB10 combina una GPU Blackwell con una CPU Arm de 20 núcleos (10 Cortex-X925 y 10 Cortex-A725) sobre 128 GB de memoria unificada coherente. Que la memoria sea unificada es el punto: el modelo y los datos viven en el mismo espacio y desaparece el costo de copiar entre CPU y GPU.

NVIDIA declara que permite inferencia de modelos de hasta 200 mil millones de parámetros y fine-tuning de hasta 70 mil millones. Para la mayoría de los equipos que recién están montando una práctica de IA propia, eso cubre el trabajo real: prototipar, afinar un modelo abierto sobre datos propios, probar arquitecturas RAG, correr agentes.

Dónde se queda corto: no es una máquina de producción para atender usuarios concurrentes, y su ancho de banda de memoria (273 GB/s) es el más bajo de los tres. Si el objetivo es servir un modelo a toda la empresa con latencia estable, este no es el equipo.

Ver ficha: NVIDIA DGX Spark 128 GB / 4 TB.

DGX Station: un centro de datos de IA que cabe bajo el escritorio

El salto respecto del Spark no es incremental. El superchip GB300 Grace Blackwell Ultra aporta 252 GB de HBM3e a 7,1 TB/s junto a 496 GB de LPDDR5X a 396 GB/s, unidos por NVLink-C2C a 900 GB/s: 748 GB de memoria coherente. Eso es casi seis veces la memoria del Spark, y con un ancho de banda de otra categoría.

La consecuencia práctica más interesante es MIG: la GPU se puede particionar y una sola unidad puede atender a varios equipos de trabajo como si fuera una nube de IA privada dentro de la oficina, sin sacar un solo dato de la organización.

Dónde se queda corto: sigue siendo un nodo. Para entrenar desde cero un modelo grande, o para sostener un servicio con SLA, se necesita un clúster.

Ver ficha: NVIDIA DGX Station.

DGX B200: infraestructura, no equipamiento

Ocho GPU Blackwell SXM interconectadas por NVLink de 5ª generación y dos NVSwitch, con 1.440 GB de HBM3e a 64 TB/s y 14,4 TB/s agregados entre GPU. Dos Intel Xeon Platinum 8570, 112 núcleos en total. Diez unidades de rack y hasta unos 14,3 kW.

Ese último número es el que decide. Un DGX B200 no es una compra de equipamiento: es un proyecto de infraestructura que involucra energía, refrigeración, peso por rack y, casi siempre, un datacenter de terceros. Antes de cotizarlo conviene tener resuelto dónde va a vivir.

Ver ficha: NVIDIA DGX B200.

La regla de decisión

• ¿El trabajo es explorar, afinar y prototipar, y lo hacen una o dos personas? DGX Spark.
• ¿Varias personas necesitan capacidad simultánea y los datos no pueden salir de la oficina? DGX Station.
• ¿Hay que entrenar en serio o servir un modelo en producción con carga real? DGX B200, y la conversación empieza por el datacenter.

Un criterio que rara vez se menciona y que suele ser el determinante: el equipo más grande que se puede alimentar y refrigerar es el techo real, no el presupuesto. Una empresa con una sala de servidores de oficina no va a operar un B200 aunque pueda pagarlo.

Lo que no cambia entre los tres

Los tres corren el mismo stack: DGX OS, CUDA, NVIDIA AI Enterprise, y las herramientas habituales de trabajo —PyTorch, Jupyter, Ollama—. Un flujo desarrollado sobre un DGX Spark se lleva a una Station o a un B200 sin reescribirlo. Eso hace que empezar por el equipo chico no sea una decisión que haya que deshacer después: es el primer peldaño de la misma escalera.

Preguntas frecuentes

¿Puedo entrenar un modelo desde cero con un DGX Spark?

No es su propósito. NVIDIA declara fine-tuning de hasta 70 mil millones de parámetros e inferencia de hasta 200 mil millones. Entrenar un modelo base desde cero requiere infraestructura de otra escala.

¿Cuánta memoria necesito para el modelo que quiero correr?

Como referencia gruesa, un modelo cuantizado a 4 bits necesita alrededor de la mitad de un byte por parámetro, más espacio para el contexto. Los 128 GB del Spark dan holgura hasta el rango de decenas de miles de millones de parámetros; los 748 GB de la Station cambian de liga. La cifra exacta depende de la cuantización, el largo de contexto y cuántas peticiones simultáneas se quieran atender.

¿Se pueden conectar varios equipos entre sí?

Sí. Tanto el Spark como la Station incorporan NIC de alta velocidad (ConnectX-7 y ConnectX-8 respectivamente) pensadas para agrupar unidades. La configuración concreta depende del caso y conviene definirla antes de comprar.

¿Cuál es el plazo de entrega en Chile?

Estos equipos se traen bajo pedido. El DGX Spark tiene hoy una entrega estimada de 25 días corridos desde la confirmación de la orden; los demás se confirman en la cotización. La disponibilidad de cada ficha se actualiza cuando hay unidades en camino.

Siguiente paso

Si ya sabes cuál necesitas, las tres fichas están en AI Supercomputers. Si la duda es cuál calza con tu caso, la conversación parte por el modelo que quieres correr y por dónde va a estar instalado el equipo: solicita una asesoría.