La conversación sobre IA se concentró en las GPU, pero cuando el modelo pasa al uso diario, importan otras dos piezas: la memoria RAM y el almacenamiento. Un cuello de botella ahí frena incluso al mejor procesador.
Un procesador veloz sirve de poco si espera datos. A medida que la IA deja el laboratorio y se usa para resumir documentos, buscar información o ejecutar agentes, el rendimiento depende de qué tan rápido llegan los datos a donde se procesan. Kingston, fabricante de memorias y SSD, plantea que el próximo paso es pensar la IA como un sistema completo.
Qué hacen la RAM y el almacenamiento en la IA
La RAM es el espacio de trabajo de alta velocidad: ahí conviven el sistema operativo, las aplicaciones, parte de los datos en proceso y, cuando la IA corre en modo local, el propio modelo. Como referencia, un modelo de 7.000 millones de parámetros en precisión de 16 bits ocupa unos 14 GB solo para existir.
El almacenamiento conserva los modelos, los conjuntos de datos y las bases vectoriales que deben permanecer disponibles entre sesiones. Cuando se necesitan, hay que llevarlos hasta donde se procesan. Por eso el movimiento de datos es parte de la experiencia y no un detalle técnico.
Por qué la inferencia cambia el problema
Entrenar un modelo se concentra en etapas puntuales. La inferencia, en cambio, ocurre todo el tiempo: cada consulta a un chatbot, cada búsqueda y cada flujo con agentes genera pedidos que el sistema debe resolver de forma ágil y constante, sea en un centro de datos, en la nube o en una estación de trabajo.
Sumar cómputo no resuelve un cuello de botella causado por poca memoria o por un almacenamiento lento. Juan Ignacio Do Porto, de Kingston para Argentina, Bolivia y Uruguay, lo resume así: hay que pensar el sistema “como un conjunto”. Memoria y almacenamiento pesan directamente en cómo responde la aplicación.
Cómo dimensionar según el uso
No existe una configuración válida para todos. Una PC con funciones de IA, una workstation que corre modelos localmente y un servidor empresarial se dimensionan distinto. En todos, la memoria suficiente reduce interrupciones y el almacenamiento de alto rendimiento acelera la carga de modelos y el acceso a grandes volúmenes de datos.
Ahí cobra sentido un SSD NVMe PCIe 5.0 como los de Kingston, que llegan a 14.800 MB/s de lectura. En condiciones ideales, eso alcanza para leer 14 GB en un segundo. La lección para quien compra hardware es no concentrar el presupuesto en la GPU y revisar también la RAM y el SSD.