La próxima fase de la IA: De líderes en memoria a facilitadores de eficiencia

Puntos clave

• La memoria sigue siendo un cuello de botella crítico para la IA, pero la operación ya no es unidireccional. La demanda de IA continúa apoyando a los proveedores de memoria, pero los mayores costos de memoria y almacenamiento están comenzando a afectar a los clientes a lo largo de toda la cadena de valor, desde dispositivos de consumo hasta el capex de los hyperscalers.
• El "impuesto de la IA" se está haciendo visible en la tecnología de consumo. Los recientes aumentos de precios de Apple, Xbox, Sony y Nintendo muestran que la presión sobre la memoria está pasando de las ganancias de los semiconductores a los precios del hardware, la asequibilidad y los ciclos de actualización.
• La próxima fase de la IA podría favorecer la eficiencia sobre la pura capacidad. A medida que la IA se vuelve más costosa de construir y operar, el enfoque del mercado probablemente se desplazará hacia empresas y tecnologías que reduzcan los costos de inferencia, mejoren el movimiento de datos, disminuyan las necesidades de energía y refrigeración, optimicen el uso del software y permitan una mayor IA en el dispositivo.

La memoria ha sido uno de los temas más fuertes en la cadena de valor de la IA.

Eso tenía sentido. Las cargas de trabajo de IA requieren más memoria de alto ancho de banda, DRAM, NAND, SSD empresariales y capacidad de almacenamiento. La memoria ha pasado de ser un insumo cíclico de semiconductores a una restricción estratégica en el desarrollo de la IA.

Pero esa historia ya está bien reconocida.

La pregunta más importante es: ¿en qué momento el cuello de botella de la memoria se convierte en un problema de demanda para el resto del ecosistema de IA?

La memoria sigue teniendo un soporte estructural, pero las expectativas ahora son altas. La próxima fase del debate sobre la IA puede desplazarse hacia la eficiencia: empresas y tecnologías que ayuden al ecosistema a hacer más con menos capex, menos energía, menos memoria y menores costos de inferencia.

La operación de memoria es fuerte, pero ya no es unidireccional.

Los proveedores de memoria aún cuentan con vientos favorables claros:

• La demanda de IA sigue siendo fuerte.
• La oferta sigue siendo ajustada.
• El poder de fijación de precios ha mejorado.
• Los grandes clientes intentan asegurar asignaciones.
• La memoria se ha convertido en una capa crítica de infraestructura para la IA.

Pero la relación riesgo-recompensa se está equilibrando más.

El riesgo no es que la demanda de IA desaparezca. El riesgo es que los mayores costos de memoria comiencen a cambiar el comportamiento:

• Los consumidores retrasan las actualizaciones de dispositivos;
• Los fabricantes de hardware aumentan precios o reducen especificaciones;
• La demanda de PC, smartphones y consolas se vuelve más sensible al precio;
• Las empresas se vuelven más selectivas con las cargas de trabajo de IA;
• Los hyperscalers examinan el capex con mayor detenimiento;
• Las empresas de software de IA enfrentan presión en los márgenes si los costos de cómputo aumentan más rápido que los ingresos.

Aquí es donde una historia de cuello de botella se convierte en una historia de márgenes.

Los consumidores comienzan a pagar el impuesto de la IA

La presión sobre la memoria para IA ya no es visible solo en las ganancias de los semiconductores. Ahora aparece en los precios al consumidor.

Ejemplos recientes muestran que la presión se está extendiendo:

• Apple aumentó los precios en partes de su gama MacBook y iPad, citando mayores costos de memoria y almacenamiento.
• Xbox de Microsoft anunció aumentos globales en los precios de consolas a partir de agosto, incluyendo precios más altos para los modelos de 512GB y 1TB, mientras descontinúa el modelo de 2TB.
• Sony aumentó los precios de PlayStation 5 a principios de este año, con el aumento de los costos de chips de memoria como uno de los puntos clave de presión.
• Nintendo anunció revisiones de precios para Switch 2 en los principales mercados, citando condiciones cambiantes del mercado más que la memoria específicamente, pero aún señalando presión en la economía de las consolas.

Los consumidores pueden no ver siempre "escasez de memoria para IA" en la etiqueta de precio. Pero pueden sentirlo a través de:

• Precios más altos de dispositivos;
• Menor almacenamiento o memoria en los modelos base;
• Ciclos de actualización retrasados;
• Productos de mayor especificación descontinuados;
• Menor asequibilidad en juegos, PC y tablets.

Esto importa porque la IA no solo está creando nueva demanda. También está aumentando el costo de la demanda existente.

Si los costos de memoria suben demasiado, los clientes se adaptarán. Eso no invalida la historia de la IA, pero hace que la próxima fase sea más selectiva.

Los hyperscalers enfrentan una prueba de retorno más dura

Los hyperscalers siguen siendo algunos de los jugadores más fuertes en la economía de la IA. Tienen escala, balances, distribución en la nube y mayor capacidad para asegurar el suministro.

Pero no son inmunes a la inflación de los costos de insumos.

La pregunta clave se vuelve más disciplinada: ¿Puede escalar lo suficientemente rápido el ingreso por IA para justificar el gasto en infraestructura de IA?

Los mayores costos de memoria hacen que esa ecuación sea más difícil.

Las respuestas potenciales incluyen:

• Absorber los mayores costos y aceptar presión en los márgenes;
• Aumentar precios por servicios en la nube o de IA;
• Priorizar cargas de trabajo con mayor retorno;
• Invertir en silicio personalizado;
• Mejorar la eficiencia de inferencia;
• Fasear el capex con más cuidado si los retornos decepcionan.

Por lo tanto, la operación de IA está pasando de capacidad a cualquier costo a retornos sobre el capital de IA.

Es probable que el mercado siga apoyando a los líderes en IA, pero con mayor enfoque en la monetización, eficiencia y flujo de caja libre.

La eficiencia se convierte en el próximo tema clave de la IA

Si la memoria es cara, la pregunta no es solo quién la suministra.

La pregunta más importante es: ¿quién ayuda a reducir el costo de usarla?

Eso convierte a la eficiencia en un tema central para la próxima fase de la IA. Las referencias a empresas a continuación son ejemplos ilustrativos de exposición en la cadena de valor, no recomendaciones.

1. Eficiencia de cómputo

A medida que la IA pasa del entrenamiento a la inferencia, el costo por consulta se vuelve más importante. El enfoque se desplaza de simplemente añadir más chips a mejorar el rendimiento por dólar, por vatio y por unidad de memoria.

Áreas a monitorear incluyen:

• Aceleradores de IA personalizados;
• Chips de inferencia;
• Procesadores de bajo consumo;
• Chiplets;
• Empaquetado avanzado;
• Herramientas de diseño de semiconductores.

Referencias ilustrativas de empresas:

• Nvidia — no solo GPUs, sino también la pila de software alrededor de la optimización de inferencia, incluyendo TensorRT y TensorRT-LLM.
• Broadcom — aceleradores de IA personalizados y ASICs para grandes clientes de nube e IA.
• AMD — aceleradores de IA y procesadores para PC con IA, ofreciendo una plataforma de cómputo alternativa a medida que los clientes buscan más suministro y mejor eficiencia de costos.
• TSMC — tecnología de proceso avanzada y empaquetado que permiten chips de IA más eficientes.

El punto clave: la eficiencia de cómputo puede volverse tan importante como la capacidad de cómputo.

2. Redes y movimiento de datos

Los clústeres de IA solo son útiles si los chips, la memoria y el almacenamiento se comunican de manera eficiente. Si el movimiento de datos es lento, la capacidad de cómputo costosa puede quedar infrautilizada.

Áreas a monitorear incluyen:

• Conmutación de alta velocidad;
• Redes ópticas;
• Interconexiones de IA;
• Retimers;
• Chips de conectividad;
• Optimización de redes de centros de datos.

Referencias ilustrativas de empresas:

• Broadcom — exposición a conmutación, conectividad y silicio personalizado.
• Arista Networks — redes Ethernet para grandes clústeres de IA.
• Marvell — infraestructura de datos, conectividad óptica y silicio personalizado.
• Astera Labs — productos de conectividad que ayudan a reducir los cuellos de botella entre procesadores, memoria y aceleradores.

El punto clave: a medida que los sistemas de IA escalan, la utilización importa tanto como la capacidad bruta.

3. Energía y refrigeración

La IA está cada vez más limitada por la energía y el calor. Más GPUs y más memoria significan mayor demanda eléctrica, más necesidades de refrigeración y más presión sobre la infraestructura de los centros de datos.

Áreas a monitorear incluyen:

• Refrigeración líquida;
• Gestión de energía;
• Equipos eléctricos;
• Infraestructura de red eléctrica;
• Sistemas térmicos;
• Energía de respaldo.

Referencias ilustrativas de empresas:

• Vertiv — gestión térmica, sistemas de energía e infraestructura de refrigeración líquida para centros de datos.
• Schneider Electric — energía para centros de datos, refrigeración, gestión energética y sistemas de infraestructura.
• Eaton — exposición a equipos eléctricos y gestión de energía.
• Siemens — exposición a redes, electrificación y automatización vinculada a la infraestructura de centros de datos.

El punto clave: la infraestructura de IA se está convirtiendo en un tema de eficiencia industrial, no solo en un tema de semiconductores.

4. Optimización de software

La capa de eficiencia más subestimada puede ser el software.

Las empresas no solo necesitan modelos de IA más grandes. Necesitan un despliegue de IA más barato, medible y controlado. A medida que el uso escala, el enfoque se desplaza a reducir el desperdicio de tokens, mejorar el enrutamiento de modelos, monitorear costos y demostrar el retorno de la inversión.

Áreas a monitorear incluyen:

• Compresión de modelos;
• Cuantización;
• Optimización de inferencia;
• Enrutamiento de cargas de trabajo;
• Observabilidad de IA;
• Gobernanza de datos;
• Generación aumentada por recuperación;
• Orquestación de agentes.

Referencias ilustrativas de empresas:

• Nvidia — TensorRT-LLM y herramientas relacionadas ayudan a optimizar la inferencia en GPUs Nvidia.
• Cloudflare — AI Gateway proporciona almacenamiento en caché, límites de tasa, retroceso de modelos y visibilidad de costos entre proveedores de IA.
• Datadog — la observabilidad de LLM ayuda a monitorear latencia, uso de tokens, costos y rendimiento.
• Microsoft — Azure AI y herramientas empresariales pueden ayudar a los clientes a gestionar el uso y despliegue de modelos, aunque Microsoft también sigue siendo un gran gastador en capex de IA.
• ServiceNow — la automatización de flujos de trabajo y agentes de IA están vinculados a la productividad empresarial medible, no solo a la capacidad del modelo.

El punto clave: la adopción de IA dependerá cada vez más del control de costos y del retorno de la inversión, no solo del rendimiento del modelo.

5. IA en el borde y IA en el dispositivo

Si cada tarea de IA se ejecuta en la nube, la curva de costos se vuelve más difícil de gestionar. Mover más inferencia a los dispositivos puede reducir los costos en la nube, mejorar la latencia y apoyar la privacidad.

Aquí es donde la selectividad importa. Los vendedores de dispositivos como Dell, HP y Lenovo pueden beneficiarse de un ciclo de PC con IA a lo largo del tiempo, pero también enfrentan primero presión en los costos de memoria y componentes. No son las exposiciones de eficiencia más limpias.

Áreas a monitorear incluyen:

• Chips de IA para smartphones;
• Procesadores de PC con IA;
• Cómputo de bajo consumo;
• Unidades de procesamiento neuronal;
• Inferencia en el dispositivo.

Referencias ilustrativas de empresas:

• Apple — la integración estrecha de silicio, software e IA en el dispositivo podría reducir la dependencia de la inferencia en la nube con el tiempo, aunque la presión a corto plazo por el costo de la memoria sigue siendo un obstáculo.
• Qualcomm — las plataformas Snapdragon y las NPUs están directamente vinculadas al procesamiento de IA en el dispositivo.
• Arm — arquitectura eficiente en consumo para dispositivos móviles, de borde y embebidos con IA.
• AMD — procesadores de PC con IA y capacidad de inferencia local, con ejecución dependiente de la adopción de casos de uso de PC con IA.

El punto clave: la IA en el borde se vuelve más valiosa cuando la IA en la nube se vuelve más cara.

Dónde se requiere precaución

El tema de la IA no ha terminado. Se está volviendo más disciplinado.

Los proveedores de memoria siguen siendo importantes, pero la operación ya no es temprana. Tampoco es seguro asumir que los precios más altos pueden continuar indefinidamente sin una respuesta de la demanda.

Áreas donde puede ser necesaria más precaución incluyen:

• Acciones de memoria donde las expectativas ya descuentan un poder de fijación de precios sostenido, incluyendo Micron, SK Hynix, Samsung Electronics, Western Digital y SanDisk.
• Empresas de hardware de consumo que enfrentan presión en los costos de componentes, incluyendo Apple, Sony, Nintendo, HP, Dell Technologies y Lenovo.
• Fabricantes de electrónica y dispositivos de bajo margen donde los aumentos de precios pueden afectar rápidamente la demanda, especialmente en PCs, smartphones y hardware de juegos.
• Hiperescaladores donde el capex de IA está aumentando más rápido que la monetización visible, incluyendo Microsoft, Alphabet, Amazon, Meta y Oracle.
• Empresas de software y aplicaciones de IA con facturas de cómputo crecientes pero con un traspaso poco claro, particularmente donde las funciones de IA están integradas en productos existentes en lugar de monetizarse por separado.
• Empresas de infraestructura de IA altamente valoradas donde las expectativas pueden ya asumir una ejecución fluida, precios fuertes y sin una reducción significativa de la demanda.

La distinción útil ya no es simplemente "exposición a IA" versus "sin exposición a IA".

El mejor marco es:

• Quién se beneficia del cuello de botella;
• Quién absorbe el costo del cuello de botella;
• Quién ayuda a reducir el costo del cuello de botella;
• Quién puede monetizar la IA lo suficientemente rápido para justificar el gasto.

Esa distinción importa porque la próxima fase de la IA puede ser menos sobre escasez y más sobre productividad.

Conclusión

Los proveedores de memoria fueron los primeros ganadores del cuello de botella de la IA.

La eficiencia puede definir la próxima fase.

La operación de IA está pasando de escasez a productividad. La siguiente etapa no solo recompensará la capacidad. Pondrá más énfasis en tecnologías que hagan que la IA sea más barata de operar, más fácil de escalar y más rápida de monetizar.

La conclusión clave para el inversor es sencilla:

La exposición a la IA debe volverse más selectiva. El próximo conjunto de oportunidades puede ser menos sobre perseguir el cuello de botella en sí, y más sobre identificar las tecnologías que reducen el costo de ese cuello de botella.