¿Qué es lo más importante de los centros de datos de IA?

Este es un número muy grande, que. En todo el mundo, se gastarán alrededor de $ 3TN (£ 2.2tn) en centros de datos que admiten IA entre ahora y 2029.

Esa estimación proviene de Morgan Stanley de Morgan Stanley, que es la mitad de esa cantidad de costos de construcción, y la mitad del hardware que respalda la revolución de la IA.

Para mantener ese número en perspectiva, es aproximadamente Toda la economía francesa Valor en 2024.

Solo en el Reino Unido, se evalúa Otros 100 centros de datos La demanda de procesamiento de IA se construirá en los próximos años para satisfacer la demanda.

Algunos de ellos serán construidos para Microsoft Este es el comienzo de este mes El sector de IA del Reino Unido ha anunciado una inversión de B 30 mil millones (b 22 mil millones).

¿Qué pasa con los diferentes centros de datos de IA de un edificio tradicional que contiene las clasificaciones de los servidores de computadora que hamm en nuestras fotos personales, cuentas de redes sociales y aplicaciones de trabajo?

¿Y valen este costo increíble?

Los centros de datos han estado creciendo en tamaño a lo largo de los años. Para explicar los sitios que entran en las decenas de miles de megavatios de electricidad a través de la nueva palabra, hipersecale y la industria tecnológica, la escena ha llegado a la escena.

Pero AI ha sobrealimentado este juego. La mayoría de los modelos de IA dependen de chips de computadora caros para procesar tareas de NVIDIA.

Los chips nvidia vienen en grandes gabinetes, cada uno de los 4 millones. Estos gabinetes son cruciales sobre por qué los centros de datos de IA son diferentes.

La capacitación de modelos de idiomas grandes (LLM) para el software AI debe romperse en cada aspecto pequeño del idioma. La red de computadoras está unificada y está muy cerca de ella.

¿Por qué es tan importante la proximidad? Cada distancia del metro entre los dos chips es nanosegundos, mil millones en el segundo y el tiempo de procesamiento.

Puede que no parezca demasiado largo, pero un almacén lleno de computadoras es cuando este retraso microscópico se acumula y diluye el rendimiento necesario para la IA.

Los gabinetes de procesamiento de IA actúan como una enorme computadora, para eliminar el tema de este retraso y crear el sector tecnológico llamado procesamiento horizontal. Estas son la densidad y la palabra mágica en las categorías arquitectónicas de IA.

La densidad elimina los obstáculos de procesamiento que aprovechan los centros de datos simples de trabajar con procesadores sentados a varios metros de distancia.

Sin embargo, las densas clasificaciones de los gabinetes comen gigavatios y producen el entrenamiento de LLM para la electricidad.

Estos picos son equivalentes a miles de casas que se unen cada pocos segundos.

Este tipo de demanda irregular en la red local debe mantenerse cuidadosamente.

El Daniel Bijjo Up Time Institute of Data Center Engineering Consultancy analiza los centros de datos para ganarse la vida.

«AII Humm en el fondo de centros de datos simples en comparación con la demanda de carga de trabajo de IA en la red».

Ya que las teteras sincrónicas se llaman AI repentina sobre el problema del Sr. Bijo Singleur.

Bijjo dijo: «Este es un desafío de ingeniería muy serio. Es como el programa Apollo».

Los operadores del centro de datos están recibiendo el problema de energía de diferentes maneras.

En declaraciones a la BBC a principios de este mes, el CEO de NVIDIA, Jenson Huang, dijo que más turbinas de gas en el Reino Unido serán «salir de la red, por lo que no llevaremos personas en la red».

Dijo que la IA misma produce mejores turbinas de gas, placas solares, turbinas eólicas y energía de fusión.

Microsoft está invirtiendo en miles de millones de proyectos de combustible en dólares, incluido un contrato con Constellation Energy La energía nuclear se producirá nuevamente En una isla de tres millas.

Google es propiedad del alfabeto, Invertir en energía nuclear Como parte de una estrategia para ejecutar Para 2030, una energía sin carbono.

Mientras tanto, Amazon Web Services (AWS), que forma parte del gigante minorista Amazon, dice que ya El único comprador corporativo más grande Fuerza renovable en el mundo.

Es bien sabido que los legisladores vigilan de cerca la pérdida de las fábricas de IA para la industria del centro de datos de que su energía extrema se está utilizando con un impacto potencial en la infraestructura y el medio ambiente locales.

Uno de estos efectos ambientales es un suministro de agua pesado para enfriar las chips.

En el estado estadounidense de Virginia, los gigantes tecnológicos como Amazon y Google albergan la aprobación de nuevos sitios para la población de centros de datos que están en el negocio.

Mientras tanto, la fábrica de IA propuesta en el norte de Lincolnshire en el Reino Unido ha reducido las objeciones del agua Anglian, que es responsable de mantener los grifos en el área del sitio propuesto.

El agua de Angelian señala que no hay necesidad de suministrar agua para el uso no postal y se refiere al agua reciclada desde la última etapa de tratamiento que transmite como un refrigerante que el agua potable.

Dado que los problemas prácticos y los enormes costos enfrentan centros de datos de IA, ¿todo el movimiento es realmente una gran burbuja?

En una conferencia reciente del centro de datos, un orador utilizó el término «Bragwats» para explicar cómo la industria habla sobre el nivel de los sitios de IA propuestos.

Jahl Limbuwala Tech Advisors Advisors Center de datos Especialista en DTCP. Aceptó grandes preguntas sobre el futuro del costo del centro de datos de la IA.

«Es muy difícil creer en la trayectoria actual. Seguramente es muy grande. Pero la inversión debe ser dada o el mercado se corrige a sí mismo».

Todavía cree que tengo un lugar especial en la inversión en términos de estas advertencias. «La IA tiene más influencia que las tecnologías anteriores, incluida Internet. Por lo tanto, necesitamos esos gigavatios».

Se jactó de que los centros de datos de IA eran «bienes raíces para el mundo tecnológico». En la década de 1990 no había ULA asistiendo a la base de ladrillos y morteros de Bubbles Tech Bubbles, como DatCom Boom. Los centros de datos de IA son muy vistos. Pero el costo del costo detrás de ellos nunca será.