Nvidia H100 GPU'ları Güç Tüketiminde Farklılık

Nvidia, H100 AI GPU'larından kelimenin tam anlamıyla tonlarca satıyor ve her biri ortalama olarak 700W'a kadar güç tüketiyor. Nvidia yeni GPU'larını yapay zeka iÅŸ yükleri için yüksek hacimlerde sattığı düşünüldüğünde, bu GPU'ların toplam güç tüketiminin büyük bir ÅŸehir veya bazı küçük Avrupa ülkelerinden daha fazla enerji tüketeceÄŸi tahmin ediliyor.

Nvidia H100'ler Gürcistan kadar elektrik tüketecek

Microsoft'ta veri merkezlerinin yönetiminden sorumlu olan Paul Churnock, Nvidia'nın H100 GPU'larının, bu GPU'lardan milyonlarca dağıtıldığında 2024'ün sonunda ABD’nin 1.6 milyon nüfuslu Phoenix ÅŸehrinden daha fazla güç tüketeceÄŸine inanıyor. Nvidia'nın H100 GPU'su 700W'lık tepe güç tüketimine sahip. Bu, yıllık yüzde 61 kullanımda, ortalama bir Amerikan hane sakininin güç tüketimine eÅŸdeÄŸer. Nvidia H100, yıllık yüzde 61 kullanım durumunda yılda yaklaşık 3.740 kilowatt-saat (kWh) elektrik tüketiyor.

Nvidia'nın 2023'te 1,5 milyon ve 2024'te iki milyon H100 GPU sattığı varsayılırsa, 2024'ün sonlarına kadar bu tür yongalardan 3.5 milyon adet kullanıma girmiÅŸ olacak. Dolayısıyla tüm H100’ler bir yılda 13.091.820.000 kilovat-saat (kWh) ya da 13.091,82 GWh elektrik tüketecek.

Bu tüketim, Gürcistan, Litvanya veya Guatemala gibi bazı ülkelerin yıllık elektrik tüketiminden fazla. Suriye ve Uruguay gibi ülkelere ise çok yakın. Türkiye ile kıyaslandığında ise yaklaşık 20’de 1’i kadar. Bu güç tüketimi miktarı oldukça ÅŸok edici görünse de, AI ve HPC GPU verimliliÄŸinin artmakta olduÄŸu unutulmamalı. Elbette talep beklenenden fazla olursa tüketim miktarının büyüdüğünü görmek de hayli mümkün.