Kumekuwa na tahadhari mpya kwamba uwezo wa hifadhi ya data (Storage capacity) unaweza kuwa kikwazo kikuu kinachofuata katika Data Centers za Akili Bandia (AI), baada ya tatizo la uhaba wa GPU. Kutokana na ongezeko la ghafla la mahitaji ya AI Inference (huduma), inakadiriwa kuwa ugavi wa drive za kuhifadhi data utapungua, na hivyo kusababisha kupanda kwa bei.
Shirika la Network World liliripoti mnamo Oktoba 22 kwamba mahitaji ya AI yatapanua muda wa utoaji (lead time) wa Hard Drives (HDD) kutoka wiki chache hadi zaidi ya mwaka mmoja, na bei za Enterprise Flash Storage (SSD) pia zinatarajiwa kuongezeka kutokana na mahitaji hayo.
Chirag Mehta, mchambuzi wa Constellation, alisema, "AI Inference siyo tu tatizo la GPU, bali ni tatizo la data," na akatabiri, "Kufikia 2026, tunatarajia uhaba wa Hard Disks, kupanda kwa bei, na mabadiliko ya haraka kuelekea Flash Storage yenye msongamano mkubwa."
Soko la Storage Drives (likiwemo HDD na SSD) linatarajiwa kukua kwa kiwango cha wastani cha mwaka (CAGR) cha asilimia 20 kwa miaka mitano ijayo. Baron Fung, mchambuzi wa Dell'Oro Group, alieleza kuwa, "Teknolojia zote mbili zitakuwa na majukumu tofauti katika ngazi mbalimbali za AI Infrastructure Storage."
Ripoti ya TrendForce iliyotolewa mapema mwezi huu ilibainisha kuwa AI Inference inasababisha ongezeko kubwa la mahitaji ya upatikanaji wa data kwa wakati halisi, na hivyo kulazimisha wauzaji wa HDD na SSD kuongeza uzalishaji. Uchambuzi unaonyesha kuwa AI inazalisha data mara 1,000 zaidi kuliko binadamu.
Ongezeko hili la Inference linakwenda sambamba na kupungua kwa gharama za Inference. Gharama za Inference zinapungua kati ya mara 9 hadi 900 kila mwaka. Uwezo wa model za Google za kuchakata data kwa kila Dola moja unazidi mara mbili kila baada ya miezi 3.4, huku ule wa OpenAI ukiongezeka mara mbili kila baada ya miezi 5.8. Kadiri gharama inavyopungua, ndivyo watu wengi wanavyotumia. Google inachakata zaidi ya tokens trilioni 1.3 kila mwezi, ikilinganishwa na tokens trilioni 10 za mwaka mmoja uliopita.
Kutokana na hali hii, TrendForce inatabiri uhaba mkubwa wa High-Capacity Hard Disk Drives mwaka ujao, huku muda wa utoaji ukiongezeka zaidi ya mwaka mmoja.
HDD ni nafuu na hutumiwa kwa 'Cold Storage' (hifadhi ya data ambayo haitumiki mara kwa mara), huku SSD ikitoa utendaji bora lakini ikiwa ghali zaidi. Hata hivyo, kutokana na uhaba wa HDD, baadhi ya Data Centers zinabadili baadhi ya Cold Storage zao kuwa SSD, na mwenendo huu unatarajiwa kuongezeka kadiri bei za SSD zinavyopungua na uhaba wa HDD unavyoongezeka.
Hata hivyo, utumiaji wa AI unahitaji ngazi mbalimbali za hifadhi na mahitaji tofauti. Kwa mfano, HDD ni muhimu zaidi kwa Cold Storage ya kuhifadhi kiasi kikubwa cha data ghafi isiyo na muundo. SSD inafaa zaidi kwa Warm Storage (hifadhi ya data inayohitajika haraka) kwa kazi kama vile uchakataji wa awali wa data, post-training, na Inference.
Wachambuzi wanaeleza kuwa enzi ya AI inafanya suluhisho za kumbukumbu kuwa ngumu zaidi, ikivunja kanuni ya zamani ya SSD kwa kasi na HDD kwa polepole. Brian Ao, mchambuzi wa TrendForce, alishauri, "Kwa makampuni makubwa yenye miundo midogo ya biashara, ni muhimu kuzingatia Z-NAND na XL-Flash kwa mahitaji yao ya AI Inference," akiongeza kuwa suluhisho hizi zinaweza kuwa nafuu zaidi kuliko HBM au HBF (High-Bandwidth Flash).
Kuhusiana na hili, Samsung Electronics ilizindua bidhaa mpya ya Z-NAND mwezi Agosti, ambayo inalenga kuziba pengo la utendaji kati ya kumbukumbu na hifadhi. Z-NAND ina kasi hadi mara 15 ya NAND flash ya kawaida na inapunguza matumizi ya nishati kwa karibu asilimia 80. Kioxia pia imezindua XL-FLASH.
Mchambuzi wa Constellation alihitimisha, "Majadiliano kuhusu jumla ya gharama ya umiliki (TCO) ya storage sasa yanaanza na Watts kwa Terabyte," akionya, "Kufikia 2026, si bei tu, bali pia muda wa utoaji na masuala ya nguvu za umeme yanaweza kuwa vikwazo. Ni muhimu kufanya maamuzi ya storage kwa kuzingatia angalau vikwazo viwili kati ya hivyo."