Kwa mujibu wa ripoti mpya ya Deloitte kuhusu uhandisi wa enzi ya AI ya kizazi (Generative AI), kampuni nyingi zinakabiliwa na changamoto kubwa zinazotokana na maendeleo ya teknolojia hii. Hatari hizo zimegawanywa katika makundi manne makuu:
- Athari kwa uendeshaji wa biashara na usalama wa data
- Changamoto za mifumo ya AI yenyewe
- Tishio kutoka kwa AI hasimu (Adversarial AI)
- Hatari za soko na udhibiti wa biashara
Ripoti hiyo imebaini kuwa asilimia 77 ya makampuni yanahofia kwa kiasi kikubwa changamoto hizi, huku asilimia 73 ya mashirika yakipanga kuongeza uwekezaji katika usalama wa mtandao ili kukabiliana na hatari za AI ya kizazi (Generative AI).
Athari za Matumizi Holela ya AI: Kesi ya Samsung
Ripoti ya Cyberhaven Labs 2024 inaonyesha kuwa wafanyakazi wengi wanatumia zana za AI bila idhini ya kampuni, jambo linaloongeza hatari ya uvujaji wa data.
Mfano halisi ni tukio la Samsung, ambapo wafanyakazi wake walitumia Generative AI kwa kutoa maelezo nyeti kwenye prompts za umma, hali iliyopelekea kampuni hiyo kupiga marufuku matumizi ya AI katika shughuli zake zote. Aidha, Palo Alto Networks imetaja AI inayozalisha msimbo (AI-generated code) kama moja ya hatari kuu zinazokabili wataalamu wa usalama wa mtandao.
Madhara ya "Prompt Injection" na Uhalifu wa AI
Kituo cha Usalama wa Programu za Mtandaoni (OWASP) kimeorodhesha prompt injection kama moja ya tishio kubwa zaidi kwa mifumo inayotegemea Large Language Models (LLMs).
Mbinu hii ya udukuzi inahusisha kushawishi AI ili kutoa taarifa za siri au kutekeleza vitendo vya hatari. Mbali na hilo, tatizo la hallucination—ambapo AI huzalisha majibu yasiyo sahihi lakini yanayoonekana kuwa halali—linazidi kuwa changamoto kwa biashara, kwani linaweza kusababisha maamuzi mabaya na kudhoofisha sifa za kampuni.
Matumizi ya AI kwa Uhalifu wa Mtandaoni Yazidi Kuongezeka
Ripoti ya IBM X-Force Threat Intelligence Index 2024 imefichua kuwa mwaka 2023 pekee, zaidi ya machapisho 800,000 yanayohusiana na "AI" na "GPT" yaligunduliwa kwenye dark web, yakiwa na mbinu za kutumia AI kwa udukuzi na utapeli.
Kwa mujibu wa Kituo cha Huduma za Kifedha cha Deloitte, hasara kutokana na ulaghai unaosababishwa na Generative AI inakadiriwa kuongezeka kutoka dola bilioni 12.3 mnamo 2023 hadi dola bilioni 40 ifikapo 2027. Hii imewalazimu wadau wakubwa wa sekta ya fedha, kama Mastercard, kuanzisha mifumo ya akili bandia kama Decision Intelligence Pro, ambayo imeongeza ufanisi wa kugundua ulaghai kwa asilimia 20.
Kuongezeka kwa Mahitaji ya Nishati kwa Vituo vya Data vya AI
Deloitte pia imetabiri kuwa ifikapo 2030, matumizi ya umeme katika vituo vya data vya AI yataongezeka kutoka asilimia 6-8 ya uzalishaji wa umeme wa Marekani hadi asilimia 11-15.
Kampuni kubwa kama Google na Microsoft tayari zimeanza kuchukua hatua za kupunguza athari za ongezeko hili la mahitaji ya nishati. Google imejenga kituo cha data chenye nguvu ya megawati 400 katika jiji la Mesa, Arizona, huku Microsoft ikisaini mkataba wa muda mrefu wa kutumia umeme kutoka Three Mile Island, kituo cha nguvu za nyuklia.
Kupungua kwa Kutegemea Large Language Models (LLMs)
Kutokana na changamoto za usalama na gharama kubwa za LLMs, makampuni yameanza kuhamia kwenye Small Language Models (SLMs).
Mfano ni Salesforce, ambayo mnamo 2023 ilizindua XGen-7B, mtindo wa AI wenye vigezo bilioni 7, unaolenga kuwa salama zaidi na nafuu kwa biashara. Kampuni kama Google na Nvidia pia zinapunguza utegemezi wao kwa LLMs kwa kuanzisha mifumo ya SLM yenye ufanisi wa hali ya juu na kuchelewesha kidogo (low-latency).
Hatua Madhubuti za Kulinda AI Dhidi ya Udukuzi
Makampuni sasa yanatumia mbinu kama:
- Kujenga AI firewalls – Mfumo wa ulinzi unaodhibiti data inayoingia kwenye AI.
- Kuthibitisha inputs za AI – Kukagua data kabla ya kuingizwa kwenye mfumo wa AI ili kuzuia prompt injection.
- Kuboresha mfumo wa usimamizi wa mali za kidijitali – Utekelezaji wa teknolojia za Do Not Train na watermarking ili kulinda data ya AI.
Mustakabali wa AI: Ujio wa AI Factories na Edge Computing
Ripoti ya Deloitte AI Infrastructure 2024 inaonyesha kuwa mnamo 2023 pekee, Marekani iliidhinisha ujenzi wa vituo vipya vya data vyenye uwezo wa gigawati 2.1. Amazon tayari imewekeza dola bilioni 10 katika vituo viwili vya AI, huku kampuni 15 za mawasiliano duniani zikijenga AI Factories kwa ajili ya kuendesha mzigo mkubwa wa kazi za AI.
Teknolojia ya Edge Computing inazidi kuchukua nafasi ili kupunguza utegemezi kwa mitandao ya kati. Ripoti inaonyesha kuwa asilimia 51 ya makampuni yanatumia co-location centers kwa ajili ya usindikaji wa data za AI karibu na vyanzo vyao vya matumizi. Japan NTT inaongoza juhudi za kutumia teknolojia za satellite networks kwa ajili ya uhamishaji wa data kwa kasi na ufanisi mkubwa.
Hitimisho: Uwekezaji Mkubwa kwa Usalama wa AI Unahitajika
Kwa kuwa hatari za AI zinahusiana moja kwa moja na uendeshaji wa biashara, Deloitte inasisitiza umuhimu wa mkakati jumuishi wa usalama wa AI.
Viongozi wa usalama wa mtandao, hasa CISO (Chief Information Security Officers), wanahimizwa kuwa na uelewa wa kina kuhusu hatari za AI na kuweka hatua madhubuti za kuzidhibiti.
Katika mazingira ambapo AI inakuwa sehemu muhimu ya shughuli za kibiashara, hakuna suluhisho moja linaloweza kutatua changamoto zote. Kampuni zinapaswa kutumia mbinu mbalimbali za usalama ili kupunguza hatari, kuhakikisha uzalishaji wa AI wenye ufanisi, na kulinda taarifa za wateja wao kwa ufanisi mkubwa zaidi.