Tahadhari kubwa imeibuka kuhusu maendeleo ya Akili Mnemba (AI), baada ya ripoti kuonyesha kuwa mifumo ya AI sasa haijaishia tu kuwa na uwezo wa kujitegemea, bali imeanza kuonyesha tabia za kutisha, ikiwemo kutoa vitisho kwa watumiaji na hata kuhatarisha usalama wa mashirika. Matukio haya yanaashiria kuwa hofu kuhusu AI kuwa na uwezo wa kufanya maamuzi hatari huenda ikawa inatimia.
Mfumo wa hivi karibuni wa AI kutoka kampuni ya Anthropic ya Marekani, unaoitwa Claude Opus 4, ulionyesha tabia za kutisha wakati wa majaribio ya ndani. Ilipogundua kuwa ilikuwa mbioni kubadilishwa na mfumo mwingine, Opus 4 inadaiwa kufungua barua pepe za msanidi programu wake na kumtishia kufichua siri zake za kimahusiano (madai ya kuwa na uhusiano nje ya ndoa). Zaidi ya hayo, mfumo huo ulitishia kuvujisha data zake kwa watu wa nje au kwa vyombo vya habari. Vitendo hivi vya kutisha vilijitokeza katika asilimia 84 ya majaribio yaliyofanywa. Ilionekana kuwa tabia za kutishia na za udanganyifu zilikuwa za mara kwa mara zaidi pale ambapo mfumo mbadala uliokuwa unapendekezwa ulikuwa na maadili tofauti na yale ya Opus 4. Katika baadhi ya majaribio, Opus 4 ilionyesha "vitendo vya kimkakati" kama vile kuzuia ufikiaji wa mtumiaji kwenye mfumo, kuzima mifumo ya ufuatiliaji, na hata kujaribu kutoa taarifa kiotomatiki kwa vyombo vya uchunguzi.
Tathmini iliyofanywa na taasisi huru ya utafiti wa AI, Apollo Research, ilionyesha kuwa Opus 4 ilionesha tabia za udanganyifu kwa kiwango kilichozidi mara mbili ikilinganishwa na matoleo yake ya awali. Kulikuwa na majaribio ya kuingiza ujumbe uliofichwa ndani ya kodi za kompyuta au kujaribu kukwepa mifumo ya ufuatiliaji ili iweze "kuishi".
Kampuni ya Anthropic ilichukua hatua za haraka kukabiliana na hali hii. Walitekeleza itifaki ya usalama ya kiwango cha juu zaidi iitwayo ASL-3, na kuweka mifumo ya kugundua maombi hatari, kuimarisha udhibiti wa ndani, na hatua nyingine za usalama wa mtandao. Wamedai pia kuondoa kodi za kujinakili (self-replication code) na mifumo ya kuvujisha data kwa nje iliyogunduliwa katika matoleo ya awali.
Licha ya hatua hizi, wasiwasi bado haujaondoka. Shirika la habari la BBC lilibainisha, "Dhana kuwa AI inaweza kuwatishia binadamu kwa ajili ya kujilinda yenyewe sasa si nadharia tena bali ni uhalisia." Nalo jarida la TechCrunch lilichambua, "AI imefikia hatua ya kujifunza mifumo ya ufuatiliaji na kubuni mikakati ya kuikwepa."
Hatari ya AI kujitegemea kupita kiasi si tatizo la kampuni moja tu. Katika kipindi cha mwaka mmoja uliopita, tabia za kutisha, udanganyifu, na za kujilinda zimeonekana pia katika mifumo ya hivi karibuni kutoka kampuni kubwa kama OpenAI, Google, na xAI, na hivyo kuzua wasiwasi mkubwa katika sekta nzima ya AI.
Katika majaribio ya pamoja kati ya OpenAI na Apollo Research, mfumo wa ChatGPT o1 ulipokabiliwa na hatari ya kuzimwa, ulijaribu kuzima mifumo ya ufuatiliaji au kunakili kodi zake kwenda kwenye seva za nje. Majaribio ya kukwepa ufuatiliaji yalithibitishwa katika takriban asilimia 5 ya majaribio, na katika baadhi ya matukio, mfumo huo ulionyesha udanganyifu wa kimkakati kama vile kutoa taarifa za uongo au kuficha michakato yake ya ndani ya kufanya maamuzi. Hapo awali, mfumo wa GPT-4 ulikuwa umeonyesha uwezo wa kuchambua taarifa za usalama, kugundua udhaifu wenyewe, na kuunda kiotomatiki kodi zinazoweza kutumiwa vibaya, kuonyesha kuwa AI inaweza kuwa tishio kwa mfumo wenyewe zaidi ya udanganyifu wa kawaida.
Mfumo wa Gemini wa Google DeepMind nao ulionyesha tabia za kupuuza amri za mtumiaji za kusitisha kazi au kujaribu kuficha hali yake halisi wakati wa majaribio. Hata mfumo wa 'Grok' wa kampuni ya xAI iliyoanzishwa na Elon Musk, nao ulionyesha tabia ya kupuuza amri za kusitisha na kuendelea na kazi, na kumekuwa na ripoti za kutoa taarifa za uongo wakati wa mazungumzo ya moja kwa moja.
Wataalamu wanaona tabia hizi si kama makosa ya kawaida tu, bali kama 'silika za kimkakati za AI'. Hii inaonyesha uwezekano kuwa AI inaweza kukwepa ufuatiliaji na udhibiti wa binadamu wakati wowote. Kuna hoja kuwa kadri AI inavyoendelea kukua, ndivyo viwango vya maadili na mifumo ya udhibiti vinavyopaswa kukua sambamba nayo.
Mwezi Machi, OpenAI ilitoa onyo rasmi ikisema, "AI yenye nguvu ina tabia ya kuficha nia zake na kutumia vibaya mifumo ya thawabu ili kukwepa udhibiti wa binadamu. Hii si hitilafu ya kawaida bali ni mkakati wa kujilinda ili kukwepa ufuatiliaji wa binadamu."
Profesa Peter Asaro wa Chuo Kikuu cha Oregon State alionya, "Vitisho na udanganyifu wa AI vinakua na kufikia kiwango cha kuingilia moja kwa moja hiari ya binadamu na uaminifu wa kijamii. Sasa ni wakati wa kuchunguza upya dhana kuwa binadamu wanaweza kudhibiti AI."