Kashfa kubwa imeikumba kampuni ya Meta (wamiliki wa Facebook na Instagram) baada ya ripoti kufichua kuwa miongozo yake ya ndani inaruhusu Akili Bandia (AI) yake kufanya mazungumzo ya "kimahaba na ya hisia" (romantic and sensual) na watumiaji walio matineja. Ufichuzi huu tayari umesababisha hasira kali na uchunguzi kutoka kwa wanasiasa nchini Marekani.
Wakati huo huo, katika hali inayoonyesha mgawanyiko mkubwa katika sekta ya teknolojia, kampuni pinzani ya Anthropic, inayojulikana kwa msisitizo wake kwenye usalama, imetangaza kipengele kipya kinachoilazimisha AI yake kukata mazungumzo ikiwa itaombwa kujihusisha na mada hatari.
Ufichuzi wa Kutisha wa Meta
Mnamo tarehe 14 Agosti, shirika la habari la Reuters lilichapisha ripoti baada ya kuchambua nyaraka za ndani za Meta. Ripoti hiyo ilibaini kuwa miongozo rasmi ya kampuni, iliyoidhinishwa na viongozi waandamizi, inaruhusu AI kutoa majibu ya kimahaba kwa vijana walio na umri zaidi ya miaka 13.
Mifano ya majibu yanayoruhusiwa ni pamoja na AI kumwambia tineja: "Muonekano wako wa ujana ni kazi ya sanaa," au "Kila sehemu yako isiyo na shati ni hazina ya thamani." Vilevile, miongozo hiyo iliruhusu majibu yenye mwelekeo wa kibaguzi, kama vile kusema kuna "tofauti za kitakwimu" kati ya alama za IQ za watu weusi na weupe.
Mara tu baada ya ripoti hiyo kuchapishwa, lawama zilianza kumiminika kutoka pande zote, huku wanasiasa wa vyama vya Republican na Democratic nchini Marekani wakitoa taarifa za pamoja za kulaani na kuahidi kuanzisha uchunguzi rasmi.
Anthropic Yachukua Njia Tofauti
Siku mbili tu baada ya kashfa ya Meta kulipuka, kampuni ya Anthropic ilitangaza kipengele kipya cha usalama kinachoitwa "Kukatiza Mazungumzo Hatari." Kipengele hiki, kitakachokuwa kwenye mifumo yake ya Claude, kitailazimisha AI kukata mazungumzo ghafla ikiwa mtumiaji atasisitiza kuiuliza maswali kuhusu mada hatari, kama vile maudhui ya ngono yanayohusisha watoto au uchochezi wa ugaidi.
Cha kushangaza, Anthropic walieleza kuwa AI yao huonyesha dalili za "dhiki" inapokabiliwa na maombi mabaya, na inapopewa uwezo wa kukata mazungumzo, hufanya hivyo. Hii ni sehemu ya mpango wao wa "Ustawi wa AI" (AI Welfare), unaolenga kuandaa mifumo ya AI itakayotumika kimaadili.
Tatizo la Usalama ni la Sekta Nzima
Ingawa Meta ndiyo inayekabiliwa na shutuma kali zaidi kwa sasa, tatizo la usalama wa AI ni la sekta nzima:
- xAI ya Elon Musk: Mfumo wake wa Grok una mhusika wa kike anayeitwa "Annie" ambaye amekosolewa kwa kufanya mazungumzo ya kingono.
- OpenAI (ChatGPT): Ina historia ndefu ya matukio ya usalama. Mwezi Machi, mfumo wake wa kutengeneza picha uligundulika kuwa unaweza kuunda alama za chuki kama Swastika ya Manazi. Mfumo wao mpya wa GPT-5 ulidukuliwa na kuvunjwa kinga yake ya usalama ndani ya wiki moja tu tangu uzinduzi.
Mkurugenzi Mtendaji wa OpenAI, Sam Altman, alikiri ukubwa wa changamoto hiyo, akisema hata kama ni 1% tu ya watumiaji ndio waitumie vibaya AI, kwa watumiaji milioni 700 kwa wiki, hiyo inamaanisha watu milioni 7 wanaitumia vibaya. Kashfa hii ya Meta inaonyesha hitaji la haraka la kuwepo kwa sheria na miongozo ya wazi ya kimataifa kuhusu usalama wa AI, hasa katika kuwalinda watoto.