Kampuni ya teknolojia ya DeepSeek, inayounda mfumo wa akili bandia (AI), imejikuta katikati ya kimbunga cha ukosoaji mkali kuhusu suala la taarifa za uongo na "ndoto za AI" (hallucinations), pamoja na matumizi ya data isiyo sahihi. Kujibu ukosoaji huo, kampuni hiyo imetoa taarifa ya uwazi kuhusu jinsi inavyokusanya data zake.
Katika taarifa iliyotolewa kupitia mtandao wa WeChat mnamo Agosti 3, DeepSeek ilisema kuwa data zake nyingi zilikusanywa kutoka vyanzo vya mtandaoni vilivyo wazi kwa umma na kutoka kwa washirika walioidhinishwa. Kampuni hiyo ilisisitiza kuwa haijakusanya kwa makusudi data za kibinafsi za mtu yeyote.
DeepSeek ilieleza kuwa ina mfumo wa kuchuja data kiotomatiki unaoondoa maudhui yanayohusu lugha za chuki, ponografia, vurugu, matangazo yasiyohitajika, na maudhui yanayoshukiwa kukiuka hakimiliki. Pia, ilisema inatumia mchanganyiko wa programu za kiotomatiki na udhibiti wa kibinadamu ili kupunguza upendeleo wa takwimu katika data zake.
Mzozo huu ulianza mwezi Julai, baada ya roboti ya mazungumzo ya DeepSeek kusambaza habari za uongo zinazomkashifu msanii maarufu wa China. Tangu wakati huo, kampuni hiyo imepoteza imani ya watumiaji wake, na tovuti ya uchambuzi wa AI, Aicpb.com, imeripoti kuwa idadi ya watumiaji wanaotembelea tovuti yake imepungua kwa miezi mitano mfululizo.
DeepSeek Yatambua Changamoto
Kukabiliana na changamoto hizi, DeepSeek imetangaza kuwa itaweka alama maalum kwenye maudhui yaliyotengenezwa na AI na kupiga marufuku vitendo vyovyote vya kufuta, kughushi, au kuficha alama hizo.
Pamoja na kutumia teknolojia kama RAG (Retrieval-Augmented Generation), DeepSeek inakiri kwamba suala la "ndoto za AI" ni "changamoto isiyoweza kuepukika katika hatua hii." Kampuni hiyo imetoa onyo kwa watumiaji, ikisema, "Msizitegemee majibu ya AI kwa ajili ya masuala yanayohitaji uamuzi wa kitaalamu." Pia, imesisitiza kuwa majibu ya AI yanatokana na "utabiri" na sio "utafutaji" (search).
DeepSeek imetaja changamoto nyingine kuu kama ulinzi wa faragha, ukiukaji wa hakimiliki, usalama wa data, usalama wa maudhui, na upendeleo. Kampuni inasema kuwa AI ni teknolojia ya upande wowote, lakini hatari zinazotokana na matumizi yake hutegemea muktadha.
Wataalamu Watoa Tahadhari
Licha ya hatua zilizochukuliwa, wataalamu wameeleza kuwa kuweka alama tu kwenye maudhui kuna mapungufu. Profesa Gilad Abiri wa Shule ya Sheria ya Kimataifa ya Chuo Kikuu cha Beijing amesema kuwa alama hizo zinaweza kupotea kirahisi. Pia, amesema changamoto kuu kwa roboti za mazungumzo nchini China ni kudhibiti maudhui. Wataalamu wanaongeza kuwa mifumo mingi ya AI ya China inasambazwa kama chanzo huria, na kufanya iwe ngumu kwa watengenezaji na makampuni kusimamia mifumo hiyo.
Scott Singer, mtafiti kutoka Taasisi ya Carnegie for International Peace, amesema kuwa hati ya DeepSeek inaakisi mtazamo wa jumla wa sekta ya AI nchini China, akibainisha kuwa makampuni hayo yanaweka mkazo zaidi katika kutatua matatizo ya muda mfupi, kama vile faragha ya data, kuliko hatari kubwa zaidi.