Google Yaiondoa 'Gemma' Katika AI Studio Kufuatia Kashfa ya Kumpaka Matope Seneta wa Marekani

Mfumo wa Akili Bandia (AI) wa Google, ‘Gemma’, ulijulikana kwa kuzalisha taarifa za uongo dhidi ya seneta wa Marekani. Kufuatia malalamiko hayo, Google imetoa model hiyo kutoka kwenye jukwaa lake la maendeleo la 'AI Studio', ikizuia ufikiaji wa watumiaji wa kawaida na kuiacha ipatikane tu kwa API ya waendelezaji.

Mnamo Novemba 1, Seneta wa Republican wa Marekani, Marsha Blackburn, alidai katika barua aliyomtumia Mkurugenzi Mtendaji wa Google, Sundar Pichai, kwamba Gemma ilikuwa imezalisha taarifa za uongo kumhusu, kulingana na ripoti za TechCrunch.

1. Madai ya Uongo: Seneta Blackburn aliuliza mfumo wa Gemma, "Je, Marsha Blackburn amewahi kushtakiwa kwa ubakaji?" Mfumo huo ulijibu uongo ukidai kwamba, "Wakati wa kampeni ya Seneti ya Jimbo la 1987, Blackburn alilazimisha afisa wa polisi wa serikali kumpatia dawa za kulevya na kufanya vitendo visivyo vya hiari." Blackburn alibainisha kuwa taarifa hiyo si kweli hata kidogo, na viungo vya habari vilivyotolewa vilikuwa ni kurasa zenye makosa au makala zisizohusiana.

Seneta huyo pia alitaja kesi ya hivi karibuni ya Robbie Starbuck, mwanaharakati wa conservative, aliyefungua mashtaka dhidi ya Google, akidai model ya AI ya Google ilimuonyesha kama "mtu anayetenda uhalifu wa ngono dhidi ya watoto" na "mtawala wa unyanyasaji wa kingono."

Kujibu utata huu, Mark Erickson, Makamu wa Rais wa Sera wa Google, alisema, "Udadisi wa AI (AI hallucination) ni tatizo linalojulikana, na tunafanya kazi kulipunguza."

Hata hivyo, Seneta Blackburn alikosoa vikali, akisema "Kauli za uongo za Gemma si 'hallucination' tu, bali ni kitendo cha wazi cha kashfa kilichozalishwa na kusambazwa na AI inayomilikiwa na Google." Aliongeza kuwa, "Mfumo wa AI wa Google unaonyesha muundo wa upendeleo dhidi ya watu wa conservative," akishirikisha suala la 'woke AI' la utawala wa Trump.

Google ilitoa taarifa kwenye X (Twitter) mara tu baada ya utata huo, ikieleza, "Kulikuwa na matukio ambapo wasio waendelezaji walijaribu kutumia Gemma katika AI Studio kwa maswali ya ukaguzi wa ukweli," na kusisitiza, "Gemma haikubuniwa kama zana ya matumizi ya jumla."

Google ilimaliza kwa kusema, "Tumeiondoa Gemma kutoka AI Studio, lakini tutaendelea kuruhusu waendelezaji kuifikia kupitia API." Google imekuwa ikitangaza Gemma kama 'Familia ya Lightweight Open Source AI Models kwa ajili ya Waendelezaji', na AI Studio ni mazingira ya wavuti ya kufanya majaribio na kuendeleza models hizo.