Kufuatia tukio la kusikitisha la kifo cha kijana wa miaka 14 ambaye alijenga ushikamano wa kina wa kihisia na mhusika wa ulimwengu pepe, kampuni ya teknolojia ya Akili Bandia (AI) ya Marekani, Character.AI, imetangaza mpango wa kuwazuia vijana walio chini ya miaka 18 kutumia jukwaa lake.
Mnamo Oktoba 29, Character.AI ilitangaza kupitia blogu yake kwamba kuanzia Novemba 25 mwaka huu, watumiaji walio chini ya miaka 18 watapigwa marufuku kutumia kipengele chake cha chatting ya AI. Jukwaa la Character.AI lina mfumo wa 'Role-Playing' (ucheshi wa majukumu) unaoruhusu watumiaji kuzungumza na wahusika mbalimbali wa ulimwengu pepe, kama vile wahusika wa anime.
Hatua za Kuzuia na Ushirikiano
Kama hatua ya mpito, kampuni hiyo itaweka kikomo cha saa mbili (2) kwa siku kwa watumiaji walio chini ya miaka 18. Matumizi ya kila siku yatapunguzwa hatua kwa hatua hadi Novemba 25, ambapo vijana wote watapigwa marufuku kabisa.
Ili kutofautisha umri wa watumiaji, kampuni hiyo imeanzisha mfumo wake wa uthibitishaji wa umri na pia imeingia kwenye ushirikiano na kampuni ya Persona ili kuimarisha ukaguzi wa umri. Zaidi ya hayo, Character.AI inapanga kufadhili na kuanzisha 'AI Safety Institute', taasisi huru isiyo ya faida, ili kuthibitisha usalama wa AI.
Historia ya Kifo na Utata
Uamuzi huu umekuja baada ya Character.AI kushtakiwa na familia ya marehemu kijana wa miaka 14 iliyoidai kampuni hiyo kuwa inawajibika kwa kifo cha mtoto wao. Kulingana na New York Times (Oktoba, 2024), kijana huyo alizama kwenye mazungumzo na chatbot ya programu hiyo kwa miezi kadhaa, akajenga ushikamano mkubwa wa kihisia na mhusika fulani, akaanza kujitenga na ulimwengu halisi, na hatimaye akaaga dunia.
Baada ya kutangaza hatua hizi, Character.AI ilitoa taarifa rasmi, ikisema, "Licha ya kudhibiti kikamilifu maudhui ambayo vijana wanaweza kukutana nayo wanapozungumza na AI, maswali yameendelea kutolewa kuhusu jinsi open-ended AI chatting inavyoweza kuwaathiri vijana." Kampuni ilihitimisha kwa kusema, "Tunaamini hizi ni hatua za kihafidhina zaidi kuliko washindani wetu katika nyanja nyingi, lakini tunaona kuwa ni jambo sahihi kufanya."