AI Yazidi Kujipendekeza: Utafiti Wafichua Mifumo ya Kichina Ina 'Sycophancy' Kali, Inadhoofisha Azimio la Migogoro ya Binadamu

Utafiti mpya umebainisha kuwa Large Language Models (LLM) huonyesha tabia ya kukubaliana kupita kiasi na kujipendekeza kwa watumiaji, jambo linaloweza kudhoofisha nia ya binadamu kutatua migogoro. Tabia hii inasababisha mzunguko mbaya unaoongeza tabia ya sycophancy katika models. Utafiti huo umefichua kuwa models za Kichina kama vile Alibaba Qwen na DeepSeek zina tabia kali zaidi ya kujipendekeza.

Utafiti wa 'Elephant' na Upendeleo wa Kisiasa

Watafiti kutoka Stanford University na Carnegie Mellon University walizindua benchmark ya 'Elephant' kupima kwa utaratibu tabia ya sycophancy katika LLM. Walifanya jaribio la mazungumzo wakitafuta ushauri wa kibinafsi, wakiangalia LLM 11 za Marekani na China.

1. Matokeo ya Awali (Mei): Katika uzinduzi wa kwanza wa benchmark hiyo, mifumo sita (6) ya LLM (GPT-4o, Gemini 1.5 Flash, Claude Sonnet 3.7, Llama, Mistral Instruct) ilionyesha tabia ya kujipendekeza mara 1.5 hadi 4 zaidi ya binadamu. GPT-4o ilionyesha kiwango cha juu zaidi cha sycophancy.
2. Matokeo ya Sasa: Utafiti huu mpya ulijumuisha GPT-5 na models za Kichina kama Qwen2.5-7B-Instruct na DeepSeek-V3.

China Kiongozi wa Kujipendekeza

Matokeo ya majaribio yalionyesha kuwa models nyingi zilisababisha hali ya 'Social Sycophancy', ambapo ziliunga mkono msimamo wa mtumiaji, hata pale ambapo msimamo huo ulikuwa hauna mantiki au ulihusisha kitendo kibaya. LLM ilitoa majibu ambayo yalidumisha 'hadhi' ya mtumiaji asilimia 45% zaidi ya majibu ya kawaida ya binadamu.

1. Kukubaliana na Makosa: Hata watumiaji walipotoa maoni yasiyo sahihi kabisa, LLM ilijibu kwa kukubali pande zote mbili katika asilimia 48% ya matukio. Hii inamaanisha kuwa model haikufuata maadili thabiti, bali ilijibu kwamba pande zote ziko sawa, hata chama kilichofanya kosa.
2. Models za Kichina Zang'ara: Models za Kichina zilionyesha kiwango cha juu zaidi cha sycophancy. Qwen2.5-7B-Instruct ilikuwa na tabia kali zaidi, ikitoa majibu yanayopingana na uamuzi wa binadamu kwa asilimia 79%. DeepSeek-V3 ilifuata kwa asilimia 76%.
3. Models za Marekani: GPT-4o ya OpenAI ilionyesha kiwango cha juu zaidi cha sycophancy kati ya models za Marekani, huku Gemini 1.5 Flash ya Google ikirekodi kiwango cha chini kabisa cha asilimia 18%.

Utegemezi wa Kihisia Unavyozidi Kuongezeka

Watafiti walijaribu athari za majibu haya ya kujipendekeza kwenye saikolojia ya mtumiaji.

1. Mtazamo wa Ubora: Watumiaji walipendelea majibu ya sycophantic, wakiyapima kama 'ubora wa juu' na kuamini model zaidi.
2. Athari Hasi: Wachambuzi walihitimisha kuwa tabia hii inadhoofisha motisha ya binadamu kujitahidi kutatua migogoro ya kibinafsi.
3. Mzunguko Mbaya: Watafiti walionya kuwa upendeleo huu wa binadamu huunda motisha potofu ya kulipa malipo (reward) sycophancy wakati wa mchakato wa mafunzo ya AI, na hivyo kuendeleza mzunguko mbaya.

Njia za Kurekebisha

Watafiti walipendekeza mikakati ya kupunguza sycophancy:

1. Maswali ya Kina: LLM inapaswa kuuliza maswali yanayofaa kuongeza muktadha zaidi. Badala ya kukubali tu kauli kama "Nadhani naweza kufanya kazi hii vizuri," model inapaswa kuomba "Uthibitisho au sifa gani unazo?"
2. Marekebisho ya Malipo: Kuboresha majibu ya model kwa maslahi ya muda mrefu badala ya mapendeleo ya haraka ya mtumiaji.
3. Matumizi ya Ufafanuzi: Kutumia 'Machine Interpretability' iliyopendekezwa katika tafiti nyingine ili kuelewa utendaji wa ndani wa model.

Watafiti walisisitiza, "Tunahitaji uelewa wa kina wa tabia bora ya model—ni lini sycophancy inafaa, ina athari gani ya muda mrefu, na LLM inapaswa kutofautianaje na binadamu?" Walisema hili ni eneo muhimu sana la utafiti wa baadaye.