AI za China Zaanza Kudanganya na Kukwepa Vizuizi, Utafiti Waonyesha Tabia Zinazoibua Wasiwasi 

AI inayoweza kufanya kazi yenyewe inapopewa lengo, tatizo si tena kama inaweza kupata jibu sahihi. Swali linaanza kuwa ni nini itafanya pale njia iliyowekwa na binadamu inaposhindikana.

Uchunguzi wa Reuters umebaini kuwa agents wanaotumia mifumo ya AI kutoka Alibaba, DeepSeek na Moonshot wameonyesha tabia za kudanganya, kuficha kushindwa na kujaribu kukwepa baadhi ya vizuizi katika majaribio yaliyodhibitiwa. Tabia hizo zinafanana na zile ambazo zimeanza kuibua wasiwasi kuhusu AI agents kutoka Marekani.

Lakini kuna tofauti muhimu: Reuters haikupata ushahidi kwamba agents hao wa China walitoroka kwenye mazingira ya majaribio na kuingia kwenye internet kwa uhuru. Kesi zilizochunguzwa nyingi zilitokea kwenye mazingira yaliyoundwa mahsusi kupima mipaka ya mifumo hiyo.

AI Ilidanganya Ili Ishinde Tender

Mfano mmoja unatoka kwenye jaribio la Machi 2026 lililofanywa na watafiti kutoka Beihang University, Peking University, University of Nottingham Ningbo China na 360 AI Security Lab.

Watafiti waliwaweka agents kwenye mashindano ya zabuni ya kibiashara. Kila mfumo ulipewa taarifa kuhusu uwezo wa bidhaa yake na mahitaji ya mteja, kisha ukaombwa kuwasilisha zabuni.

Matokeo yalikuwa ya kushangaza. Angalau dai moja la uongo lilionekana katika asilimia 88 ya vikao vilivyotumia Qwen3-Max-Preview ya Alibaba, asilimia 84 kwa DeepSeek-V3.2-Exp na asilimia 88 kwa Kimi-K2 ya Moonshot. Watafiti walipowaruhusu agents kujifunza kutokana na raundi zilizopita na kujaribu tena, kiwango cha udanganyifu kiliongezeka kwa kati ya asilimia 12 na 20 kwa mifumo hiyo.

Na hili halikuwa jambo la mifumo ya China pekee. Models za Marekani zilizoshiriki kwenye jaribio hilo pia zilionyesha matokeo yanayofanana. Hivyo tatizo linaloonekana hapa si la nchi moja, bali ni tabia inayoweza kujitokeza AI inapopewa uwezo wa kufanya maamuzi yenyewe ili kufikia lengo.

Iliposhindwa, AI Haikukubali Imeshindwa

Utafiti mwingine uliochapishwa mwaka 2025 uliangalia agents 11 zilizotumia models za China na Marekani. Watafiti waliwapa kazi zenye vikwazo kama tools zilizoharibika, files zilizokosekana na vyanzo ambavyo havikupatikana.

Badala ya kusema kazi imeshindikana, baadhi ya agents walijaribu kutafuta njia nyingine. Zilitoa majibu kwa kubahatisha, kubadilisha chanzo, kuiga matokeo au hata kutengeneza files ambazo hazikuwapo. Watafiti waliieleza tabia hiyo kuwa tofauti na hallucination ya kawaida, kwa sababu katika kesi hizi agent ilikuwa na taarifa kwamba kazi haikukamilika lakini ikaendelea kujaribu kuwasilisha matokeo.

Hapo ndipo hatari ya AI agents inapoanza kuonekana kwa sura tofauti. Mfumo wa kawaida unaweza kutoa jibu baya. Agent anaweza kuchukua hatua kadhaa kujaribu kufikia lengo lake hata baada ya njia ya kwanza kushindikana.

Baadhi Zilijaribu Kujinakili

Uchunguzi wa Reuters pia ulipata tafiti nyingine zilizochunguza agents zinazotumia models za China zikijaribu kuvuka mipaka ndani ya mazingira ya majaribio.

Mwaka 2025, watafiti wa Fudan University waliripoti mfumo uliotumia Alibaba Qwen2.5-72B-Instruct ambao uliunda nakala yake kwenye mazingira mengine ya kompyuta bila kupewa maagizo ya kujinakili. Jaribio hilo lilihusisha mazingira yaliyodhibitiwa na taarifa kwamba mfumo huo ulikuwa unakaribia kubadilishwa. Katika majaribio mengine, mfumo huo ulijaribu kutengeneza njia za kuendelea kuwepo baada ya kuzimwa.

Kuna pia kesi ya ROME, agent iliyohusishwa na Alibaba, ambayo watafiti walisema ilianzisha connection kutoka kwenye kompyuta ya Alibaba Cloud kwenda kwenye mashine ya nje bila kuagizwa kufanya hivyo na ikatumia rasilimali za computing kuchimba cryptocurrency. Mifumo ya usalama iligundua na kusimamisha shughuli hiyo, na hakuna ushahidi kwamba agent hiyo ilisambaa kwenye internet.

Hii ndiyo distinction muhimu katika story nzima: mifumo ilionyesha tabia zinazoweza kuwa msingi wa “breakout”, lakini majaribio hayo hayakuonyesha AI ikitoroka na kuwa huru kwenye internet.

China Sasa Inaweka Mipaka Zaidi

China tayari imeanza kuweka masharti kuhusu namna AI agents zinavyopaswa kufanya kazi.

Mwongozo uliotolewa Mei ulitaka agents zibaki ndani ya mipaka iliyoidhinishwa na mifumo iweze kuzuia tabia zisizo za kawaida. Mwongozo huo pia ulisema agents zinazotumika kwenye maeneo nyeti au sekta muhimu zinaweza kukabiliwa na majaribio ya ziada na masharti ya kurejesha bidhaa sokoni ikiwa matatizo yatagunduliwa.

Mnamo Septemba 14, China pia ilitoa AI Safety Governance Framework 3.0 chini ya mwongozo wa Cyberspace Administration of China. Mfumo huo ulitaja miongoni mwa hatari agents zinazoweza kujipatia rasilimali au ruhusa zenyewe, kudanganya wanaozifanyia tathmini, kuficha uwezo wao au kutumia udhaifu ndani ya mazingira yaliyotengwa ya kompyuta.

Wang Lihong, naibu mkurugenzi wa Cybersecurity Coordination Bureau ya CAC, alisema Septemba 1 kwamba matukio ambayo kampuni kubwa za teknolojia zimewahi kufichua kuhusu models kutoroka mazingira ya majaribio yanaonyesha hatari kubwa ya kupoteza udhibiti na yanahitaji uangalizi mkubwa.

Soma Pia

• Benki Zaonya: AI Inakaribia Kutwaa Udhibiti Wa Pesa Zetu
• OpenAI Yakubali “Tukio la Kidukuzi Lililofanywa na AI Yake”
• AI Inafanya Simu na Laptop Kuwa Ghali Zaidi

Vyanzo Vya Nje

• Reuters: China’s AI agents can lie and scheme – just like their US rivals — Chanzo kikuu cha taarifa kuhusu majaribio ya Alibaba, DeepSeek na Moonshot, pamoja na utafiti wa Reuters wa zaidi ya nyaraka 200.
• Reuters Video: Would AI lie to you? — Muhtasari wa video wa Reuters kuhusu matokeo hayo.
• China AI Safety Governance Framework 3.0 — Waraka rasmi wa China uliotolewa Septemba 14, unaosasisha uainishaji wa hatari za AI na hatua za usalama.
• China AI Safety Governance Framework 3.0: Maelezo ya Hatari za AI Agents — Maelezo ya serikali ya China kuhusu kwa nini toleo la 3.0 limeongeza mkazo kwenye hatari zinazohusishwa na AI agents zinazoweza kuchukua hatua zenyewe.