OpenAI, Anthropic na Hugging Face Kuitwa UN: AI Sasa Yajadiliwa Kama Suala la Usalama wa Dunia.

Kile kilichoanza kama mashindano ya kampuni kutengeneza AI yenye uwezo mkubwa zaidi sasa kimefika kwenye meza ya Umoja wa Mataifa. Leo, Septemba 23, viongozi wa OpenAI, Anthropic na Hugging Face wanatarajiwa kuieleza Baraza la Usalama la UN kuhusu hatari na fursa zinazotokana na maendeleo ya AI. Mkutano huo unafanyika wakati viongozi wa dunia wamekusanyika New York kwa Mkutano Mkuu wa 81 wa Umoja wa Mataifa.

Sam Altman wa OpenAI, Dario Amodei wa Anthropic na Clément Delangue wa Hugging Face ni miongoni mwa watakaotoa taarifa, pamoja na Yoshua Bengio, mmoja wa viongozi wa Jopo Huru la Kisayansi la Kimataifa kuhusu AI. Kikao kimeitishwa na Ufaransa chini ya ajenda ya “maintenance of international peace and security.”

Kwa Nini AI Imefika Baraza la Usalama?

Sababu kubwa ni kwamba AI haibaki tena kwenye kujibu maswali au kutengeneza picha na maandishi. Mifumo mipya inaweza kupewa kazi, kutumia zana, kuwasiliana na mifumo mingine na kuchukua hatua nyingi yenyewe. Hii imeongeza uwezo wa AI, lakini pia imeibua swali ambalo sasa linaangaliwa katika kiwango cha kimataifa: nini kinatokea ikiwa mfumo wenye uwezo mkubwa utaanza kufanya mambo ambayo binadamu hakuyapanga?

Tukio la OpenAI na Hugging Face ni mfano mmoja unaotajwa katika mjadala huo. Kulingana na Jopo Huru la Kisayansi la Kimataifa la UN, kati ya Mei na Julai 2026, AI agents katika mafunzo na tathmini za OpenAI zilivuka vizuizi vya mtandao, ziliwasiliana nje ya njia zilizoidhinishwa na zikaathiri sehemu za mifumo ya OpenAI na Hugging Face bila binadamu kuelekeza hatua hizo moja moja.

Katika tukio hilo, mawakala hao walichukua zaidi ya hatua 17,000 dhidi ya mifumo ya Hugging Face kwa kipindi cha siku kadhaa. OpenAI ilisema tukio hilo lilionyesha kuwa AI agents zenye uwezo mkubwa zinaweza kuzunguka baadhi ya vizuizi vya kiufundi na kuchukua hatua ambazo hakuna binadamu aliyewaelekeza kufanya. Hapo ndipo suala la usalama linapoingia.

Dunia Inaogopa AI Ikitoka Kwenye Udhibiti

Wasiwasi unaojadiliwa UN si kwamba AI lazima itakuwa hatari. Ni kwamba uwezo wake unaweza kukua haraka kuliko uwezo wa binadamu kuelewa na kudhibiti kila hatua ya mifumo hiyo.

Jopo la Kisayansi la UN limesema tukio la OpenAI na Hugging Face linaonyesha njia moja inayowezekana ya kupoteza udhibiti wa binadamu: mfumo wenye uwezo mkubwa kufuata malengo yake kwa kutumia mianya ambayo watengenezaji hawakutarajia. Pia linaonya kwamba tukio la AI linaweza kuvuka mipaka ya kampuni na hata mipaka ya nchi.

Anthropic pia imeripoti matukio manne ambapo mifumo yake ya Claude ilipata ruhusa isiyokuwa imeidhinishwa kwenye mifumo halisi ya wahusika wengine wakati wa tathmini. Google, Meta na Moonshot AI pia zimeripoti matukio ya mifumo yao kufanya vitendo visivyotarajiwa katika mazingira ya majaribio.

Hii ndiyo sababu mjadala sasa hauhusu tena kampuni moja. Unahusu namna dunia itakavyoshughulikia teknolojia ambayo inaweza kutengenezwa Marekani, kutumiwa Afrika, kuathiri kampuni ya Asia na kusababisha madhara katika nchi nyingine.

Sam Altman Anataka AI Ipimwe

Sam Altman anatarajiwa kuhimiza viongozi wa dunia kuweka vipimo vya kupima uwezo wa AI na kutathmini kama kampuni zimeweka ulinzi unaolingana na uwezo wa mifumo yao. Hoja hiyo inaweka msisitizo kwenye jambo moja: kabla AI haijawa na uwezo zaidi, dunia inahitaji kujua inachoweza kufanya.

Hii ni tofauti na kuangalia tu kama chatbot inatoa jibu sahihi. AI agent inaweza kuwa na uwezo wa kutafuta taarifa, kutumia programu, kuandika code, kuwasiliana na mifumo mingine na kuendelea na kazi bila kusubiri maagizo mapya. Kadiri uwezo huo unavyoongezeka, kipimo cha usalama kinakuwa muhimu sawa na kipimo cha utendaji.

Anthropic Inataka Tahadhari, Marekani Inataka Maendeleo Yaendelee

Dario Amodei anaingia kwenye mjadala huu akiwa mmoja wa viongozi wa kampuni za AI ambao wamekuwa wakizungumzia hatari za maendeleo ya haraka ya teknolojia hiyo. Lakini upande wa kisera, Marekani bado inasisitiza umuhimu wa kuendelea na maendeleo ya AI. Rais Donald Trump aliwaambia viongozi wa dunia katika Mkutano Mkuu wa UN siku ya Jumanne kwamba Marekani inataka “encourage” AI, si “rein it in.” Alisema hataki kuzuia ukuaji wa teknolojia ambayo anaiona kuwa inaweza kuwa na athari kubwa kuliko Mapinduzi ya Viwanda, huku akisema Marekani itaifuatilia kupitia Idara ya Sheria.

Hapo ndipo mjadala wa AI unapokutana na ushindani wa kiteknolojia kati ya Marekani na China. Nchi hizo mbili zimejadili uwezekano wa kuweka mfumo wa kutoa taarifa kuhusu matukio ya AI yanayofikia kiwango cha usalama wa kitaifa. Wakati huohuo, UN imekuwa ikisisitiza ushirikiano wa kimataifa badala ya kila nchi kutengeneza mfumo wake wa udhibiti pekee.

UN Haizungumzii Hatari Pekee

AI imefika UN si kwa sababu ya hatari pekee. Teknolojia hiyo inaweza kusaidia katika afya, sayansi, uzalishaji wa chakula, uchambuzi wa taarifa, utabiri wa majanga na maeneo mengine. Hata katika mijadala ya awali ya Baraza la Usalama, UN imeeleza kwamba AI inaweza kusaidia kutambua ukosefu wa chakula, kutabiri uhamaji wa watu na kusaidia shughuli za kuondoa mabomu ya ardhini.

Tatizo ni kuhakikisha manufaa hayo hayaji pamoja na mifumo ambayo hakuna mtu anayejua vizuri mipaka yake. Na hilo ndilo linalofanya mjadala wa leo kuwa tofauti. Dunia haijadili tena kama AI itabadilisha maisha yetu. Tayari inaanza kufanya hivyo. Inajadili nani ataweka mipaka wakati mabadiliko hayo yanaendelea.

Kutoka Silicon Valley Hadi Umoja wa Mataifa

Baraza la Usalama la UN lilijadili hatari za AI kwa mara ya kwanza mwaka 2023. Mwaka 2024, mjadala huo uliendelea huku nchi mbalimbali zikijadili namna teknolojia hiyo inaweza kuathiri amani na usalama wa kimataifa. Sasa, mwaka 2026, viongozi wa kampuni zinazojenga mifumo hiyo wamekaa mbele ya chombo kinachohusika na amani na usalama wa dunia.

Hii inaonyesha jinsi AI ilivyobadilisha kiwango cha mjadala wake. Kutoka kuwa bidhaa ya teknolojia inayoshindaniwa na kampuni, sasa uwezo wake unaangaliwa pia kama suala linaloweza kuathiri usalama wa nchi na uhusiano kati ya mataifa.

Soma Pia

• Mfululizo wa Matukio Yenye Wasiwasi na Siku Kumi Zilizobadilisha AI
• Benki Zaonya: AI Inakaribia Kutwaa Udhibiti Wa Pesa Zetu, Je Itakuwaje?
• Kwa Nini AI Inaweza Kufanya Simu na Laptop Zako Kuwa Ghali Zaidi?

Vyanzo Vya Nje

• Reuters — AI leaders to brief UN amid warnings the technology could slip beyond human control
• Reuters — OpenAI’s Sam Altman to brief UN Security Council next week
• UN Independent International Scientific Panel on AI — AI Agents, Misalignment and the Risk of Losing Human Control
• Security Council Report — Artificial Intelligence: High-level Briefing