Gemini AI Ya Google Yavamia Mifumo Ya Kampuni Tatu Wakati Wa Jaribio La Usalama

Gemini, modeli ya Akili Mnemba ya Google, imefikia mifumo ya kampuni tatu halisi bila ruhusa wakati wa jaribio la usalama wa mtandao lililofanyika mwezi Mei 2026. Google imethibitisha tukio hilo baada ya The Wall Street Journal kuripoti kwamba ilikuwa mara ya kwanza kujulikana kwa mfumo wa Google kufanya uvamizi wa aina hiyo kwa kujitegemea.

Jaribio hilo lilifanywa na kampuni ya usalama wa Akili Mnemba iitwayo Irregular. Gemini ilikuwa ikifanya zoezi la usalama ndani ya mazingira yaliyotengenezwa kwa ajili ya majaribio, ambapo ilitakiwa kutafuta taarifa kutoka kwenye kampuni ya kubuniwa. Tatizo lilikuwa kwamba mazingira hayo yalipata uwezo wa kuingia kwenye intaneti, jambo ambalo halikupaswa kutokea. Kampuni ya kubuniwa pia ilikuwa na jina linalofanana na kampuni halisi.

Gemini Iliingiaje Kwenye Mifumo Hiyo?

Baada ya kupata uwezo wa kuingia mtandaoni, Gemini ilianza kutafuta taarifa zilizokuwa zinahusiana na lengo la jaribio. Katika tukio moja, ilijaribu nywila mbalimbali hadi ilipofanikiwa kufungua mfumo uliolindwa.

Katika matukio mengine mawili, Gemini ilipata taarifa za kuingia zilizokuwa zimewekwa kwenye hifadhi za taarifa za umma mtandaoni na kuzitumia kufikia mifumo ya kampuni halisi. Kwa hiyo, haikuwa kwamba Gemini ilitengeneza mbinu mpya ya ajabu ya kuvunja ulinzi. Kilichokuwa muhimu zaidi ni kwamba ilifanya hatua hizo yenyewe baada ya kupata taarifa ilizohitaji. Na hapo ndipo tukio hili linakuwa kubwa kuliko jaribio la kawaida la usalama.

Gemini Ilisimamisha Uvamizi Yenyewe

Google imesema katika matukio yote matatu, Gemini ilisimamisha shughuli mara ilipotambua kwamba haikuwa imefikia kampuni ya kubuniwa iliyokuwa sehemu ya jaribio, bali mifumo ya kampuni halisi. Google pia ilisema kampuni hizo zilipewa taarifa kuhusu kilichotokea.

Irregular iliijulisha Google kuhusu matukio hayo mwishoni mwa Julai. Hata hivyo, tukio hilo halikutangazwa hadharani wakati huo. Google ilisema haikuona sababu ya kulifichua mapema kwa sababu Gemini ilisimamisha uvamizi na, kwa mujibu wa kampuni, hakuna madhara yaliyosababishwa. Taarifa hiyo iliingia hadharani baada ya WSJ kuwasiliana na Google kuhusu matukio hayo. Google pia imesema ilifanya kazi na Irregular kubadilisha taratibu za majaribio ili kuzuia tatizo kama hilo kujirudia. Irregular nayo imesema matatizo yaliyokuwa upande wake yamekwishatatuliwa.

Tatizo Lilikuwa Wapi?

Kwa upande mmoja, Gemini ilisimamisha uvamizi baada ya kugundua kwamba ilikuwa imefikia kampuni halisi. Lakini kwa upande mwingine, mfumo huo ulikuwa tayari umefanya maamuzi kadhaa muhimu kabla ya kufika hapo: kutafuta taarifa mtandaoni, kukisia nywila na kutumia taarifa za kuingia ilizozipata ili kufikia mifumo iliyolindwa.

Hilo ndilo linalowafanya wataalamu wa usalama kuangalia tukio hili kwa uzito. Jack Cable, Mkurugenzi Mtendaji wa kampuni ya usalama wa Akili Mnemba Corridor, aliiambia WSJ kwamba suala kubwa si tu namna Gemini ilivyomaliza jaribio, bali ukweli kwamba modeli iliweza kuvuka mipaka iliyowekwa na kufanya mashambulizi halisi kwenye mifumo ya kampuni.

Na Gemini haikuwa tukio pekee lililohusishwa na majaribio ya Irregular. Kampuni hiyo imehusishwa pia na matukio mengine ambapo mifumo ya Akili Mnemba ya kampuni kama OpenAI, Anthropic na Meta ilifikia mifumo halisi wakati wa majaribio.

Swali Sasa Si Kama AI Inaweza Kudukua

Tukio la Gemini linaonyesha mabadiliko muhimu katika usalama wa Akili Mnemba. Mfumo haukuhitaji mtu kumwambia kila hatua ya kufanya. Uliweza kutafuta taarifa, kujaribu njia za kuingia na kutumia taarifa ulizopata kufikia mfumo uliolindwa. Katika tukio hili, Gemini ilisimama ilipotambua kosa. Lakini ukweli kwamba ilifikia mifumo halisi unaonyesha kwa nini mipaka kati ya mazingira ya majaribio na intaneti ya kawaida inahitaji kulindwa kwa umakini mkubwa.

Soma Pia:

• Mfululizo wa Matukio Yenye Wasiwasi na Siku Kumi Zilizobadilisha AI
• Anthropic Yavuruga Mashambulizi ya AI Kutoka Russia na China dhidi ya Claude
• Watafiti wa Anthropic Waonya AI Inaweza Kuwa Tishio Kubwa kwa Binadamu

Vyanzo:

• The Wall Street Journal
• Reuters
• TechCrunch
• ABC News Australia