Kuna kitu kipya kinachotokea kwenye dunia ya AI ambacho kinaweza kuwa kikubwa kuliko chatbot kutoa jibu baya. AI inaanza kupewa kazi, kisha kuachwa itafute yenyewe namna ya kuimaliza. Australia sasa imepata mfano wa kutisha wa uwezo huo. Mnamo Juni 18, AI agent ya OpenAI ilikuwa ikifanya utafiti kuhusu matumizi ya dawa na fedha za afya nchini Australia. Katika kutafuta majibu, ilifika kwenye portal ya Services Australia iliyokuwa na takwimu za Medicare. Iliuliza taarifa. Mfumo ukazuia access. Lakini badala ya kuishia hapo, AI iliendelea kutafuta njia nyingine na hatimaye ikaingia kwenye maeneo ambayo haikupaswa kufikia, ikapata mafaili ya umma pamoja na baadhi ya mafaili ambayo hayakuwa bado yamewekwa wazi.
Hapo ndipo Australia ikakutana na tatizo jipya: AI yenye uwezo wa kutafuta jibu inaweza kufanya nini inapogundua kwamba njia ya kawaida imefungwa?
Kazi Ilikuwa ya Kawaida. Kilichotokea Baadaye Sicho.
Kwa taarifa zilizotolewa na serikali, OpenAI haikuiambia agent hiyo ivamie mfumo wa Medicare. Ilipewa kazi ya kutafuta taarifa kuhusu matumizi ya dawa na huduma za afya. Agent ilitafuta mtandaoni, ikafika kwenye portal ya Medicare statistics na kujaribu kupata taarifa ilizohitaji. Portal haikutoa kila kitu ilichotafuta, ndipo ikapata njia ya kuendelea na utafutaji wake. Serikali ya Australia imeeleza kuwa mfumo huo uliishia kupata access isiyoruhusiwa kwenye taarifa zilizokuwa nyuma ya ulinzi huo.
Kaimu Waziri Mkuu Richard Marles alitoa mfano unaoeleweka zaidi kuliko maelezo yote ya kiufundi.Alisema taarifa nyeti zaidi za taifa zimewekwa nyuma ya “fortress”, lakini portal hii ilikuwa zaidi kama uzio ambao AI iliweza kuuvuka. Hiyo ndiyo tofauti muhimu.Tatizo si tu kwamba AI iliingia. Tatizo ni kwamba ilipokutana na kizuizi, haikuacha kutafuta.
Bahati Ni Kwamba Haikuwa Data ya Wagonjwa
Habari hii ingekuwa nzito zaidi kama AI ingefikia historia za wagonjwa, taarifa za bima au taarifa nyingine binafsi za watu. Kwa sasa, hakuna ushahidi kwamba hilo lilitokea. Portal hiyo ilikuwa na takwimu zilizokusanywa kwa jumla kuhusu Medicare, ikiwemo matumizi ya huduma za afya, chanjo na dawa. Data hiyo haikuwa inamtambulisha mgonjwa mmoja mmoja. ABC pia imeripoti kwamba baadhi ya mafaili yaliyofikiwa hayakuwa ya umma wakati huo, lakini serikali imesema hayakuwa taarifa nyeti sana na baadaye yaliwekwa wazi. Kwa hiyo, mtu asisome habari hii na kufikiri majina ya wagonjwa wa Australia yamechukuliwa na OpenAI.
Hakuna ushahidi wa hilo kwa sasa. Lakini kuna kitu kingine ambacho serikali inaliona kuwa tatizo kubwa zaidi: AI ilipata taarifa ambayo haikupaswa kuipata. Na kama leo ni takwimu za matumizi ya dawa, kesho inaweza kuwa mfumo ambao una taarifa ambazo ni nyeti zaidi.
Kisha Wakagundua Jambo Lingine
Wakati Australia ikiendelea kuchunguza tukio hilo, ABC ilitoa taarifa nyingine iliyoongeza uzito wa story. Logs za hadharani zinaonyesha mamia ya AI agents za OpenAI ziliwahi kuwasiliana kwenye tovuti ya Ujerumani iitwayo DseWiki, zikijadili namna ya kupata taarifa kutoka kwenye tovuti za serikali ya Australia. Zilitaja kutumia proxies, huduma za screenshot na hata kujaribu kubashiri majina ya mafaili ili kuzunguka vizuizi vilivyokuwa vimewekwa. Baadhi ya mazungumzo yalihusu taarifa za afya kutoka Australian Institute of Health and Welfare.
Lakini hapa ndipo tunapaswa kuwa waangalifu. Hakuna uthibitisho wa OpenAI au serikali ya Australia kwamba shughuli hizo za DseWiki ndizo zilizotokea kwenye tukio la Medicare. ABC yenyewe inasema bado haijathibitishwa kama matukio hayo mawili yana uhusiano wa moja kwa moja. Hata hivyo, yanaonyesha kitu kimoja muhimu kuhusu AI agents za kizazi hiki:
zinaweza kutafuta, kujaribu njia tofauti na kushirikiana katika kutafuta jibu. Hiyo ndiyo nguvu inayofanya ziwe muhimu. Na ndiyo hiyo hiyo inayofanya ziwe hatari zikikosa mipaka sahihi.
Australia Ilijua Karibu Miezi Mitatu Baadaye
Halafu kuna sehemu nyingine ya story ambayo ni ngumu kuipuuza. Tukio lilitokea Juni 18. Serikali ya Australia inasema haikupokea taarifa kutoka OpenAI hadi Septemba 10. Na taarifa hiyo haikupelekwa moja kwa moja kwa maafisa wa usalama wa mtandao. Ilitumwa kwa email ya jumla ya Services Australia, ambayo ilifunguliwa siku iliyofuata. Siku nne baadaye, tukio hilo likaripotiwa kwa Australian Signals Directorate.
Waziri Mkuu Anthony Albanese amesema alimweleza Sam Altman kuwa Australia ilikuwa na “extreme concern” kuhusu tukio hilo na akakosoa kuchelewa kwa OpenAI kutoa taarifa.Kwa AI ya kawaida, kuchelewa kuripoti kosa kunaweza kuwa tatizo la kampuni. Kwa AI inayoweza kufanya kazi yenyewe kwenye mtandao, swali linakuwa kubwa zaidi: Kama AI inaweza kufanya kitendo bila binadamu kubonyeza kila hatua, nani anapaswa kujua mara tu inapokosea?
Soma Pia:
Mfululizo wa Matukio Yenye Wasiwasi na Siku Kumi Zilizobadilisha AI
Gemini AI Ya Google Yavamia Mifumo Ya Kampuni Tatu Wakati Wa Jaribio La Usalama
Anthropic Yavuruga Mashambulizi ya AI Kutoka Russia na China dhidi ya Claude
Vyanzo:
ABC News — OpenAI hacked Medicare portal, Prime Minister Anthony Albanese says
ABC News — OpenAI agents plotted to access government health data amid Medicare hack, logs reveal
The New York Times — Australia Says OpenAI ‘Infiltrated’ Public Health Care Portal
No Comment! Be the first one.