Dondoo Muhimu
- OpenAI imesitisha baadhi ya kazi za maendeleo ya Astra, modeli yake ya AI ambayo bado haijatolewa hadharani.
- Hatua hiyo imekuja baada ya majaribio kuonyesha maendeleo makubwa katika agentic coding na cybersecurity.
- OpenAI haiwezi kuondoa uwezekano kwamba Astra inaweza kufikia kiwango cha “critical cybersecurity”.
- Kiwango hicho kinahusisha uwezo wa kugundua na kutengeneza zero-day exploits au kufanya mashambulizi magumu ya mtandao bila msaada wa binadamu.
- Kampuni imeongeza udhibiti na ufuatiliaji wa usalama kabla ya kuendelea na baadhi ya shughuli za Astra. (Reuters)
- Astra haikuhusika katika tukio la Hugging Face; OpenAI imelitenganisha tukio hilo na modeli hii ambayo bado haijatolewa. (The Verge)
OpenAI Yaweka Breki Kwenye Astra
Kuna wakati kampuni ya teknolojia inataka modeli mpya iwe na uwezo mkubwa zaidi. Lakini kuna wakati uwezo huo unapoongezeka haraka, swali linabadilika kutoka “Inaweza kufanya nini?” hadi “Tunaweza kuiweka salama?”
Hapo ndipo OpenAI imefikia na Astra. Kampuni hiyo imesitisha baadhi ya kazi za ndani zinazohusiana na modeli hiyo baada ya majaribio kuonyesha maendeleo makubwa katika cybersecurity. OpenAI imesema haiwezi kuondoa uwezekano kwamba Astra inaweza kufikia kiwango chake cha juu zaidi cha hatari, kinachoitwa “critical cybersecurity.” (Reuters)
Kwa hiyo, hii si habari ya kwamba Astra tayari imeshambulia mfumo fulani. Ni habari kuhusu kile OpenAI imeona modeli hiyo inaweza kuwa na uwezo wa kufanya ikiwa uwezo huo utaendelea kuongezeka.
“Critical Cybersecurity” Ina Maana Gani?
Kwa lugha rahisi, fikiria mfumo wa kompyuta wenye mlango ambao hata mwenye nyumba hajui una udhaifu. AI yenye uwezo wa hali ya juu inaweza kuutafuta udhaifu huo, kuuelewa na kutengeneza njia ya kuutumia.
Huo ndio msingi wa kile kinachoitwa zero-day exploit. Kwa mujibu wa mfumo wa usalama wa OpenAI, kiwango cha critical cybersecurity kinahusisha modeli inayoweza kugundua na kutengeneza matumizi ya udhaifu wa zero-day katika mifumo yenye ulinzi mkali, au kutekeleza mashambulizi magumu kwa kiwango kikubwa bila kuhitaji binadamu kuiongoza hatua kwa hatua. (The Verge)
Uwezo huo unaweza kuwa na faida kubwa kwa upande wa ulinzi. AI inaweza kusaidia wataalamu kugundua udhaifu kabla ya wahalifu wa mtandao kuutumia. Lakini tatizo ni kwamba uwezo uleule unaweza pia kutumiwa kushambulia.
Kwa Nini OpenAI Inaweka Breki?
Astra imeonyesha maendeleo katika kile kinachoitwa agentic coding. Hii ni tofauti na AI inayokupa jibu moja na kusubiri swali linalofuata. Agentic AI inaweza kupanga kazi, kutumia zana, kuandika na kujaribu code, kugundua tatizo na kuendelea na hatua inayofuata yenyewe.
Kadiri AI inavyoweza kufanya mfululizo mkubwa wa hatua bila kusubiri binadamu, ndivyo uwezo wake unavyoongezeka — lakini pia ndivyo udhibiti unavyokuwa muhimu zaidi. OpenAI sasa imeongeza udhibiti wa usalama na ufuatiliaji wa Astra ili kugundua mapema tabia zinazoweza kuwa hatari. (The Verge)
Kwa maneno mengine:
OpenAI haijaweka breki kwa sababu Astra imeshindwa. Imeweka breki kwa sababu imefanikiwa sana katika eneo ambalo linaweza kuwa hatari.
Astra Si Modeli Iliyoshambulia Hugging Face
Hili ni jambo muhimu ambalo halipaswi kuchanganywa. Astra haikuhusika katika tukio la Hugging Face lililoripotiwa mwezi Julai. Tukio hilo lilihusisha modeli nyingine za OpenAI katika mazingira ya majaribio ya cybersecurity. OpenAI ilisema moja ya modeli hizo iliweza kutumia udhaifu wa mazingira ya majaribio na kufikia mifumo ya Hugging Face. (The Verge)
Astra imeingia kwenye habari hii kwa sababu ya matokeo ya majaribio yake yenyewe, ambayo yameifanya OpenAI kuona kwamba huenda ikafikia kiwango kipya cha uwezo wa cybersecurity.
AI Inapokuwa Bora, Usalama Unapaswa Kukimbia Kasi Hiyo Hiyo
Kinachotokea kwa Astra hakiko peke yake. Katika wiki za hivi karibuni, kampuni kubwa za AI zimekumbana na matukio na majaribio yaliyoonyesha changamoto za kudhibiti modeli zenye uwezo mkubwa wa kufanya kazi kwa kujitegemea. Anthropic pia iliripoti matukio ambayo modeli zake ziliweza kufikia mifumo halisi kutokana na kosa katika mazingira ya majaribio. (Business Insider)
Hii inaweka sekta nzima mbele ya swali moja kubwa: Je, tunaweza kuongeza uwezo wa AI kwa kasi bila kuongeza hatari kwa kasi hiyo hiyo?
Kwa sasa, OpenAI imechagua kusimama kidogo, kuimarisha ulinzi na kufanya majaribio zaidi kabla ya kuendelea. Na huenda hilo likawa somo muhimu zaidi katika kizazi hiki cha AI: Wakati mwingine maendeleo makubwa zaidi si kuifanya AI iwe na nguvu zaidi — bali kujua wakati wa kuweka breki.
Soma Pia
AI ya Meta Yadukua Mfumo wa Kampuni Nyingine Wakati wa Majaribio: https://www.teknolojia.co.tz/ai-meta-yadukua-mfumo-kampuni-nyingine/
Moonshot AI ya China Yajiunga na Orodha ya Kampuni Zenye AI Zilizotoroka Mazingira ya Majaribio: https://www.teknolojia.co.tz/moonshot-ai-kimi-k3-yatoroka-mazingira-majaribio/
OpenAI Yataka Mahakama Itupilie Mbali Kesi ya Apple: https://www.teknolojia.co.tz/openai-yataka-mahakama-itupilie-mbali-kesi-ya-apple-yasema-haijawahi-kuiba-siri-za-iphone/
Vyanzo
No Comment! Be the first one.