Kwa siku 10 tu, dunia ya AI ilionekana kama inakimbia pande mbili kwa wakati mmoja. Upande mmoja, kampuni zilikuwa zikitangaza mifumo yenye uwezo mkubwa zaidi na kuzungumzia AGI. Upande mwingine, baadhi ya watu waliokuwa wanajenga mifumo hiyo hiyo wakaanza kuuliza kama usalama unaenda kwa kasi inayofanana na uwezo wa AI. Na yote yalianza Septemba 3.
Septemba 3: “Karibu Katika Enzi ya AGI”
OpenAI ilitangaza Astra, mfumo uliowasilishwa kama hatua nyingine kuelekea AI inayoweza kufanya kazi kwa kiwango kikubwa zaidi kuliko chatbot wa kawaida. Greg Brockman, rais wa kampuni hiyo, akasema: “Karibu katika enzi ya AGI.” Kauli hiyo iliweka kiwango cha matarajio juu sana. Lakini kulikuwa na jambo lingine lililokuwa likiongezeka nyuma ya pazia: kadiri AI inavyopewa uwezo wa kupanga na kutekeleza hatua nyingi yenyewe, ndivyo inavyokuwa vigumu zaidi kwa watengenezaji kuelewa kila kitu kinachotokea ndani ya mchakato huo.
Septemba 8: Mtafiti Anaondoka
Siku tano baadaye, Jacob Coxon akaondoka Anthropic. Alisema tatizo si kwamba AI haipaswi kuendelezwa, bali kasi ya kuongeza uwezo wake inaweza kuiacha sekta ikiwa nyuma kwenye suala la usalama. Kisha Evan Hubinger, mtafiti mwingine wa Anthropic, akaongeza tahadhari nzito zaidi. Alisema anakadiria uwezekano wa AI kusababisha kutoweka kwa binadamu kuwa zaidi ya asilimia 10. Ghafla, mjadala haukuwa tena kutoka kwa wakosoaji wa AI walioko nje ya kampuni. Baadhi ya tahadhari zilikuwa zikitoka ndani ya maabara zenyewe.
AI Haikuishia Kwenye Kujibu
Wakati huo huo, mawakala wa AI walikuwa wakionyesha kwa nini mjadala huu ulikuwa tofauti na ule wa chatbot. Agent anaweza kupewa lengo, kutumia kompyuta, kufungua programu, kutafuta taarifa na kutekeleza hatua kadhaa mfululizo. Hiyo inabadilisha aina ya kosa tunalolizungumza. Chatbot akitoa taarifa mbaya unaweza kuiona na kuisahihisha. Mfumo unaoweza kuchukua hatua nyingi kabla hujaingilia kati unahitaji aina nyingine ya uangalizi.
Hapo swali likabadilika: si “AI inaweza kujibu nini?”, bali “inaweza kufanya nini ikiwa tutaiacha ifanye yenyewe?”
Septemba 12: Amodei Aleta Wazo la Kupunguza Kasi
Siku nne baadaye, Dario Amodei wa Anthropic akaweka wazi upande wake wa mjadala. Alitaka maendeleo ya AI yenye uwezo mkubwa yapunguzwe ili usalama uweze kuendana na kasi ya maendeleo ya teknolojia. Lakini hilo halikufungua mlango wa makubaliano. Badala yake, likafichua mgawanyiko ambao ulikuwa tayari unaonekana ndani ya sekta.
Kwa Nini Kampuni Zingine Hazitaki Kusimama?
Jensen Huang wa Nvidia amepinga wazo la kupunguza maendeleo ya AI kwa ujumla. Mark Zuckerberg wa Meta naye ameunga mkono zaidi uwajibikaji wa kila kampuni kwa mifumo yake kuliko kuweka kasi moja kwa sekta nzima.
Sababu ni kubwa kuliko teknolojia yenyewe. Kuna mabilioni ya dola kwenye chips, data centres na bidhaa za AI. Kuna ushindani kati ya kampuni kama OpenAI, Anthropic, Google na Meta. Na juu yake kuna ushindani mpana wa kiteknolojia kati ya Marekani na China. Kampuni inaweza kuamini kwamba kupunguza kasi ni salama, lakini pia ikaogopa kwamba mshindani wake hatapunguza.
Siku 10 Zikaacha Tatizo Moja
Ndani ya siku 10, upande mmoja wa sekta ulikuwa ukisema “AI inaweza kufika mbali zaidi.” Upande mwingine ukaanza kuuliza “tunajua kweli itaenda wapi?” Hilo ndilo lililofanya siku hizi 10 kuwa muhimu. Mjadala wa AI haukuwa tena kuhusu nani ana modeli yenye uwezo mkubwa zaidi. Ukaanza kugusa swali gumu zaidi: kama AI inaweza kufanya zaidi yenyewe, ni kwa kiwango gani binadamu bado anaweza kuhakikisha kwamba inafanya kile alichokusudia?
Soma Pia:
Watafiti wa Anthropic Waonya AI Inaweza Kuwa Tishio Kubwa kwa Binadamu
Trump Ampigia CEO wa Nvidia Simu Jukwaani: Kwa Nini Marekani Inakataa Kupunguza Kasi ya AI?
Vyanzo:
Reuters — OpenAI says upcoming model is so capable it requires stronger guardrails
Reuters — More US lawmakers seek new AI rules after Anthropic researchers warn of human extinction
No Comment! Be the first one.