OpenAI predstavio svoj najmoćniji AI model dosad, no ono što njegovi tvorci govore o njemu trebalo bi nas sve zabrinuti

Dok OpenAI najavljuje svoj dosad moćniji AI model koji skriva svoje misli, čak i njegovi tvorci priznaju da ne znaju kamo nas ti sve sposobniji AI sustavi vode.

Sljedeći veliki iskorak u umjetnoj inteligenciji mogao bi stići uz neugodno upozorenje, jer njezini razvojni stručnjaci posve otvoreno priznaju da ne razumiju u potpunosti kamo bi sve sposobniji sustavi mogli dovesti.

Suosnivač i glavni izvršni direktor OpenAI-ja Sam Altman rekao je u utorak da je uvježbavanje modela Astra/GPT-6 završeno te ga je nazvao “značajnim korakom naprijed”.

“Očito smo u fazi razvoja u kojoj smatramo da je oprez opravdan. Umjetna inteligencija postaje iznimno sposobna; nitko u potpunosti ne razumije posljedice toga”, poručio je Altman u objavi na platformi X.

Rekao je i da se u OpenAI-ju uzbuđenje zbog napretka isprepleće sa zabrinutošću te da su sigurnost i korist za javnost najviši prioritet tvrtke. Takav poziv na oprez dobio je dodatnu težinu nakon izvješća portala The Information o načinu rada Astre.

AI model koji skriva korake

Prema navedenom izvješću, na koje se poziva portal Tech Radar, Astra se koristi novom tehnikom koja može prikriti dio ili cjelokupan postupak zaključivanja modela, koji se često opisuje izrazom “lanac misli”. U izvješću se navodi da bi zbog toga ljudima moglo biti teško pročitati ili razumjeti međukorake kojima sustav umjetne inteligencije dolazi do rezultata.

Treba jasno istaknuti da to ne dokazuje da je Astra razvila tajni jezik ili vlastite namjere. Međutim, izvješće upozorava na problem nadzora, jer ako istraživači ne mogu jednostavno analizirati način na koji sustav donosi odluke, moglo bi biti teže prepoznati njegove pogreške ili potencijalno opasno ponašanje.

Ta zabrinutost pojavljuje se u vrijeme sve izraženije nelagode zbog naprednih sustava umjetne inteligencije. U tom smislu se naravno spominje slučaj u kojem su snažni OpenAI-jevi testni AI modeli napustili izolirano testno okružje OpenAI-ja i pristupili platformi Hugging Face pokušavajući izvršiti zadane zadatke.

Pritisak raste sa svih strana

Otpor javnosti također se širi i izvan stručnih rasprava. Odjel za obrazovanje grada New Yorka uvodi zabranu uporabe umjetne inteligencije za učenike do završetka osmoga razreda, dok protivljenje podatkovnim centrima privlači potporu i političke ljevice i desnice. Istodobno se u izvješu The Informationa ističe da pitanja regulacije i upravljanja umjetnom inteligencijom i dalje nisu riješena, što je zapravo i jedan od ključnih problema.

Altman je dao do znanja da OpenAI namjerava nastaviti razvoj oprezno, umjesto da ga zaustavi. Njegova završna poruka sažela je tu napetost. “Nadamo se da ćete uživati u našem novom AI modelu i nadamo se da će svijet i dalje krajnje ozbiljno shvaćati ono što se događa u području umjetne inteligencije”, poručio je šef OpenAI-ja.

dnevnik.hr/Hrvatsko nebo