UN: “Umjetna inteligencija može biti opasna”

 UN o opasnostima umjetne inteligencije

Ujedinjeni narodi zahtijevaju moratorij za određene tehnologije na području umjetne inteligencije (UI). Najprije treba istražiti njezine učinke na ljudska prava kao što su pravo na privatnost ili sloboda kretanja i mišljenja, obrazložila je UN-ova povjerenica za ljudska prava Michelle Bachelet. Objasnila je da pojedine primjene tih tehnologija, primjerice softver za prepoznavanje lica, predstavljaju prijetnju jer se ljude tako može neograničeno identificirati prema njihovim tjelesnim obilježjima i nadzirati iz daljine.

„Tehnologije umjetne inteligencije mogu imati negativne, pa čak i katastrofalne učinke”, upozorila je Bachelet. Ona od svih država zahtijeva potpunu zabranu ili strogo reguliranje primjene onih tehnologija koje sobom nose najveće opasnosti. Predstavljajući novo izvješće o umjetnoj inteligenciji i ljudskim pravima Bachelet je kao primjer navela primjenu tehnologija za izradu profila kriminalaca i pomoć u donošenju odluka.

“Kršenja ljudskih prava bez transparentnosti”

Ona istovremeno priznaje da pozitivni potencijal UI-a nije sporan, ali ističe da UI ima i potencijal za omogućavanje kršenja ljudskih prava bez ikakve transparentnosti. „Sada su nužni konkretni koraci za dobro svih nas”, rekla je Michelle Bachelet.

Umjetna inteligencija je pojam za postupke kod kojih specijalni softveri obrađuju i analiziraju ogromne količine podataka i na temelju toga predlažu odluke. Ona se ne primjenjuje samo u medicini i kod proizvodnje vozila bez vozača, nego i kod vrednovanja kandidata za radno mjesto, otkrivanja prijevara socijalnog sustava ili za predviđanje kriminalnog ponašanja.

UI se kod nadzornih tehnika kombinira s biometrijom – recimo kod prepoznavanja lica ili hoda pomoću kamera u javnom prostoru – ali i s podacima koje ljudi dobivaju na druge načine, kao što je registriranje promjene mjesta boravka pomoću vašeg mobilnog telefona.

“UI može štetiti ljudima”

„Već sada predstavlja pravi rizik to što umjetna inteligencija mijenja, definira ili šteti životu ljudi”, rekla je Bachelet u Ženevi. Osim toga, u UN-ovom izvješću se upozorava i na iskrivljavanje činjenica koje nastaje kada se podaci obrađuju algoritmima koji diskriminiraju određene skupine poput žena ili etničkih manjina. To je već sada vidljivo, primjerice kod rezultata tražilice internetskog giganta Googlea.

Europska komisija je u travnju predložila pravila za umjetnu inteligenciju. Prema tim pravilima, što je veća opasnost od neke primjene, to se strože ona treba regulirati.

UN-ov Ured za ljudska prava je predložio da to ubuduće vrijedi i kao globalni standard. Organizacija za zaštitu građanskih prava European Digital Rights (EDRi) u srpnju se požalila da biometrijski masovni nadzor u javnom prostoru „sve više i prešutno postaje uobičajena metoda”.

Deutsche Welle/https://www.hkv.hr/Hrvatsko nebo