Ključne ličnosti u oblasti veštačke inteligencije žele da obustave obuku moćnih sistema veštačke inteligencije zbog straha od pretnje čovečanstvu.
Oni su potpisali otvoreno pismo upozoravajući na potencijalne rizike i kažu da je trka za razvoj sistema veštačke inteligencije izmakla kontroli.
Šef Tvitera Elon Musk je među onima koji žele da obuka AI iznad određenog kapaciteta bude zaustavljena na najmanje šest meseci.
Suosnivač Apple-a Stiv Voznijak i neki istraživači u DeepMind-u takođe su potpisali.
OpenAI, kompanija koja stoji iza ChatGPT-a, nedavno je objavila GPT-4 – najsavremeniju tehnologiju, koja je impresionirala posmatrače svojom sposobnošću da obavlja zadatke kao što je odgovaranje na pitanja o objektima na slikama.
U pismu, iz Instituta za budućnost života žele se da se razvoj privremeno zaustavi na tom nivou, upozoravajući u svom pismu na rizike koje bi napredniji sistemi mogli predstavljati u budućnosti.
„AI sistemi sa konkurentskom inteligencijom mogu predstavljati duboke rizike za društvo i čovečanstvo“, navodi se.
Institut za budućnost života je neprofitna organizacija koja kaže da je njena misija da „ukloni transformativne tehnologije od ekstremnih rizika velikih razmera “.
G. Musk, vlasnik Tvitera i izvršni direktor automobilske kompanije Tesla, naveden je kao spoljni savetnik organizacije.
Naprednu veštačku inteligenciju treba pažljivo razvijati, kaže se u pismu, ali umesto toga, „nedavnih meseci smo videli da su laboratorije veštačke inteligencije zaključane u trci van kontrole da razviju i primene sve moćnije digitalne umove od kojih niko – čak ni njihovi kreatori – može da razume, predvidi ili pouzdano kontroliše”.
U pismu se upozorava da bi veštačka inteligencija mogla da preplavi kanale informacija dezinformacijama i da zameni poslove automatizacijom.
Da li je svet spreman za nadolazeću oluju veštačke inteligencije?
Pismo je usledilo nakon nedavnog izveštaja investicione banke Goldman Sachs u kojem se navodi da bi, iako će veštačka inteligencija verovatno povećati produktivnost, milioni poslova mogli da postanu automatizovani.
Međutim, drugi stručnjaci su za Bi-Bi-Si rekli da je efekat veštačke inteligencije na tržište rada veoma teško predvideti.
Stjuart Rasel, profesor kompjuterskih nauka na Univerzitetu u Kaliforniji u Berkliju i potpisnik pisma, rekao je za Bi-Bi-Si njuz: „AI sistemi predstavljaju značajan rizik za demokratiju putem naoružanih dezinformacija, za zapošljavanje kroz premeštanje ljudskih veština i za obrazovanje kroz plagijate i demotivaciju“.
I u budućnosti, napredna AI može predstavljati „opštiju pretnju ljudskoj kontroli nad našom civilizacijom“.
„Dugoročno gledano, preduzimanje razumnih mera predostrožnosti je mala cena za ublažavanje ovih rizika“, dodao je profesor Rasel.
Ali profesor kompjuterskih nauka sa Prinstona Arvind Narajanan optužio je pismo da se fokusira na „spekulativni, futuristički rizik, ignorišući verziju problema koji već šteti ljudima“.
G. Musk je bio suosnivač OpenAI – iako je dao ostavku iz odbora organizacije pre nekoliko godina i tvitovao je kritički o njenom trenutnom pravcu.
Funkcije autonomne vožnje koje je napravila njegova automobilska kompanija Tesla, kao i većina sličnih sistema, koriste AI tehnologiju.
U pismu se od laboratorija za veštačku inteligenciju traži da „odmah pauziraju na najmanje šest meseci obuku AI sistema moćnijih od GPT-4“.
Ako se takvo odlaganje ne može brzo primeniti, vlade bi trebalo da se umešaju i uvedu moratorijum, kaže se.
Biće potrebne i „nove i sposobne regulatorne vlasti posvećene veštačkoj inteligenciji“.
Nedavno su izneti brojni predlozi za regulisanje tehnologije u SAD, Velikoj Britaniji i EU. Međutim, Velika Britanija je odbacila namenski regulator za AI.
Izvor teksta: bbc.com
