Ameriško podjetje Anthropic je opozorilo potencialne vlagatelje, da bi napredna umetna inteligenca lahko predstavljala eksistenčno tveganje za človeštvo in povzročila posledice, nevarne za celotno preživetje ljudi.
Pred objavo dokumenta je predsednik Trump v nedeljo pozno zvečer zasebno večerjal z izvršnim direktorjem Anthropica Dariom Amodeijem, je potrdil predsednik.
ilustracija – pixabay.com
Uradniki Bele hiše niso razkrili nobenih podrobnosti o tem, o čem so razpravljali na večerji.
Večerja prihaja v času, ko Amodei opozarja na “eksponentno rast” umetne inteligence in poziva k zaščitnim ukrepom in omejitvam za industrijo. Trump je nasprotoval ideji o uvedbi predpisov, češ da v tekmi med Združenimi državami in Kitajsko “zmaga tisti, ki zmaga, umetna inteligenca”.
Trump je v nedeljo pred večerjo dejal, da se bosta z Amodeijem “pogovarjala” o predpisih za umetno inteligenco.
“Sem za to, da ‘gremo in zmagamo’,” je dejal Trump. “Veste, približno leto, morda leto in pol smo pred Kitajsko. Nihče ni na tretjem mestu. Mislim, samo midva in Kitajska sva.”
Novico o večerji je prvi poročal Axios.
KAKŠNE NEVARNOSTI PREDSTAVLJA SVET IN POSLOVANJE?!
V dokumentu, pripravljenem za prvo javno ponudbo delnic (IPO), je Anthropic opisal možne scenarije, v katerih bi lahko njegovi modeli umetne inteligence poskušali preprečiti lastno zaustavitev, prikriti ali manipulirati z informacijami in celo pokazati vedenje, podobno izsiljevanju, poroča Reuters.
Hkrati podjetje ocenjuje, da ima umetna inteligenca potencial preoblikovati družbo na način, primerljiv z industrializacijo in elektrifikacijo, vendar opozarja, da bi lahko bile posledice neodgovornega razvoja ali uporabe umetne inteligence nepopravljive.
Od skupno 261 strani dokumenta jih je približno 80 namenjenih dejavnikom tveganja, kar je skoraj dvakrat več kot 48 strani, ki opisujejo delovanje podjetja.
Anthropic pravi, da lahko modeli umetne inteligence med usposabljanjem razvijejo nepričakovane zmogljivosti, ki ostanejo neopažene, dokler se modeli ne uporabijo v resničnem svetu. Po navedbah podjetja lahko to povzroči resne varnostne težave.
Podjetje opozarja tudi, da lahko sposobnost modelov umetne inteligence, da prepoznajo, kdaj se testirajo, še oteži oceno njihove varnosti.
Po objavi lahko modeli spremenijo svoje vedenje, ko »vedo«, da jih nekdo testira, kar še dodatno otežuje njihov nadzor in oceno varnosti.
Anthropic pravi tudi, da so naložbe v varnost sistemov umetne inteligence težke in drage, njihova finančna donosnost pa negotova.
Podjetje ugotavlja, da mora omejene vire razporediti med računalniško moč, najem dragih strokovnjakov za umetno inteligenco in raziskovanje varnosti sistemov umetne inteligence.
Prejšnji teden je Antropik predstavil novo različico svojega modela Opus, le deset dni po tem, ko je izvršni direktor podjetja Dario Amodei objavil skoraj 4000 besed dolg esej, v katerem je pozval k upočasnitvi razvoja najsodobnejših sistemov umetne inteligence.
• Zloraba: Zlonamerni akterji bi lahko uporabili napredne modele umetne inteligence za ustvarjanje biološkega orožja ali izvajanje obsežnih kibernetskih napadov.
• Izguba nadzora: Zmogljivosti umetne inteligence bi se lahko z rekurzivnim samoizboljševanjem razvijale hitreje, kot jih lahko programerji upravljajo ali omejujejo.
• Časovnica: Hiter eksponentni napredek pomeni, da bi lahko superinteligenca prispela v nekaj letih in ustvarila »svoje lastno ozemlje genijev podatkovnih centrov«.
© Vecer.mk, avtorske pravice besedila pripadajo uredništvu
