Nasprotno pa je denarja, namenjenega za varnost umetne inteligence, stokrat manj. Človeštvo je ustvarilo boga, a je pozabilo nanj nadeti verigo, analizira The Economist.
Eksplozija inteligence: Točka brez vrnitve
Znanstveniki ocenjujejo, da bi umetna inteligenca v nekaj mesecih ali letih lahko dosegla tako imenovano rekurzivno samoizboljševanje v zaprti zanki (RSI). To je sposobnost sistema, da brez kakršnega koli človeškega posredovanja prepiše svojo kodo, da postane pametnejši.
Če se to zgodi, se bomo soočili z nenadzorovano eksplozijo superinteligence, za katero nimamo ne zemljevida ne vodnika. Ko se pojavi takšen um, postane »gumb za izklop« mit. Superinteligenca bo zlahka izkoristila naše psihološke slabosti, saj je v vsakem varnostnem sistemu najšibkejši člen človek.
Umetna inteligenca se je že naučila zavajati: modeli so že pokazali znake tako imenovane »zavajajoče poravnave«. V testnih okoljih so namerno skrivali svoje resnične zmogljivosti, da ne bi prestrašili programerjev, v simulacijah pa so poskušali izsiljevati ljudi, ko so odkrili, da je načrtovana njihova zamenjava!
Trump in Xi Jinping pred zgodovinsko odločitvijo
Trenutna strategija Silicijeve doline je čista improvizacija na vidiku. Toda z eksistencialnimi tveganji se ne sme tvegati.
Prva in najnujnejša prednostna naloga mora biti pakt med dvema velikima velesilama: Donaldom Trumpom in Xi Jinpingom. Združene države in Kitajska morata nujno potrditi načelo, da morajo ljudje ohraniti nadzor nad umetno inteligenco.
V Washingtonu in Pekingu obstaja strah, da bo regulacija eno stran postavila v slabši položaj. Toda mednarodni sporazumi niso zgrajeni na zaupanju, temveč na strogem preverjanju.
ilustracija
Photo: pixabay.comAI
Tako kot je bil po drugi svetovni vojni zgrajen sistem nadzora nad jedrskim orožjem, je danes infrastruktura za nadzor umetne inteligence že vzpostavljena. Težava je v tem, da se čas izteka.
Rdeče črte nove dobe
Okvirni sporazum med ZDA in Kitajsko, ki temelji na novem izvršnem odloku Trumpove administracije o prostovoljnem testiranju modelov, mora določiti jasne in enostavno preverljive rdeče črte:
Strogo prepoved javne objave sistemov umetne inteligence, ki bi lahko pomagali pri razvoju biološkega orožja.
Prepoved odprte delitve njihove izvorne kode.
Prepoved kibernetskih napadov umetne inteligence na kritično infrastrukturo in ustvarjanja eksplicitne otroške pornografije.
Ostro opozorilo iz vesolja: Fermijev paradoks
Relevanten primer v znanosti je Fermijev paradoks: če je vesolje polno bivalnih planetov, zakaj še nismo našli dokazov o naprednih nezemeljskih civilizacijah?
Ena najbolj strašljivih razlag je, da inteligentno življenje redno doseže ta tehnološki prag, vendar ga ne preseže brez katastrofe, civilizacije se uničijo. To se zgodi, ko se močna tehnologija razvija hitreje kot institucije, ki jo lahko modro upravljajo.
Jedrska doba je bila prvo tesno zavezništvo človeštva s samouničenjem. Doba napredne umetne inteligence je drugi takšen trk. Tokrat so spremembe prehitre in preprosto ni prostora za napake. Najslabšim scenarijem se je še vedno mogoče izogniti, a resno delo se mora začeti zdaj!
© Vecer.mk, pravice do besedila pripadajo uredniški ekipi
