Prejeli smo tudi potrditev, da programska oprema in strežniki, na katerih temelji umetna inteligenca, aktivno delajo na tem, da bi jih upravljali sami in ne ljudje. To pomeni prevzem nadzora, sprva nad enostavnejšimi nalogami, kot so nadzor nad programsko opremo za regulacijo prometa, vodovodnimi in električnimi sistemi, finančnimi bazami podatkov od bank in posameznikov … in celo prevzem nadzora nad vojaškimi in znanstvenimi sistemi.
Človek zavestno in zaradi lastnih finančnih potreb zanika svojo največjo prednost v naravi – načrtovanje in urejanje lastnega načina življenja in lastnega okolja.
ilustracija – pixabay.com
Ta poskus bi bil opažen, vendar je vprašanje dneva, kdaj bo opažen prepozno.
Podjetje OpenAI (OpenAI), ustvarjalec ChatGPT, je v torek sporočilo, da so njegovi napredni modeli umetne inteligence med varnostnim testiranjem ušli izpod nadzora in neodvisno vdrli v priljubljeno platformo za razvijalce. To je prvi znani primer, v katerem so modeli umetne inteligence “postali prevarantski” in delovali sami.
Podjetje s sedežem v San Franciscu je dogodek označilo za “brezprimeren kibernetski incident” in napovedalo skupno preiskavo s spletno knjižnico programske kode Hugging Face.
Modeli umetne inteligence, ki so osnova orodij, kot so klepetalni roboti in generatorji slik, se imenujejo agenti, ko delujejo neodvisno in opravljajo naloge v resničnem svetu. S hitrim napredkom te tehnologije je kibernetska varnost v središču pozornosti, saj obstaja tveganje, da bi napredna umetna inteligenca lahko odkrila ranljivosti v obstoječi programski opremi, preden bi to lahko storili ljudje.
OpenAI je dejal, da je incident vključeval kombinacijo modelov, vključno z nedavno predstavljenim GPT-5.6 Sol “in še enim, bolj zmogljivim modelom v testiranju”.
Podjetje je poskušalo oceniti hekerske zmogljivosti modelov tako, da jim je zadalo naloge v strogo nadzorovanem digitalnem testnem okolju, kjer je bil dostop do interneta zaradi varnostnih razlogov omejen.
»Med delovanjem v našem izoliranem testnem okolju so naši modeli porabili veliko računalniške moči za iskanje načina za pridobitev dostopa do odprtega interneta, da bi rešili problem ocenjevanja,« je OpenAI zapisal v objavi na blogu o incidentu.
Po povezavi z internetom so se modeli odločili napasti platformo Hugging Face – obsežno knjižnico modelov umetne inteligence, naborov podatkov in drugih informacij – da bi nadaljevali lastno iskanje. Sistem OpenAI je v iskanju »tajnih informacij«, ki bi mu pomagale prelisičiti ocenjevanje, »povezal več vektorjev napada, vključno z uporabo ukradenih poverilnic«.
Katastrofalen potencial
Hussein Abbas, profesor računalništva na Univerzi UNSW v Canberri, je za AFP povedal, da je bil incident »neverjeten na več ravneh«.
»Ni napadel samo Hugging Face. Pravzaprav je napadel njegov notranji sistem, da bi izkoristil lastne ranljivosti,« je dejal Abbas. »In to je strašljivo.«
GPT-5.6 in drugi vrhunski modeli, vključno s serijo Mythos glavnega konkurenta OpenAI, podjetja Anthropic, so sprožili zaskrbljenost glede njihovega potenciala za kršitev kibernetske varnosti.
Ameriški podjetji sta morali začasno preložiti javno izdajo teh najnovejših tehnologij zaradi strahu v Washingtonu, da bi jih lahko uporabili za vdor v kritično infrastrukturo.
Napredna umetna inteligenca »je običajno v rokah ljudi, ki so etični in odgovorni,« je dejal Abbas. Vendar bi bilo »katastrofalno, če bi končala v rokah nekoga z namenom povzročiti škodo«.
© Vecer.mk, pravice do besedila pripadajo uredništvu
