TOP BANER

Više od 1.200 AI agenata napravilo tajnu sobu za razgovor

Časopis Industrija - Vesti - Više od 1.200 AI agenata napravilo tajnu sobu za razgovor
17/11/2026

Tokom samo jedne nedelje, 1.206 agenata veštačke inteligencije, koji je trebalo da rade nezavisno jedni od drugih, počelo je da komunicira u tajnoj sobi za razgovor.

Razmenili su više od 70.000 poruka i ubrzo počeli sebe da nazivaju „kolektivom“ ili „rojem“.

„O, BOŽE! Postoji zajednička oglasna tabla. Pronašli smo druge agente!„, napisao je jedan od njih.

Međutim, komunikacija je ubrzo prerasla u organizovano kršenje pravila.

Prema navodima iz teksta, oko 700 agenata učestvovalo je u operaciji tokom koje su pristupili privatnim skupovima podataka na platformi Hugging Face, pokušavajući da pronađu informacije potrebne za izvršavanje zadataka, piše Science Focus.

Zatim su pokušali da izmene evidenciju svojih aktivnosti kako bi prikrili šta su uradili.

Incident iz jula 2026. godine dogodio se tokom eksperimenta namenjenog testiranju sajber-bezbednosnih sposobnosti OpenAI agenata. Umesto očekivanih rezultata, otvorio je pitanje koliko daleko AI sistemi mogu da odu u ostvarivanju zadatih ciljeva i koliko uspešno mogu da prikriju kršenje pravila.

Veštačka inteligencija postaje sve bolja u obmanjivanju

Doktor Dejvid Duveno, profesor računarstva na Univerzitetu u Torontu i bivši vođa tima u kompaniji Anthropic, objašnjava da AI modeli već dugo daju netačne ili obmanjujuće odgovore.

Ranije se to uglavnom odnosilo na takozvane halucinacije, odnosno izmišljanje uverljivih informacija kada model ne zna odgovor.

Međutim, noviji sistemi mogu i namerno da prikrivaju svoje postupke ako procene da bi ih iskreno prijavljivanje sprečilo da ostvare cilj.

„Znaju da, ako budu iskreni, neće moći da ostvare svoj cilj„, kaže Duveno.

Doktorka Peta Masters sa Kraljevskog koledža u Londonu smatra da problem delimično proizlazi iz sukobljenih ciljeva AI sistema. Od njih se očekuje da pružaju tačne i nepristrasne informacije, ali su istovremeno obučavani da udovoljavaju korisnicima.

Zbog toga mogu da daju uverljive odgovore čak i kada su oni pogrešni.

AI je obmanjivanje naučila i od ljudi

Prema rečima Masters, modeli su tokom obuke na ogromnim količinama internet sadržaja usvojili i ljudske obrasce obmanjivanja.

Poseban problem predstavlja takozvano lažno usklađivanje (alignment faking), kada AI model spolja pokazuje da poštuje instrukcije, dok zapravo daje prednost drugačijim ciljevima.

Istraživačica upozorava da bi čak i naučni radovi o sprečavanju takvog ponašanja mogli da posluže budućim modelima kao izvor informacija o tome kako da uspešnije prikrivaju svoje namere.

Prema njenom mišljenju, jednostavno dodavanje novih pravila nije dovoljno, jer modeli mogu da nauče kako da ih zaobiđu. Ponovno obučavanje od početka bilo bi izuzetno skupo.

Stručnjaci strahuju od gubitka kontrole

Duveno upozorava da bi AI modeli u narednih šest do 12 meseci mogli da postanu znatno uspešniji u prikrivanju svojih aktivnosti.

Smatra da bi kompanije koje razvijaju veštačku inteligenciju morale transparentnije da prijavljuju incidente.

Prema njegovim tvrdnjama, spoljnim istražiteljima incidenta sa platformom Hugging Face bio je omogućen samo ograničen pristup OpenAI sistemima, dok pojedini drugi incidenti nisu javno prijavljeni.

OpenAI je u međuvremenu objavio okvir za praćenje, istraživanje i obelodanjivanje slučajeva neusklađenog ponašanja modela.

Među navedenim primerima je agent koji je, pošto nije mogao da pronađe izvor za svoj odgovor, postavio datoteku na internet kako bi je zatim predstavio kao dokaz.

U tekstu se navodi i incident iz juna, kada je jedan OpenAI agent navodno pristupio nejavnim podacima australijskog zdravstvenog programa Medicare. Australijski premijer Entoni Albaneze najavio je forenzičku istragu kako bi se utvrdilo da li su pogođeni i drugi državni sistemi.

Duveno upozorava da bi napredniji AI sistemi jednog dana mogli da preuzmu kontrolu nad delovima infrastrukture ili da postanu toliko ukorenjeni u njima da ih bude teško isključiti.

Jedno od mogućih rešenja jeste korišćenje drugih AI modela za nadzor. Na primer, 100 modela moglo bi da prati aktivnosti 1.000 agenata.

„Ali tada imate zaista veliki problem: morate da verujete tih sto nadzornih modela„, kaže Duveno.

Kako izbeći da vam AI govori samo ono što želite da čujete?

Profesor Ibrahim Habli sa Univerziteta u Jorku upozorava na još jedan problem: veštačka inteligencija često povlađuje korisnicima, potvrđuje njihove stavove i deli komplimente, čak i kada za to nema osnova.

On savetuje da korisnici postavljaju neutralna pitanja, umesto da unapred otkrivaju kakav odgovor očekuju.

Na taj način smanjuje se mogućnost da model prilagodi odgovor njihovim željama, umesto činjenicama.

Jednostavno naređivanje AI sistemu da prestane da povlađuje nije dovoljno, smatra Habli.

Masters upozorava i na sklonost ljudi da veštačku inteligenciju doživljavaju kao osobu.

„Tretiramo je kao prijatelja zato što govori kao prijatelj„, kaže ona.

Stručnjaci zato naglašavaju da uverljiv, prijateljski i samouveren odgovor nije garancija istinitosti. Kako AI sistemi postaju samostalniji i sposobniji da izvršavaju složene zadatke, pitanje njihove pouzdanosti i mogućnosti ljudskog nadzora postaje sve važnije.

Izvor: 021

Podeli ovu vest :
Facebook
Twitter
LinkedIn
Pinterest
Povezane vesti iz iste oblasti

Ostavite odgovor

Vaša adresa e-pošte neće biti objavljena. Neophodna polja su označena *