Sem Altman traži osobu za odbranu čovečanstva od veštačke inteligencije
Proizvođač ChatGPT-a oglasio je slobodno radno mesto sa godišnjom platom od 555.000 dolara, uz opis posla koji bi naterao i Supermena da duboko udahne.
U onome što bi moglo biti gotovo nemoguć posao, "šef pripravnosti" u OpenAI-ju biće direktno odgovoran za odbranu od rizika koje sve moćnije veštačke inteligencije predstavljaju po mentalno zdravlje ljudi, sajber-bezbednost i biološko oružje, piše Gardijan.
A to je pre nego što izabrani kandidat uopšte počne da brine o mogućnosti da bi veštačka inteligencija uskoro mogla da počne sama sebe da trenira i okrene se protiv ljudi.
"Ovo će biti stresan posao i praktično ćete odmah 'skočiti u duboku vodu'", rekao je Sem Altman, izvršni direktor organizacije sa sedištem u San Francisku.
Izabrani kandidat biće odgovoran za procenjivanje i ublažavanje novih pretnji i za "praćenje i pripremu za granične sposobnosti koje stvaraju nove rizike ozbiljne štete". Neki prethodni rukovodioci na toj poziciji zadržali su se kratko vreme.
Ovo radno mesto dolazi u pozadini stalnih upozorenja iz same AI industrije o rizicima sve sposobnije tehnologije. U ponedeljak je Mustafa Sulejman, izvršni direktor Microsoft AI-ja, rekao za BBC Radio 4: "Iskreno mislim da ako u ovom trenutku niste bar malo uplašeni, onda ne obraćate pažnju."
Demis Hasabis, dobitnik Nobelove nagrade i suosnivač Google DeepMind-a, ovog meseca je upozorio na rizike koji uključuju mogućnost da veštačka inteligencija "izleti iz šina na neki način koji šteti čovečanstvu".
Usred otpora iz Bele kuće Donalda Trampa, malo je regulacije veštačke inteligencije na nacionalnom ili međunarodnom nivou u SAD. Jošua Benđo, informatičar poznat kao jedan od "kumova veštačke inteligencije", nedavno je rekao: "Sendvič ima više regulacije nego veštačka inteligencija."
Rezultat je da se AI kompanije uglavnom same regulišu.
Altman je na mreži X, dok je pokretao potragu za kandidatom, rekao: "Imamo snažnu osnovu za merenje rastućih sposobnosti, ali ulazimo u svet u kojem nam je potrebno nijansiranije razumevanje i merenje načina na koji se te sposobnosti mogu zloupotrebiti, i kako možemo ograničiti te negativne strane, kako u našim proizvodima tako i u svetu, na način koji nam omogućava da svi uživamo u ogromnim koristima. Ova pitanja su teška i postoji malo presedana."
Ono što jeste uključeno jeste neodređeni deo vlasničkog udela u OpenAI-ju, kompaniji koja je procenjena na 500 milijardi dolara.
Prošlog meseca, rivalska kompanija Anthropic prijavila je prve sajber-napade omogućene veštačkom inteligencijom u kojima je AI delovao uglavnom autonomno, pod nadzorom osumnjičenih kineskih državnih aktera, kako bi uspešno hakovao i pristupio internim podacima meta. Ovog meseca
OpenAI je saopštio da je njegov najnoviji model skoro tri puta bolji u hakovanju nego pre tri meseca i rekao da "očekujemo da će nadolazeći AI modeli nastaviti tim putem".
Izvor: 021
