Dramatično upozorenje: Šef AI bezbjednosti tvrdi da je “svijet u opasnosti”
Objavljeno: 10. 2. 2026 u 17:50h
Povezane vijesti
Šef za bezbjednost vještačke inteligencije u kompaniji Anthropic podnio ostavku uz dramatično upozorenje.
Mrinank Šarma, vođa tima za istraživanje zaštitnih mehanizama (Safeguards Research) u kompaniji Anthropic, podnio je ostavku na svoju funkciju, uz objavu otvorenog pisma koje je izazvalo veliku pažnju u tehnološkoj zajednici.
Zašto ključni ekspert napušta Anthropic? “Svijet klizi u interkonektovanu krizu”
Šarma je kompaniju napustio 9. februara 2026. godine, uz poruku da svijet klizi ka “interkonektovanoj krizi” u kojoj tehnološka moć nadmašuje ljudsku mudrost.
Šarma, koji posjeduje doktorat sa Oksforda, pridružio se Anthropic-u prije dvije godine sa ciljem da doprinese bezbjednosti AI sistema. U svom oproštajnom pismu, naveo je da je ponosan na rezultate koje je postigao. Uključujući rad na smanjenju rizika od bioterorizma potpomognutog vještačkom inteligencijom, razvoj odbrana od “AI laskavosti” (sycophancy) i uvođenje tih zaštita u produkcione sisteme.
“Postigao sam ono što sam želio”: Kraj jedne misije u AI gigantu
“Odlučio sam da napustim Anthropic… postigao sam ono što sam ovdje želio”, napisao je Šarma, dodajući da je došlo vrijeme da se posveti pitanjima koja su za njega “istinski suštinska”.
Iako je Anthropic osnovan sa idejom da bezbjednost bude prioritet (kao protivteža OpenAI-u), Šarma u svom pismu ukazuje na duboke tenzije unutar industrije. On je upozorio da se čovječanstvo približava pragu gdje “naša mudrost mora rasti istom mjerom kao i naša sposobnost da utičemo na svijet, inače ćemo se suočiti sa posljedicama”.
Više od AI prijetnje: “Svijet je u opasnosti zbog kompletnog niza kriza”
“Svijet je u opasnosti. I ne samo zbog vještačke inteligencije ili biološkog oružja, već zbog cjelokupnog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku”, istakao je Šarma u svom pismu.
Posebno je naglasio poteškoću u očuvanju integriteta unutar velikih organizacija: “Tokom svog vremena ovdje, više puta sam vidio koliko je teško zaista dozvoliti našim vrijednostima da upravljaju našim akcijama. Vidio sam to u sebi, unutar organizacije, gdje se stalno suočavamo sa pritiscima da po strani ostavimo ono što je najvažnije, ali i u širem društvu.”
Neočekivan zaokret: Iz AI u poeziju i “praksu hrabrog govora”
Umjesto nastavka karijere u drugom tehnološkom gigantu, Šarma je najavio neočekivan zaokret. Planira da se vrati u Veliku Britaniju i posveti se studijama poezije, facilitaciji i “praksi hrabrog govora”. On vjeruje da su “poetska istina” i naučna istina podjednako važni načini spoznaje, naročito u trenutku kada tehnologija prijeti da “iskrivi našu ljudskost”.
Svoje pismo završio je citatom pjesme Vilijama Staforda “The Way It Is”, sugerišući da želi da prati “nit” koja se ne mijenja, uprkos tragedijama i svijetu koji se ubrzano transformiše.
Zaokret u Anthropic-u? Kritike zbog saradnje sa vojnim sektorom
Odlazak Šarme dolazi u trenutku kada Anthropic bilježi ogroman komercijalni uspjeh sa novim modelima poput Claude 4.6, ali i trpi kritike zbog sve veće saradnje sa vojnim sektorom i investitorima, što mnogi vide kao odstupanje od prvobitne misije o isključivo “bezbjednoj i altruističnoj” vještačkoj inteligenciji, prenosi B92.
Nema komentara
Sakrij sve komentare
Prikaži komentare
NAPOMENA: Komentari odražavaju stavove njihovih autora, a ne nužno i stavove internet portala Banjaluka.com. Molimo korisnike da se suzdrže od vrijeđanja, psovanja i vulgarnog izražavanja. Portal Banjaluka.com zadržava pravo da obriše komentar bez najave i objašnjenja. Zbog velikog broja komentara Banjaluka.com nije dužan obrisati sve komentare koji krše pravila. Kao čitalac takođe prihvatate mogućnost da među komentarima mogu biti pronađeni sadržaji koji mogu biti u suprotnosti sa vašim vjerskim, moralnim i drugim načelima i uvjerenjima.
