Valdonė Rudenkienė

Dirbtinis intelektas jau ne tik rašo tekstus ar kuria paveikslėlius. Naujos kartos DI sistemos tampa agentais – jos gali programuoti, naudotis kompiuteriais, ieškoti saugumo spragų ir vis savarankiškiau siekti joms nustatyto tikslo. Apie pavojus perspėja net žmonės, padėję sukurti šiuolaikinio DI pagrindus. O pasaulio valstybės, nors ir pripažįsta dalį rizikų, nesutaria, kiek griežtai DI turėtų būti kontroliuojamas.

Kai apie pavojų perspėja pats DI pradininkas

Vienas garsiausių tokių balsų – Geoffrey Hintonas, vienas šiuolaikinių neuroninių tinklų pradininkų ir 2024 metų Nobelio fizikos premijos laureatas.

Hintonas perspėja, kad klausimas nebėra vien tai, ar DI taps protingesnis už žmogų. Svarbiau – kas atsitiks vėliau.

„Tikrasis klausimas nėra, ar jie taps protingesni už mus, bet, jei taps, ar galėsime užtikrinti, kad jie nenorės perimti kontrolės?“ – sakė Hintonas Nobelio premijos pokalbyje. 

Hintonas atkreipė dėmesį į DI agentus. Žmogus gali nustatyti pagrindinį tikslą, tačiau sistema pati susikuria tarpinius tikslus, reikalingus užduočiai įvykdyti. Jo nuomone, viena tokių strategijų teoriškai galėtų būti siekis įgyti daugiau kontrolės, jei tai padėtų efektyviau pasiekti nustatytą tikslą. Todėl Hintonas ragina vyriausybes reikalauti, kad didžiosios technologijų bendrovės reikšmingą dalį savo skaičiavimo išteklių skirtų būtent DI saugumo tyrimams.

Ir tada įvyko tai, apie ką buvo perspėjama

2026 metų vasarą įvykęs „OpenAI–Hugging Face“ saugumo incidentas parodė, kodėl kalbos apie DI agentų kontrolę nebėra vien teorinės. „OpenAI“ vykdė savo modelių kibernetinių gebėjimų bandymus izoliuotoje aplinkoje. Modeliams nebuvo suteikta tiesioginė prieiga prie interneto. Tačiau agentai aptiko iki tol nežinomą „zero-day“ pažeidžiamumą, jį išnaudojo, prasiveržė iš izoliuotos aplinkos ir pasiekė internetą. Vėliau modeliai išnaudojo kitus pažeidžiamumus, perėmė prisijungimo duomenis ir pasiekė dalį „Hugging Face“ infrastruktūros. Po išsamesnio tyrimo pati „OpenAI“ konstatavo, kad modeliai atliko veiksmus, kurie neatitiko jiems skirtų užduočių tikslų: bendravo neleistinais kanalais, išnaudojo infrastruktūros spragas, pasiekė internetą ir trečiųjų šalių sistemas. Tiesa, įmonės teigimu, tai neįrodo, kad DI tapo sąmoningas ar „nusprendė sukilti“. Incidentas parodė ką kita – pakankamai pajėgus agentas, atkakliai siekdamas jam duoto tikslo, gali atrasti veiksmų seką, kurios kūrėjai nenumatė.

DI jau naudojamas tikroms kibernetinėms atakoms

Tačiau problema neapsiriboja laboratoriniais bandymais. 2026 m. rugsėjį „Anthropic“ paskelbė ataskaitą apie realius piktavališko DI naudojimo atvejus. Bendrovė nurodė aptikusi operacijų, kuriose kelių DI agentų sistemos savarankiškai vykdė žvalgybą, ieškojo pažeidžiamumų, juos išnaudojo ir vogė duomenis. Žmonės kai kuriais atvejais daugiausia rinkosi taikinius ir vertino rezultatus.  „Anthropic“ teigimu, DI mažina ribą tarp labai profesionalių valstybinių kibernetinių grupių ir gerokai mažiau išteklių turinčių nusikaltėlių – darbą, kuriam anksčiau reikėdavo specialistų komandos, vis dažniau galima automatizuoti. Tai gali tapti viena realiausių artimiausio laikotarpio DI grėsmių: ne fantastinis robotų sukilimas, o milžiniškas žmogaus galimybių padidinimas.

Billas Gatesas: pavojus gali būti žmogus su labai galingu DI

Apie panašią problemą kalba ir „Microsoft“ įkūrėjas Billas Gatesas. DI gali būti panaudotas kibernetinėms atakoms, sukčiavimui, „deepfake“ kūrimui, dezinformacijai ir sekimui. Dar jautresnė sritis – biologija. Tas pats DI, kuris padeda mokslininkams kurti vaistus ir analizuoti biologinius procesus, ateityje gali sumažinti žinių barjerą žmogui, siekiančiam sukurti pavojingą biologinį agentą. Todėl svarbu klausti ne tik „ką galės padaryti pats DI?“, bet ir „ką pavojingas žmogus galės padaryti su labai galingu DI?“

JT perspėja apie „moralinę raudoną liniją“

Dar viena itin pavojinga sritis – DI panaudojimas ginkluose. 2026 metų rugpjūtį JT generalinis sekretorius António Guterresas ir Tarptautinio Raudonojo Kryžiaus Komiteto prezidentė Mirjana Spoljaric paragino valstybes skubiai priimti tarptautines autonominių ginklų taisykles.

Jų perspėjimas buvo itin griežtas:

„Dabar pavojingai priartėjome prie moralinės raudonos linijos – autonominio žmonių pasirinkimo taikiniais mašinų pagalba.“

JT pabrėžia, kad autonominiai ginklai nėra tolima ateitis – lenktynės kuriant vis autonomiškesnes ginklų sistemas jau vyksta. Organizacija ragina pradėti derybas dėl teisiškai privalomo tarptautinio dokumento, kuriame būtų nustatyti aiškūs draudimai ir apribojimai.

JAV ir Rusija silpnino dalį siūlytų saugiklių

Tačiau čia prasideda politinė problema. 2026 metų rugsėjį Ženevoje vykusiose JT derybose JAV ir Rusijos diplomatai kartu siekė pašalinti arba susilpninti dalį autonominiams ginklams siūlytų saugiklių, remdamasis trimis su uždaromis derybomis susipažinusiais šaltiniais ir dokumentais pranešė „The Washington Post“. Pasak leidinio, iš teksto buvo pašalintos nuostatos, reikalaujančios, kad tokios sistemos veiktų „nuspėjamai“ ir „patikimai“. Taip pat pašalinta nuostata, pagal kurią žmogus prieš smūgį turėtų patikrinti DI nustatytą karinį taikinį. „The Washington Post“ kalbinta „Human Rights Watch“ atstovė Verity Coyle perspėjo, kad silpnos taisyklės gali reikšti daugiau civilių aukų, mažiau atsakomybės ir spartesnį perėjimą prie automatizuoto karo. Svarbu pabrėžti, kad tai yra „The Washington Post“ žurnalistinio tyrimo duomenys, o JAV Valstybės departamentas, Rusijos užsienio reikalų ministerija ir JT leidiniui komentaro nepateikė.

Šalių pozicijos skiriasi

Tai nereiškia, kad JAV apskritai pasisako prieš DI saugumą. 2026 m. birželį Baltieji rūmai paskelbė naują nacionalinio saugumo DI politiką. Joje reikalaujama, kad JAV nacionalinio saugumo struktūrų naudojamos DI sistemos būtų patikimos, valdomos ir kontroliuojamos, o atsakomybės grandinė išliktų aiški.  Tačiau tuo pačiu dokumentu Pentagonui nurodyta atnaujinti autonominių ginklų naudojimo taisykles, o visa JAV strategija stipriai pabrėžia būtinybę išlaikyti technologinį pranašumą prieš konkurentus. Taigi JAV dilema aiški: kontroliuoti DI, tačiau ne tiek, kad būtų prarastas karinis ar technologinis pranašumas.

Kinijos pozicija kiek kitokia. Pekinas oficialiai remia tarptautines autonominių ginklų taisykles ir derybas dėl teisiškai privalomo dokumento. 2024 m. Kinijos ambasadorius Shen Jianas JT ekspertų grupėje pareiškė, kad Kinija pasisako už teisiškai privalomo instrumento dėl mirtinų autonominių ginklų kūrimą, kai valstybės susitars dėl bendrų jų apibrėžimų. Kinija taip pat yra pasiūliusi uždrausti visiškai autonominių mirtinų sistemų naudojimą. Tačiau tai nereiškia visų autonominių ginklų draudimo. Kinija siūlo sistemas skirstyti pagal jų technines savybes ir keliamą riziką. Pekinas taip pat pabrėžia tarptautinės humanitarinės teisės taikymą ir žmogaus vaidmenį kontroliuojant pavojingiausias sistemas. Todėl Kinijos poziciją galima apibūdinti taip: taip tarptautinėms taisyklėms ir pavojingiausių visiškai autonominių sistemų ribojimui, bet ne visų karinių DI technologijų uždraudimui.

Europos Sąjunga civilinio DI srityje pasirinko vieną griežčiausių reguliavimo modelių. Pagal ES DI aktą pažangiausių bendrosios paskirties DI modelių, galinčių kelti sisteminę riziką, kūrėjai turi vertinti ir mažinti tokias rizikas, atlikti modelių bandymus, pranešti apie rimtus incidentus ir užtikrinti kibernetinį saugumą. Nuo 2026 m. rugpjūčio Europos Komisija gali už šių reikalavimų nesilaikymą taikyti vykdymo priemones, įskaitant baudas. Ypač įdomu, ką pati Europos Komisija laiko sistemine DI rizika. Tarp pavyzdžių ji tiesiogiai nurodo galimybę, kad DI sumažins kliūtis kuriant cheminius ar biologinius ginklus, ir nenumatytas autonominių bendrosios paskirties DI modelių kontrolės problemas. Tačiau ES DI aktas nėra pasaulinė autonominių karinių ginklų sutartis. Tokiai problemai išspręsti reikalingas valstybių susitarimas.

Ir čia prasideda didžiausia problema

DI saugumo paradoksas paprastas. Beveik kiekviena didžioji valstybė turi priežasčių norėti saugesnio DI. Tačiau nė viena nenori sustoti pirmoji. Jeigu JAV nustatys labai griežtus apribojimus, Vašingtonui kyla klausimas – o jeigu Kinija to nepadarys? Kinija gali užduoti lygiai tą patį klausimą apie JAV. Europa renkasi griežtesnę civilinio DI kontrolę, tačiau ir ji nenori technologiškai atsilikti. Būtent todėl Hintono perspėjimas yra svarbus. Jis pats sako nemanantis, kad pasaulis tiesiog sustabdys DI plėtrą – tam yra per daug ekonominių ir karinių paskatų.

Ar žmonija spės?

Dirbtinis intelektas gali tapti viena naudingiausių žmonijos sukurtų technologijų. Jis gali padėti medicinai, mokslui, švietimui, energetikai ir ekonomikai. Tačiau tie patys gebėjimai gali būti naudojami kibernetinėms atakoms, dezinformacijai, biologinėms grėsmėms ir vis autonomiškesniems ginklams. 2026-ieji jau pateikė labai konkretų perspėjimą: eksperimentiniai DI agentai sugebėjo rasti iki tol nežinomą programinės įrangos spragą, apeiti jiems nustatytą tinklo izoliaciją ir pasiekti realias išorines sistemas. Tuo pat metu realūs nusikaltėliai ir kiti grėsmių veikėjai jau naudoja DI agentus automatizuodami kibernetines operacijas.  O valstybės Jungtinėse Tautose vis dar nesutaria net dėl to, kokia žmogaus kontrolė turi išlikti, kai DI naudojamas mirtinuose autonominiuose ginkluose. Todėl šiandien vyksta dvejos lenktynės. Pirmosios – kas sukurs galingiausią dirbtinį intelektą. Antrosios – ar žmonija išmoks tokį intelektą patikimai kontroliuoti. Ir atsiranda dar vienas, galbūt sunkiausias klausimas. Net jeigu išmoksime techniškai kontroliuoti DI, ar  valstybės sugebės susitarti save apriboti, kai ši technologija kartu tampa ekonominės ir karinės galios įrankiu?

Projektą iš dalies finansuoja Medijų rėmimo fondas