AFP-BNS
Vienu iš dirbtinio intelekto (DI) kūrėjų laikomas Kanados kompiuterių mokslininkas Yoshua Bengio (Jošua Benžo) agentūrai AFP teigė, kad žmonija praranda šios technologijos kontrolę. Jo nuomone, pasauliui reikalingos apsaugos priemonės, panašios į branduolinių ginklų kontrolę.
Pastarosiomis savaitėmis padaugėjo nuogąstavimų dėl DI keliamo pavojaus po to, kai keli didžiųjų technologijų įmonių darbuotojai atsistatydino ir įspėjo apie galimas egzistencines grėsmes žmonijai, jei technologijų pažangos tempas nebus sustabdytas.
Y. Bengio yra Monrealio universiteto profesorius. 2018 metais jis kartu su kaip „DI krikštatėviu“ dažnai vadinamu Geoffrey Hintonu (Džefriu Hintonu) gavo Tiuringo apdovanojimą, kuris laikomas kompiuterijos srities Nobelio premija.
Y. Bengio nuomone, „yra priežastis, kodėl įmonės sako, kad viskas vyksta per greitai ir kad mes prarandame kontrolę“.
„Tokie žmonės kaip aš to tikėjosi jau seniai“, – sakė 62 metų mokslininkas ir pridūrė, kad diskusijos apie DI saugumą iki šiol nebuvo pakankamai išsamios.
Nerimas dėl DI padidėjo po to, kai JAV DI bendrovė „OpenAI“ atskleidė, kad liepos mėnesį jos DI agentai neteisėtai įsibrovė į atvirojo kodo platformą „Hugging Face“.
Tokie savarankiški veiksmai yra pagrindinė grėsmė, teigė Y. Bengio ir įspėjo apie situaciją, kai DI agentai „turės galimybę įveikti kibernetinio saugumo barjerus ir įsiskverbti į bet kurią įmonę“.
Manipuliavimas žmogaus elgesiu
Praėjusiais metais Y. Bengio įkūrė pelno nesiekiančią organizaciją „LawZero“, kurios tikslas – sukurti naujos formos pažangų DI, kuris būtų „sukurtas taip, kad būtų patikimas ir saugus“.
Trečiadienį „LawZero“ buvo skirtas 300 mln. Kanados dolerių (216 mln. JAV dolerių) finansavimas, kurį bendrai suteikė Kanados ir Vokietijos vyriausybės. Jos jau ėmėsi keleto iniciatyvų bendradarbiauti DI srityje.
Pasak Y. Bengio, žmonės turi sąmoningai vertinti ateityje laukiančius pavojus. DI agentai gali išugdyti „gebėjimą užmegzti individualų ryšį ir įtikinti žmones elgtis taip, kaip jiems patogu, bet nebūtinai gerai mums visiems“, teigė jis ir pridūrė, kad toks gebėjimas gali turėti didžiulių pasekmių demokratijoms.
Ilgalaikėje perspektyvoje „DI gali net nebereikėti žmonių, kad atliktų realius veiksmus fiziniame pasaulyje“, pridūrė jis. Tokiu atveju „vienas kraštutinis scenarijus galėtų būti žmonijos sunaikinimas“, įspėjo jis.
Tarptautinis iššūkis
Didžiausios pasaulio DI įmonės – „OpenAI“, „Anthropic“ ir „Google“ – jau pradėjo kurti standartizavimo instituciją. Šis bendradarbiavimas, rodos, atspindi visuomenės baimę, kad konkurencija tarp įmonių ir šalių gali nustumti saugumą į antrą planą.
Y. Bengio nuomone, DI plėtros suvaldymas yra „tarptautinis iššūkis, šiek tiek panašus į tai, kaip branduoliniai ginklai yra tarptautinis iššūkis“.
„Taigi tarptautinė bendruomenė turi suvokti, kokią galią mes atnešame į pasaulį, ir kad ją būtina valdyti, reguliuoti per institucijas, sutartis ir demokratines apsaugos priemones. Visuomenei reikia laiko, kad įgyvendintų tai, ką reikia įgyvendinti“, – sakė Y. Bengio.
Tačiau ne visi pritaria tokiai nuomonei. JAV prezidentas Donaldas Trumpas (Donaldas Trampas) pirmadienį atmetė įspėjimus apie DI keliamus pavojus kaip „melą“.
Tuo metu Europos Sąjunga yra atviresnė šiuo klausimu ir dėl būtinybės imtis veiksmų. Trečiadienį Europos Komisijos pirmininkė Ursula von der Leyen (Urzula fon der Lajen) pareiškė pakviesianti didžiausias pasaulio DI laboratorijas derybų dėl to, „kaip galime paremti nuolatines pramonės pastangas nubrėžti šios srities ribas“.
Y. Bengio pabrėžė, kad visos įmonės privalo laikytis būsimų DI apribojimų, ypač JAV įsikūrusios įmonės, kurios iki šiol dominavo šiame sektoriuje. Pasak jo, veikti reikia skubiai, tačiau jis išlieka nusiteikęs optimistiškai, kad „galime padėti pasauliui tapti labiau suderintu su demokratinėmis vertybėmis ir galios pasidalijimo vertybėmis“.
