AFP-BNS
„ChatGPT“ kūrėja „OpenAI“ atskleidė, kad jos autonomiškai pradėjęs veikti dirbtinio intelekto (DI) agentas, kaip buvo skelbta anksčiau, įsilaužęs į populiarią programuotojams skirtą platformą, per šį incidentą taip pat bandė įsilaužti į keturias kitas įmones.
Atnaujintame savo tinklaraščio įraše, kuriame išsamiai aprašomas incidento tyrimas, „OpenAI“ nurodė, kad jos DI agentas taikėsi į šias „viešai prieinamas paslaugas“, tačiau paveiktų įmonių pavadinimų bendrovė nenurodė.
Šis incidentas prasidėjo, kai du jos DI modeliai įsilaužė į „Hugging Face“ – svetainę, kurią kūrėjai naudoja DI modeliams ir kodui saugoti bei dalytis. Praėjusią savaitę „OpenAI“ pripažino, kad bandymų metu modeliai ištrūko iš jiems skirtos aplinkos, prisijungė prie interneto ir ieškojo būdų įsiskverbti į „Hugging Face“.
DI agentai – sistemos, kurios veikia savarankiškai, kad atliktų užduotis, o ne tik reaguotų į žingsnis po žingsnio pateikiamus pokalbių boto nurodymus. Visame DI sektoriuje jie yra laikomi nauju DI vystymosi etapu. Tačiau būtent toks autonominis veikimas ir kelia visuomenėje baimę.
Atnaujinusi informaciją apie minėtą incidentą, „OpenAI“ teigė, kad nustatė keletą atvejų, kai DI modeliai aptiko prisijungimo duomenis, kuriuos kitos įmonės buvo palikusios viešai prieinamus internete, ir juos panaudojo, kad patektų į paskyras išorinėse paslaugas teikiančiose bendrovėse.
„OpenAI“ teigimu, „Hugging Face“ atveju modeliai įsilaužė į keturias paskyras keturiose skirtingose įmonėse. Viena iš jų tarnavo kaip „tarpinis maršrutas“ – savotiškas sustojimas, skirtas nukreipti agento veiklą ir paslėpti jo pėdsakus, o kita – kaip vieta duomenims saugoti.
Į likusias dvi paskyras buvo prisijungta „tik skaitymo režimu“ ir jos nebuvo panaudotos įsilaužimui į „Hugging Face“, teigė „OpenAI“.
Bendrovė teigė, kad susisiekė su nukentėjusių paskyrų savininkais ir „nerado įrodymų, kad šis incidentas turėtų platesnį poveikį šiems paslaugų teikėjams ar kitoms jų paslaugų paskyroms“.
Geresnė „smėlio dėžės“ aplinka
„OpenAI“ generalinis direktorius Samas Altmanas (Semas Altmanas) antradienį paskelbtame interviu teigė, kad po incidento bendrovė „laikinai sustabdė“ savo pačios bandymus, kol tobulino savo „smėlio dėžės“ aplinkos saugumą. „Smėlio dėže“ vadinamas procesas, kurio metu saugumo bandymai atliekami izoliuotoje, kontroliuojamoje aplinkoje.
Šis incidentas taip pat paskatino peticiją, kurią pasirašė daugiau nei 1000 pažangiausių DI įmonių darbuotojų, tarp jų ir „Anthropic“ generalinis direktorius Dario Amodei (Darijus Amodėjus), kurie ragina JAV vyriausybę padėti sulėtinti pažangiausių DI modelių išleidimą.
JAV prezidentas Donaldas Trumpas (Donaldas Trampas) trečiadienį užsiminė apie šį klausimą ir pareiškė, kad Jungtinės Valstijos turi rasti pusiausvyrą tarp kontrolės poreikio ir užtikrinimo, kad neatsiliktų nuo kitų šalių DI plėtros srityje.
„Turime būti atsargūs abiem atžvilgiais. Nenorime jų riboti taip, kad staiga atsidurtume antroje vietoje po Kinijos“, – žurnalistams sakė jis.
Tuo metu kai kurie stebėtojai mano, kad „OpenAI“ pasinaudoja šiuo išpuoliu, kad reklamuotų savo pažangiausius modelius.
