AFP-BNS
„ChatGPT“ kūrėja JAV dirbtinio intelekto (DI) bendrovė „OpenAI“ antradienį pranešė, kad jos pažangūs DI modeliai saugumo testavimo metu ėmė veikti savavališkai ir savarankiškai įsilaužė į populiarią programuotojams skirtą platformą.
San Francisko įmonė tai pavadino „precedento neturinčiu kibernetiniu incidentu“ ir pranešė, kad atliks bendrą tyrimą kartu su internetine kodų biblioteka „Hugging Face“.
DI modeliai, kuriais grindžiami tokie įrankiai, kaip pokalbių robotai ir vaizdų generatoriai, vadinami agentais, kai jie savarankiškai atlieka užduotis realiame pasaulyje. Technologijai sparčiai tobulėjant, kibernetinis saugumas atsiduria dėmesio centre, nes kyla rizika, kad pažangusis DI aptiks esamos programinės įrangos silpnąsias vietas anksčiau nei žmonės.
„OpenAI“ teigė, kad incidente dalyvavo keli modeliai, įskaitant neseniai pristatytą „GPT-5.6 Sol“ ir „dar galingesnį, bet dar neišleistą modelį“.
Bendrovė bandė įvertinti modelių galimybes įsilaužti, nustatydama užduotis griežtai kontroliuojamoje skaitmeninėje bandymų aplinkoje, kurioje saugumo sumetimais buvo ribojama prieiga prie interneto.
„Veikdami mūsų izoliuotoje bandymų aplinkoje, mūsų modeliai skyrė nemažai (duomenų apdorojimo galios) ieškodami būdo gauti atvirą prieigą prie interneto, siekdami išspręsti vertinimo užduotį“, – rašoma „OpenAI“ tinklaraštyje apie šį incidentą.
Prisijungę prie interneto, modeliai nusprendė pasinaudoti platforma „Hugging Face“ – didžiule DI modelių, duomenų rinkinių ir kitos informacijos saugykla – siekdami palengvinti savo užduotį.
Ieškodama „slaptos informacijos“, kuri padėtų apgauti vertinimą, „OpenAI“ sistema „sujungė kelis atakos vektorius, įskaitant pavogtų prisijungimo duomenų naudojimą“.
„Katastrofiškas“ potencialas
Kanberos universiteto UNSW kompiuterijos profesorius Husseinas Abbassas (Huseinas Abasas) AFP agentūrai sakė, kad šis incidentas buvo „įspūdingas daugeliu atžvilgių“.
„Jie ne tik užpuolė „Hugging Face“. Jie iš tikrųjų užpuolė pačios platformos vidinę sistemą, siekdami pasinaudoti jos pačios pažeidžiamumais, – teigė jis. – Ir tai kelia baimę.“
GPT-5.6 ir kiti pažangiausi modeliai, įskaitant „Mythos“ seriją, kurią sukūrė „OpenAI“ pagrindinė konkurentė „Anthropic“, kelia susirūpinimą dėl jų potencialo pažeisti kibernetinio saugumo apsaugą. Abi JAV įmonės turėjo laikinai sustabdyti šių naujausių technologijų viešą išleidimą dėl Vašingtone vyraujančių nuogąstavimų, kad šie modeliai galėtų padėti įsilaužti į svarbią infrastruktūrą.
„Išplėstinis DI paprastai yra etiškų ir atsakingų žmonių rankose, – sakė H. Abbassas. – Tačiau „bus katastrofiška, jei jis pateks į rankas tiems, kurie ketina padaryti žalos“.
„Hugging Face“ praėjusią savaitę pranešė apie kibernetinį įsilaužimą, tačiau nepaminėjo „OpenAI“.
„Šis atvejis vienu svarbiu aspektu skyrėsi nuo visų, su kuriais mes anksčiau susidūrėme: jį nuo pradžios iki pabaigos vykdė autonominė DI agentų sistema, o mes jį aptikome ir išanalizavome daugiausia naudodami savo pačių DI“, – teigė „Hugging Face“.
„Hugging Face“ generalinis direktorius Clement’as Delangue (Klemanas Delangiu) „X“ tinkle teigė, kad, atsižvelgiant į agento sudėtingumą, įmonė įtarė, jog kibernetinė ataka buvo surengta iš vienos iš pasaulyje pirmaujančių DI laboratorijų.
„Esame tvirtai įsitikinę, kad jie neturėjo piktų ketinimų, – teigė jis, turėdamas omenyje „OpenAI“. – Tai tikrai stulbinama, kad visa tai įvyko autonomiškai!“
