AFP-BNS

„ChatGPT“ kūrėja „OpenAI“ penktadienį patvirtino, kad jos dirbtinio intelekto (DI) agentai likus porai mėnesių iki atakos prieš programavimo svetainę „Hugging Face“ atakavo į kitą svetainę.

Šis naujas pranešimas sustiprina nuogąstavimus, kad žmonėms gali būti sunku kontroliuoti pažangius DI modelius.

Minėto incidento, įvykusio gegužę ir apie kurį penktadienį pranešė „The Wall Street Journal“, metu „OpenAI“ sukurti modeliai buvo įtraukti į neteisėtą operaciją, kurią vykdė DI agentai. Jie užpuolė svetainę „RubyGems“, teikiančią paslaugas programavimo srityje. Kita programinės įrangos kūrėjams skirta platforma „Hugging Face“ buvo užpulta liepos mėnesį.

„Remiantis mūsų tyrimu, mūsų agentai naudojo „RubyGems“ platformą prisijungti prie interneto, kad atliktų nekenksmingas užduotis ir gautų viešos informacijos, – „OpenAI“ atstovas sakė agentūrai AFP. – Tęsime šį tyrimą kaip dalį platesnio agentų veiklos per mokymą ir vertinimą peržiūros.“

„OpenAI“ tiria šį incidentą kartu su „RubyGems“ ir jį nustačiusiais tyrėjais.

„RubyGems“ penktadienį paskelbtame tinklaraščio įraše šį incidentą apibūdino kaip „šlamšto platinimo kampaniją“, dėl kurios svetainė buvo priversta laikinai sustabdyti naujų paskyrų kūrimą.

Tačiau „RubyGems“ taip pat nurodė, kad kol kas negali nustatyti, ar už tai atsakingi DI agentai.

„Mūsų dėmesys sutelktas į piktnaudžiavimo atpažinimą ir prevenciją, nepriklausomai nuo to, ar jį vykdo žmonės, ar automatizuotos priemonės“, – teigė „RubyGems“.

Po liepos mėnesio atakos prieš „Hugging Face“ „OpenAI“ atskleidė, kad jos DI agentai bandė įsilaužti į keturias kitas neįvardytas įmones.

Konkuruojanti DI laboratorija „Anthropic“ vėliau taip pat pranešė, kad nustatė tris atvejus, kai jos modeliai „gavo neteisėtą prieigą“ prie išorinių organizacijų per bandymus, kurių tikslas buvo neleisti jiems prisijungti prie „realaus pasaulio“ sistemų.

Anksčiau šį mėnesį tyrėjai taip pat apkaltino „OpenAI“ DI agentus, kad jie taikėsi į vokiečių svetainę „DSEwiki“ – dar vieną programavimo specialistų naudojamą svetainę.

Europos Sąjungos reguliavimo institucijos tiria šį incidentą, praėjusią savaitę teigė atstovas spaudai.