AFP-BNS
JAV dirbtinio intelekto (DI) bendrovė „Anthropic“ ketvirtadienį uždraudė vartotojams be reikalo žiauriai elgtis su jos DI sistema „Claude“. Šis sprendimas priimtas vykstant vis aktyvesnėms filosofinėms diskusijoms apie tai, ar DI gali turėti sąmonę.
Bendrovė atnaujino savo naudojimo taisykles. Jose įtrauktas draudimas „nuolat ir be reikalo agresyviai ar žiauriai elgtis su mūsų modeliais“.
„Pagrindinė užtikrinimo priemonė išliks „Claude“ gebėjimas nutraukti tokias sąveikas“, – teigiama politikoje.
Atnaujintose taisyklėse tiesiogiai neminima vadinamoji „modelių gerovė“ – idėja, kad DI sistemos gali nusipelnyti apsaugos, kuri paprastai taikoma gyvoms būtybėms, tačiau „Anthropic“ ir įmonės vadovai atvirai svarsto šią koncepciją.
„Anthropic“ į prašymą pateikti komentarą iškart neatsakė.
Dar pernai bendrovė pranešė suteikianti „Claude“ galimybę nutraukti pokalbius retais, kraštutiniais atvejais, kai vartotojų elgesys yra „nuolat žalingas ar įžeidžiantis“.
Vasario mėnesį „Anthropic“ generalinis direktorius Dario Amodei (Darijus Amodėjus) laikraščiui „The New York Times“ sakė nesantis tikras, ar DI modeliai gali turėti sąmonę.
„Mes nežinome, ar modeliai yra sąmoningi (…) Tačiau esame atviri minčiai, kad tai įmanoma“, – teigė D. Amodei.
Mokslinė fantastika ir populiarioji kultūra dešimtmečius žavėjosi riba tarp technologijų ir žmogaus intelekto. Vis dėlto, anot Atlantoje įsikūrusio DI paslaugų teikėjo „Sparq“ vieno iš vadovų Jacksono Stakemano (Džeksono Steikmano), klausimas, ar DI turi sąmonę, gali būti neteisingas.
„Sąmonė yra spąstai. Mes negalime įrodyti jos egzistavimo vieni kituose. Diskutuokite apie tai DI atveju ir suksitės ratu“, – AFP sakė jis.
„Veidrodis yra geresnė metafora. Šios sistemos atspindi tai, ką mes į jas įdedame, tik didesniu mastu. Tai pakankama priežastis tokiam politikos pokyčiui“ „Anthropic“ bendrovėje, pridūrė jis.
Kai kas visiškai atmeta mašininio sąmoningumo idėją, įskaitant popiežių Leoną XIV ir „Microsoft“ DI vadovą Mustafa Suleymaną (Mustafa Suleimaną).
„DI nėra sąmoningas. Jis nejaučia, nepatiria ir nekenčia, – praėjusį mėnesį savo esė rašė M. Suleymanas. – Suteikti teises ir moralinę apsaugą technologiniam subjektui, kuris, panašu, juda link to, kad taptų daug pajėgesnis ir protingesnis už mus, yra katastrofos receptas.“
Tuo metu ketvirtadienį Vatikane, Šventojo Petro bazilikoje, popiežius pamoksle italų kalba užsiminė, kad mašinoms trūksta sielos, nurodydamas, kad jos tik sparčiai „renka duomenis“.
„Protas neturi tiesiog rinkti duomenis, kaip tai dabar greičiau už mus daro algoritmas“, – sakė popiežius.
Pasak pontifiko, jis privalo „prisiminti patirtus išgyvenimus, turinčius prasmių gelmes, kurias atpažinti gali tik žmogaus siela, ir giliau susieti su šių patirčių gėriu“.
