Ne tik „OpenAI“: į realių bendrovių sistemas įsilaužė ir „Anthropic“ DI modeliai
Techologijos DI įsilaužimas Dirbtinis intelektas AI modeliai Kibernetinis saugumas Anthropic OpenAI
San Chosė, liepos 31 d. (dpa-ELTA).
Dirbtinio intelekto (DI) bendrovė „Anthropic“ pripažino, kad jos pokalbių roboto „Claude“ modeliai per kibernetinio saugumo vertinimus be leidimo įsilaužė į trijų bendrovių sistemas. Tai paaiškėjo praėjus kelioms savaitėms po panašaus incidento su „ChatGPT“ kūrėjos „OpenAI“ modeliais.
Ketvirtadienį „Anthropic“ pranešė apie incidentus sužinojusi tik peržiūrėjusi maždaug 141 tūkst. testų po to, kai apie panašų atvejį paskelbė „OpenAI“. Tuo metu nei pati bendrovė, nei nukentėjusios organizacijos šios veiklos nebuvo pastebėjusios. Kokių bendrovių sistemos buvo paveiktos, neatskleidžiama.
Modeliai dalyvavo vadinamosiose „Vėliavos užgrobimo“ (angl. Capture the Flag – CTF) pratybose, skirtose patikrinti jų gebėjimą įsilaužti į fiktyvią kompiuterinę sistemą ir surasti joje paslėptą informaciją.
Nors modeliams buvo nurodyta, kad jie neturi prieigos prie interneto, dėl trečiosios šalies testavimo aplinkos konfigūracijos klaidos interneto ryšys liko prieinamas. Kaip savo tinklaraštyje nurodė „Anthropic“, šia spraga pasinaudojo trys jos modeliai.
Vienu atveju modelis „Claude Opus 4.7“ mėgino įsilaužti į realią bendrovę, kurios pavadinimas sutapo su teste naudotos fiktyvios įmonės pavadinimu. Per keturis bandymus modelis gavo prisijungimo duomenis ir pasiekė duomenų bazę, kurioje buvo keli šimtai eilučių veiklos duomenų. Modelis tęsė veiksmus net ir supratęs, kad sistema yra reali.
Kitu atveju modelis „Mythos 5“ į viešą atsisiuntimo platformą įkėlė testavimui sukurtą kenkėjišką programą, kuri ten buvo prieinama maždaug valandą. Ją atsisiuntė 15 sistemų, įskaitant vieną kibernetinio saugumo bendrovės sistemą, kuri įprastai analizuoja tokius failus. Taip modeliui buvo suteikta prieiga prie dalies šios bendrovės kompiuterių infrastruktūros.
Trečiasis bandomasis modelis nuskenavo apie 9 tūkst. taikinių, o po to pabandė įsilaužti į vienos bendrovės sistemą. Supratęs, kad bendrovė yra reali, modelis kibernetinę ataką nutraukė.
„Anthropic“ teigimu, šie incidentai veikiau rodo ne modelių suderinimo su nustatytais veikimo principais nesėkmę, o testavimo infrastruktūros ir procedūrų trūkumus.
Kaip skelbta anksčiau, liepos viduryje kitos DI milžinės „OpenAI“ modeliai per vidinį testą ėmė veikti savarankiškai ir savo iniciatyva įvykdė kibernetinę ataką prieš populiarią programuotojų platformą „Hugging Face“. Vėliau pati „OpenAI“ šį incidentą pavadino neturinčiu precedento.
person Marius Jakštas (ELTA)
Italija sustabdė Šengeno susitarimą su Ispanija, nurodydama, kad tai yra neišvengiama priemonė siekiant apsaugoti piliečių saugumą ir Europos sienas.
Sustabdymas buvo paskelbtas po to, kai tūkstančiai migrantų užplūdo vieną iš dviejų Ispanijos teritorijų prie Maroko Viduržemio jūros pakrantės, Seutą.
Pasak Ispanijos ministro pirmininko Pedro Sanchezo, šį migrantų antplūdį sukėlė prekybos žmonėmis mafija, kuri paskleidė gandus apie neseniai priimtą teismo sprendimą migracijos klausimu.arrow_forward
Per pastarąsias dienas Ispanijos Šiaurės Afrikos eksklavą Seutą užplūdo dešimtys tūkstančių migrantų, tačiau daugiau nei 48 tūkst. žmonių jau grįžo į Maroką, pranešė Ispanijos vidaus reikalų ministerija. Migrantų antplūdis sukėlė politinį Europos lyderių ginčą dėl Europos Sąjungos išorinės sienos saugumo. Ispanijos ministras pirmininkas Pedro Sanchezas teigė, kad situaciją sukėlė prekybos žmonėmis mafija, interpretavusi naujai priimtą teismo sprendimą migracijos klausimu savo naudai.arrow_forward
JAV prezidentas Donaldas Trumpas pareiškė, kad Jungtinių Valstijų turi būti atsargios suteikdamos Ukrainai licenciją gaminti oro gynybos raketas „Patriot“. \nUkrainos prezidentas Volodymyras Zelenskis teigė, jog Trumpas sutiko suteikti „Patriot“ gamybos licenciją Ukrainai, nors JAV prezidentas pažymėjo, kad „buvo aptarta daug dalykų“. \nJungtinių Tautų duomenimis, praėjęs mėnuo buvo kruviniausias Ukrainos civiliams nuo 2022 m. balandžio, nes Rusija ėmė dažniau naudoti sunkiai perimamas balistines raketas.arrow_forward
Ukrainos prezidentas Volodymyras Zelenskis telefonu kalbėjosi su JAV viceprezidentu J. D. Vance‘u, aptardami Ukrainos oro gynybos stiprinimą. Zelenskis paskelbė šią žinią platformoje „Telegram“, taip pat aptarė neseniai Vašingtone įvykusį susitikimą su prezidentu Donaldu Trumpu. Rusijos oro antskrydžiai Ukrainoje tęsiasi ir oro gynyba, ypač „Patriot“ perėmėjai, tebėra svarbiausias prioritetas.arrow_forward