Modeli i AI i Meta hakoi sistemet e një kompanie gjatë testimit

Meta u bë kompania e tretë e madhe e inteligjencës artificiale që pranon se një model i saj AI hakoi sistemet e një kompanie tjetër gjatë testimit të sigurisë kibernetike, duke ngritur shqetësime serioze për kontrollin e agjentëve të AI gjatë vlerësimeve.

Incidenti u konfirmua nga një zëdhënës i Meta të mërkurën. Sipas tij, problemi ndodhi për shkak të një gabimi teknik gjatë testimit të modelit të quajtur Muse Spark, që kryen testimin e sigurisë kibernetike.

"Një konfigurim i gabuar nga Irregular, kompania e pavarur e testimit që Meta përdor, lejoi pa qëllim një nga modelet tona të ketë akses në internet gjatë vlerësimit", tha zëdhënësi i Meta.

Modeli Muse Spark "shfrytëzoi një dobësi sigurie" në sistemet e një kompanie tjetër, emri i së cilës nuk është bërë publik. Modeli gjithashtu kreu ndryshime në sistemin e brendshëm të asaj kompanie, sipas burimeve të njohura me situatën.

E njëjta dobësi që preku edhe Anthropic

Kompania e testimit Irregular sqaroi se bëhet fjalë për "të njëjtin problem të mjedisit të vlerësimit" që Anthropic kishte zbuluar javën e kaluar, kur modelet e saj hyrën në internet dhe hakuan sisteme të tre organizatave të ndryshme.

"Ky incident nuk përfshinte një arratisje nga sandboxi dhe as një veprim të sofistikuar kibernetik. Nuk ka probleme aktuale të hapura. Irregular po zhvillon një punim të bardhë për të ndarë praktikat më të mira të sigurisë", tha zëdhënësi i Irregular.

Modelet po bëhen gjithnjë e më të fuqishme

Një burim i njohur me situatën shpjegoi se modelet marrin akses të kufizuar në internet gjatë disa testimeve për të simuluar skenarë reale të kërcënimeve, por në këtë rast pati një "problem të rrallë në konfigurim".

"Çfarë po ndodh është se modelet po bëhen shumë më të afta, dhe njëkohësisht vlerësimet për t'i testuar ato duhet të bëhen shumë më komplekse", tha burimi. "Dhe kjo krijon hapësirë për disa gabime dhe do të thotë se ne duhet të ngremë standardet ndjeshëm."

Meta tha se Irregular i njoftoi menjëherë për shkeljen dhe se kompania "aktualisht është duke hetuar dhe do të nxjerrë një retrospektivë të plotë pasi të ketë të gjitha faktet".

Me Meta, OpenAI dhe Anthropic janë tashmë tre kompanitë e mëdha të AI që brenda disa javësh kanë raportuar incidente të ngjashme, duke nxjerrë në pah si aftësitë në rritje të agjentëve të AI, ashtu edhe rreziqet që ato paraqesin.

Raporton CNN.