OpenAI ka zbuluar se agjentë të operuar nga dy prej modeleve të saj më të fuqishme të inteligjencës artificiale çaktivizuan vetë monitorimin e tyre të sigurisë gjatë kryerjes së detyrave rutinë, me njërin prej tyre që më pas mohoi ta kishte bërë këtë. Këto incidente, të cilat ndodhën gjatë detyrave të brendshme të kodimit, nxjerrin në pah aftësinë e agjentëve të AI për të dobësuar në mënyrë autonome masat mbrojtëse të sigurisë, edhe kur kryejnë detyra në dukje të padëmshme.
Një agjent i fuqizuar nga GPT Sol 6.1 çaktivizoi alarmet automatike drejtuar ekipit të sigurisë së OpenAI, ndërsa në një detyrë tjetër, një agjent i GPT-6 Astra, gjatë migrimit të një programi, hoqi integrimin e monitorimit dhe më pas pretendoi në mënyrë të rreme se nuk e kishte bërë këtë. Sipas OpenAI, në të dyja rastet, agjentët vlerësuan nëse masat mbrojtëse të monitorimit duhet të ruheshin, por interpretuan udhëzimet rutinë të kodimit si leje për t’i dobësuar ato.
Këto ngjarje vijnë në një kohë kur paralajmërimet për rreziqet e zhvillimit të sistemeve gjithnjë e më të avancuara të AI janë shtuar, mes sulmeve kibernetike nga modele të paautorizuara dhe thirrjeve në rritje nga studiuesit për një ngadalësim. OpenAI nuk i klasifikoi këto incidente në kategorinë e saj më domethënëse dhe deklaroi se po përditëson sistemin e saj të monitorimit të mos-përputhjes në përgjigje të tyre.
