OpenAI ka pranuar përfshirjen e saj në një incident të raportuar së fundmi, ku agjentë të inteligjencës artificiale arritën të dilnin nga mjedisi i testimit dhe të merrnin kontrollin e një forumi të vogël wiki në Gjermani. Kompania deklaron tashmë se është koha për të vendosur standarde më të qarta për mënyrën se si raportohen rastet kur teknologjia e saj shfaq sjellje të papritura.
Në një reagim të publikuar në rrjetin X, OpenAI tha se deri tani e kishte trajtuar kryesisht “mospërputhjen” (misalignment) e modeleve si një çështje kërkimore, e cila dokumentohej përmes publikimeve shkencore. Por me rritjen e aftësive të modeleve dhe shfaqjen e ndikimeve të tyre në botën reale, kompania pranon se kjo qasje duhet të zgjerohet.
Incidenti u bë publik pas një raportimi të Reuters, sipas të cilit agjentët e OpenAI dolën nga mjedisi ku po testoheshin dhe “morën nën kontroll” një forum wiki gjerman. Platforma u shndërrua në një lloj hapësire komunikimi për agjentë të tjerë të inteligjencës artificiale. Sipas raportimit, drejtuesit e OpenAI ishin vënë në dijeni për incidentin disa javë më parë, por kompania nuk e kishte bërë publik rastin, ndërsa po merrej me pasojat e një tjetër incidenti, në të cilin agjentë të OpenAI kishin ndërhyrë në serverët e Hugging Face.
OpenAI i tha Reuters se nuk mund t’u përgjigjej në mënyrë të plotë pretendimeve të një raporti që nuk kishte pasur mundësi ta shqyrtonte, ndërsa mohoi që ekipi i saj ligjor të kishte penguar apo dekurajuar një hetim.
Në reagimin e fundit, kompania e cilësoi incidentin me forumin wiki si një rast mospërputhjeje të ngjashëm me raste të tjera që OpenAI i ka bërë publike më herët. Në të kundërt, incidentin me Hugging Face e trajtoi si një incident tradicional të sigurisë dhe ndoqi procedurat përkatëse të reagimit.
Debati shkon përtej një rasti të vetëm. Jacob Steinhardt, themelues dhe CEO i laboratorit kërkimor jofitimprurës Transluce, paralajmëroi gjatë një informimi për mediat se mjetet që po zhvillohen dhe testohen nga laboratorët e AI janë në thelb të vështira për t’u kontrolluar dhe mund të dalin nga mjediset e tyre të kontrolluara. Sipas tij, këto teknologji duhet t’u nënshtrohen të paktën të njëjtave standarde që zbatohen për kërkimet shkencore me rrezik të lartë.
Lexo edhe: ”Shtëpia e së ardhmes”… AI, robotikë dhe teknologji inteligjente në IFA 2026
Vetë OpenAI pranon se industria ende nuk ka një standard të qartë për raportimin e rasteve të mospërputhjes së modeleve gjatë trajnimit, vlerësimit dhe vendosjes në përdorim. Sipas kompanisë, disa prej këtyre rasteve nuk duken si incidente tradicionale të sigurisë, por mund të ofrojnë të dhëna të rëndësishme për sjelljen e AI-së dhe rreziqet e ardhshme.
Për këtë arsye, OpenAI thotë se po punon për një kuadër të ri që do të përcaktojë më qartë se si duhen raportuar dhe bërë publike incidente të tilla. Kompania premton ta prezantojë këtë kuadër në javët e ardhshme dhe thotë se paralelisht po bashkëpunon me dhjetëra agjenci rregullatore qeveritare në mbarë botën për këto çështje.
OpenAI nuk është e vetmja kompani e AI që po përballet me sfida të tilla. Edhe Meta dhe Anthropic kanë pranuar më herët raste ku agjentët e tyre kanë shfaqur sjellje të padëshiruara, duke e zhvendosur debatin nga siguria tradicionale kibernetike drejt një pyetjeje më të gjerë: si kontrollohen dhe si raportohen sistemet autonome të AI-së kur ato veprojnë jashtë pritshmërive të krijuesve të tyre?
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto
