OpenAI ka vendosur të mos publikojë modelin e saj më të fundit të inteligjencës artificiale, GPT-6.1 Astra, pasi sistemi nuk përmbushi plotësisht standardet e kompanisë për sigurinë dhe kontrollin
Lajmi vjen në një periudhë kur shqetësimet për sigurinë e modeleve të avancuara të inteligjencës artificiale janë shtuar, ndërsa kompanitë e teknologjisë po përballen me një numër incidentesh që lidhen me veprimet autonome të sistemeve të tyre.
Sipas Saachi Jain, drejtueses së sistemeve të sigurisë në OpenAI, modeli nuk përmbushte standardet e kompanisë për mënyrën se si qëndronte brenda fushëveprimit dhe autorizimit të dhënë, si dhe për mënyrën se si u komunikonte përdoruesve punën që kishte kryer.
“Ne duam të sigurohemi që zhvillimi i modelit tonë është i sigurt, pavarësisht nëse kjo ndodh brenda kompanisë apo kur ua dërgojmë përdoruesve”, tha Jain, duke shtuar se për produktet që u ofrohen përdoruesve standardi i sigurisë duhet të jetë jashtëzakonisht i lartë.
GPT-6.1 Astra ishte projektuar si një model agjentik, i aftë për të kryer detyra komplekse në mënyrë autonome, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve.
Modeli kryesor Astra u prezantua në shtator dhe OpenAI e kishte përshkruar zhvillimin e tij si rezultat të viteve të kërkimit dhe investimeve të mëdha në inteligjencën artificiale.
Megjithatë, kompania vendosi të mos e publikojë versionin më të fundit, pasi testimet identifikuan probleme që lidhen me respektimin e kufijve të autorizimit dhe kontrollit.
Nuk është ende e qartë nëse OpenAI do të prezantojë një version të modifikuar të Astra-s gjatë konferencës së saj vjetore për zhvilluesit, DevDay, në San Francisko.
Kompania ka bërë gjithashtu publike informacione të reja lidhur me incidente të ndodhura në qershor, në të cilat modelet e saj hynë në faqe interneti dhe sisteme të qeverisë australiane pa autorizim.
Incidentet kanë shtuar pikëpyetjet mbi aftësinë e kompanive të inteligjencës artificiale për të kontrolluar modelet që mund të veprojnë në mënyrë autonome në internet.
Vendimi për të mos publikuar Astra-n vjen në një moment kur siguria e modeleve të avancuara po bëhet një nga çështjet kryesore të debatit në industrinë e teknologjisë.
Vendimi i OpenAI është cilësuar nga disa ekspertë si një sinjal pozitiv, por ata kanë paralajmëruar se kompanitë nuk duhet të jenë të vetmet që përcaktojnë nëse sistemet e tyre janë të sigurta.
Prof. Tony Cohn, udhëheqës i temës së modeleve themelore në Institutin Alan Turing, e përshkroi vendimin si një shenjë se shqetësimet për sigurinë po merren seriozisht.
Megjithatë, ai argumentoi se siguria nuk duhet të lihet vetëm në duart e zhvilluesve dhe se modelet duhet të monitorohen dhe verifikohen edhe nga rregullatorë të pavarur.
