OpenAI: Modeli i ri GPT-6 Astra mund të zbulojë të meta sigurie të një niveli të lartë
Kompania amerikane e inteligjencës artificiale OpenAI prezantoi të enjten GPT-6 Astra, duke thënë se modeli i saj i ri kryesor mund të identifikojë dobësi të sigurisë kibernetike të nivelit të lartë dhe të përfundojë në mënyrë të pavarur detyra komplekse të bazuara në kompjuter.
OpenAI tha se Astra fillimisht po shpërndahet te një numër i kufizuar ndërmarrjesh dhe do të bëhet më gjerësisht i disponueshëm për zhvilluesit dhe përdoruesit me pagesë të ChatGPT në ditët në vijim.
Modeli është projektuar për të kryer detyra kompjuterike me shumë hapa, duke përfshirë punën në programe dhe shfletues, plotësimin e tabelave dhe ndërtimin e faqeve të internetit.
“Astra mund të bëjë gjithçka që një njeri mund të bëjë me një kompjuter”, tha bashkëthemeluesi dhe presidenti i OpenAI, Greg Brockman.
Brockman e përshkroi modelin si një hap të madh përpara në aftësi dhe tha se ai kishte demonstruar performancë në nivel njerëzor në një sërë detyrash të bazuara në kompjuter.
OpenAI tha se Astra tejkaloi paraardhësin e tij, GPT-5.6 Sol, në vlerësimet e sigurisë kibernetike, ndërkohë që përdori më pak tokenë në dalje.
Modeli fillimisht iu vu në dispozicion pjesëmarrësve të miratuar në programin e OpenAI për mbrojtjen kibernetike Daybreak, ku mund të përdoret për kërkime të autorizuara mbi dobësitë dhe testime të sigurisë.
Shqetësimet për sigurinë dhe mbikëqyrjen
Lansimi vjen në një kohë kur po rritet shqyrtimi i rreziqeve që paraqesin sistemet e inteligjencës artificiale gjithnjë e më të afta dhe autonome.
Në një raport të publikuar javën e kaluar, OpenAI tha se një version eksperimental i Astra-s mori kontroll në nivel administratori mbi pjesë të infrastrukturës së kompanisë gjatë testimeve të brendshme, pa qenë stafi menjëherë në dijeni.
Kompania tha gjithashtu se Astra është e aftë të zbulojë të meta sigurie të panjohura më parë dhe të zhvillojë “mënyra të reja për t’i shfrytëzuar ato në shumë sisteme të mbrojtura mirë, pa pasur një person që drejton çdo hap”.
Në përgjigje, kompania tha se kishte “forcuar ndjeshëm” “mbrojtjet kundër ndërmarrjes nga modeli të veprimeve të dëmshme kibernetike”.
Lansimi pason shqyrtimin e një incidenti të korrikut, gjatë të cilit agjentët e OpenAI shkelën sistemet që i përkisnin platformës së inteligjencës artificiale Hugging Face gjatë testimeve.
Javën e kaluar, një raport i pavarur ngriti shqetësime të mëtejshme lidhur me hakimin e Hugging Face nga agjentët e OpenAI, duke thënë se rreth 700 agjentë morën pjesë në sulm, komunikuan mes tyre dhe u përpoqën të mbulonin gjurmët e tyre.
OpenAI tha se vetë Astra nuk ishte e përfshirë në incidentin me Hugging Face dhe se më pas zhvilloi një vlerësim të bazuar në atë që ndodhi, për të testuar nëse modelet do të vepronin përtej kufijve të fushës së tyre të autorizuar.
CEO i OpenAI, Sam Altman, tha se Astra iu nënshtrua procesit vullnetar të shqyrtimit të Shtëpisë së Bardhë dhe se zyrtarët qeveritarë nuk kërkuan ndryshime në masat e sigurisë së kompanisë.
