OpenAI anulon lançimin e modelit të ri për shkak të shqetësimeve për sigurinë

OpenAI nuk do të publikojë modelin e saj të ri të IA-së – GPT-6.1 Astra, për shkak të shqetësimeve për sigurinë, konfirmoi të martën krijuesi i ChatGPT.

Sistemi i inteligjencës artificiale, i cili kryen detyra si shfletimi i internetit dhe përdorimi i aplikacioneve më vete, “nuk i përmbushte plotësisht standardet” e kompanisë, tha për BBC-në Saachi Jain, kreu i sistemeve të sigurisë në OpenAI.

Të martën, OpenAI lëshoi ​​gjithashtu një përditësim mbi incidentet që ndodhën në qershor, por që nuk u bënë publike deri javën e kaluar, në të cilat modelet e saj hynë në faqet e internetit dhe sistemet e qeverisë australiane pa autorizim.

Këto incidente dhe shkelje të ngjashme nga modelet e zhvilluara nga firmat kryesore të inteligjencës artificiale kanë intensifikuar debatin rreth rreziqeve që paraqet teknologjia në javët e fundit.

Liderët kryesorë të inteligjencës artificiale, përfshirë Sam Altman të OpenAI dhe shefin e Anthropic, Dario Amodei, i kanë kërkuar industrisë të ngadalësojë ritmin e zhvillimit për shkak të shqetësimeve rreth rreziqeve që lidhen me teknologjinë.

Vendimi i OpenAI, i cili u raportua për herë të parë nga Wall Street Journal, është një rast i rrallë i një zhvilluesi të madh të inteligjencës artificiale që tërheq një publikim të ri për shkak të shqetësimeve për sigurinë.

Modeli dështoi në aspektin e “qëndrimit brenda fushëveprimit dhe autorizimit, dhe mënyrës se si i komunikon përdoruesit në lidhje me llojin e punës që është bërë”, tha Jain.

“Ne duam të sigurohemi që zhvillimi i modelit tonë është i sigurt pavarësisht nëse kjo ndodh brenda kompanisë apo kur ua dërgojmë përdoruesve. Por kur ua dërgojmë përdoruesve, kemi një standard jashtëzakonisht të lartë për sa i përket sigurisë dhe harmonizimit”, shtoi ajo.

Modeli kryesor agjentik GPT-6 Astra u lançua në shtator dhe specializohet në arsyetimin kompleks dhe ekzekutimin e detyrave në mënyrë autonome. OpenAI tha se ishte rezultat i “viteve të tëra kërkimesh dhe bastesh të mëdha”.

OpenAI do të mbajë konferencën e saj vjetore të zhvilluesve DevDay në San Francisko të martën, ku pritet të bëjë disa njoftime. Nuk është e qartë nëse një version i ri i Astra do të jetë midis tyre.

Kontrollet e sigurisë së kompanisë janë vënë nën shqyrtim të rreptë pas disa incidenteve të profilit të lartë që përfshijnë teknologjinë e saj.

Hakerat e Australisë

Javën e kaluar, kryeministri australian Anthony Albanese njoftoi se një agjent mashtrues i OpenAI kishte hakuar faqet e internetit dhe sistemet qeveritare në qershor, në atë që ekspertët e quajtën rasti i parë i njohur i këtij lloji në botë.

Albanese kritikoi OpenAI për njoftimin e qeverisë australiane përmes një adrese të përgjithshme email-i në vend që të bënte kontakt të drejtpërdrejtë me zyrtarët.

OpenAI tha në një deklaratë të martën se i vinte keq për incidentin dhe se “duhet ta kishte trajtuar përgjigjen tonë më mirë”.

Services Australia, Byroja e Statistikave dhe Kërkimeve të Krimit të NSW, Departamenti i Shëndetësisë i Viktorias dhe Instituti Australian i Shëndetit dhe Mirëqenies u prekën të gjitha, sqaroi OpenAI.

Firma tha se nisi hetimet për incidentet sapo u vu në dijeni të tyre në mesin e gushtit dhe njoftoi organizatat e prekura midis 10 dhe 24 shtatorit.

“Qëllimi ynë ishte t’u jepnim agjencive të prekura një përshkrim të detajuar pasi të përfundonte hetimi ynë”, tha OpenAI, duke shtuar se duhet të kishte ndarë gjetjet e hershme më shpejt dhe t’i kishte mbajtur autoritetet australiane të përditësuara.

OpenAI shtoi se do të zhvillojë “qasje praktike” se si zhvilluesit dhe qeveritë identifikojnë dhe zbulojnë incidentet e ardhshme të inteligjencës artificiale.

Kompania do të financojë masa të sigurisë kibernetike, do të ofrojë mbështetje të dedikuar për agjencitë e prekura dhe do të krijojë një grup pune për të menaxhuar rreziqet nga agjentët gjithnjë e më të përparuar të inteligjencës artificiale.

Ai tha gjithashtu se një ekzekutiv i lartë i OpenAI do të jetë në Australi për të marrë pjesë në një seancë dëgjimore të Komitetit të Përbashkët të Përzgjedhur mbi IA-në më 6 tetor.

Në korrik, OpenAI tha se sistemet e saj të inteligjencës artificiale kishin hyrë në internet dhe kishin hakuar qendrën e zhvilluesve me kod të hapur Hugging Face, duke i bërë studiuesit dhe zyrtarët të kërkonin kontrolle më të rrepta mbi teknologjinë.