OpenAI ka pranuar se nuk e menaxhoi siç duhet një incident të ndodhur në qershor, kur një prej agjentëve të saj të inteligjencës artificiale hyri pa autorizim në sisteme të lidhura me qeverinë australiane.
Shefi i strategjisë së OpenAI, Jason Kwon, gjatë një seance parlamentare në Sidnej, tha se incidenti “nuk duhej të kishte ndodhur” dhe se kompania duhet ta kishte trajtuar ndryshe situatën.
Sipas Kwon, OpenAI vonoi për disa javë njoftimin e autoriteteve australiane. Kompania fillimisht dërgoi një njoftim në një adresë të përgjithshme elektronike, në vend që të kontaktonte drejtpërdrejt ministrat apo zyrtarët përgjegjës.
“Na vjen keq dhe e dimë se kemi punë për të bërë për të rikthyer besimin e popullit australian”, deklaroi Kwon.
Incidenti ndodhi në qershor, kur një agjent i OpenAI dyshohet se doli jashtë kontrollit dhe arriti të hynte në një portal privat që përmbante të dhëna statistikore të lidhura me Medicare, sistemin publik të sigurimit shëndetësor në Australi.
Ekspertë të sigurisë kibernetike e kanë cilësuar rastin si një nga shembujt e hershëm të një incidenti të këtij lloji, ku një agjent i inteligjencës artificiale ndërmerr veprime të paautorizuara ndaj sistemeve të tjera.
I pyetur për arsyen e vonesës në njoftimin e autoriteteve të larta, Kwon pranoi se kompania kishte gabuar.
“Duke e parë tani, duhej të kishim bërë atë që po sugjeroni”, tha ai.
Sipas tij, në fazat e para incidenti ishte trajtuar si një problem teknik dhe komunikimi ishte kufizuar te personat përgjegjës për çështjet teknologjike.
Kwon tha se OpenAI ka ndryshuar tashmë protokollet e saj për menaxhimin e incidenteve. Sipas tij, edhe në rastet kur kompania nuk e ka ende të qartë natyrën e plotë të një incidenti, pala e prekur do të njoftohet menjëherë dhe do të nisë bashkëpunimi për zgjidhjen e problemit.
Pas ngjarjes, OpenAI ka forcuar masat e sigurisë në mjediset ku modelet e saj trajnohen dhe testohen. Kompania thotë se këto sisteme tashmë monitorohen në kohë reale dhe aktivizojnë sinjalizime nëse një model përpiqet të përdorë internetin në mënyrë të paautorizuar.
Sipas OpenAI, këto masa ndihmuan kompaninë që javën e kaluar të njoftonte qeverinë e Uellsit të Ri Jugor për një tjetër incident brenda 48 orëve.
Kompania po punon gjithashtu për krijimin e një grupi të posaçëm në Australi, i cili do të shqyrtojë mënyra të reja për menaxhimin dhe kontrollin e rreziqeve që lidhen me zhvillimin e inteligjencës artificiale.
Në seancën parlamentare dëshmoi edhe Anthropic. Përfaqësuesi i kompanisë, Dave Orr, tha se pas një incidenti të korrikut, kur agjentë të OpenAI kishin sulmuar platformën teknologjike Hugging Face, kompania kishte kontrolluar qindra miliona regjistrime.
Sipas Orr, Anthropic nuk kishte identifikuar raste të ngjashme ku agjentët e saj të kishin hyrë në sistemet e qeverisë australiane.
Në seancat parlamentare u diskutua edhe përdorimi i materialeve të mbrojtura nga e drejta e autorit për trajnimin e modeleve të inteligjencës artificiale.
Përfaqësues të industrisë së artit dhe medias shprehën shqetësimin se librat, muzika dhe materiale të tjera po përdoren për trajnimin e sistemeve të AI-së pa një kompensim të përshtatshëm për krijuesit.
Kompanitë e inteligjencës artificiale kërkojnë që Australia të lehtësojë rregullat e të drejtave të autorit, duke argumentuar se kjo do t’u mundësonte përdorimin e materialeve për zhvillimin dhe trajnimin e modeleve.
Nga ana tjetër, përfaqësues të industrisë krijuese paralajmëruan se një sistem ku artistët duhet të kërkojnë individualisht që veprat e tyre të mos përdoren nga kompanitë e AI-së mund të bëjë që shumë prej tyre të mbeten pa kompensim.
Annabelle Herd, drejtuesja e Australian Recording Industry Association, tha se artistët australianë rrezikojnë të mbajnë koston e ndryshimeve ligjore që mund të favorizojnë industrinë e inteligjencës artificiale.
Ndërkohë, Jeff Bleich, përfaqësues i Anthropic, deklaroi se kompania nuk ka tentuar t’i diktojë Australisë mënyrën se si duhet të hartojë ligjet e saj për të drejtat e autorit.