OpenAI ka pranuar se nuk reagoi siç duhet pasi një prej agjentëve të saj të inteligjencës artificiale hyri pa autorizim në disa sisteme të qeverisë australiane në qershor. Shefi i strategjisë së OpenAI, Jason Kwon, tha në një seancë parlamentare në Sidnej se incidenti “nuk duhej të kishte ndodhur” dhe se kompania “duhej ta kishte menaxhuar më mirë situatën”. Sipas tij, OpenAI u deshën disa javë për të njoftuar autoritetet australiane për incidentin. Njoftimi fillestar u dërgua në një adresë të përgjithshme emaili dhe jo drejtpërdrejt te ministrat apo zyrtarët përgjegjës.
“Na vjen keq dhe e dimë se kemi punë për të bërë për të rikthyer besimin e popullit australian”, tha Kwon. Incidenti ndodhi në qershor, kur një agjent i OpenAI doli jashtë kontrollit dhe hyri në një portal privat që përmbante të dhëna statistikore të lidhura me Medicare, sistemin publik të sigurimit shëndetësor në Australi. Sipas ekspertëve të sigurisë kibernetike, rasti përbën një nga shembujt e parë të një sulmi të këtij lloji të kryer nga një agjent i inteligjencës artificiale.
I pyetur se përse OpenAI nuk kishte kontaktuar menjëherë autoritetet më të larta qeveritare, Kwon pranoi se kompania kishte bërë një gabim. “Duke e parë tani, duhej të kishim bërë atë që po sugjeroni”, tha ai, duke shpjeguar se në fillim situata ishte trajtuar si një problem teknik dhe kompania kishte kontaktuar vetëm personat përgjegjës për çështjet teknike. Kwon tha se OpenAI ka ndryshuar mënyrën se si reagon ndaj incidenteve të tilla. Sipas tij, edhe kur kompania nuk e ka të qartë plotësisht se çfarë ka ndodhur, ajo do të njoftojë menjëherë palën e prekur dhe do të nisë bashkëpunimin për zgjidhjen e problemit.
Pas incidentit, OpenAI ka shtuar masa të reja sigurie në mjediset ku trajnohen dhe testohen modelet e saj. Këto sisteme tani monitorohen në kohë reale dhe aktivizohet një alarm nëse një model përpiqet të përdorë internetin në një mënyrë që nuk është lejuar. Kompania tha se këto masa e ndihmuan javën e kaluar të njoftonte qeverinë e Uellsit të Ri Jugor për një tjetër incident brenda 48 orëve. OpenAI po krijon gjithashtu një grup pune në Australi për të shqyrtuar mënyrat se si mund të kontrollohen më mirë rreziqet që vijnë nga zhvillimi i inteligjencës artificiale.
Në seancën parlamentare dëshmoi edhe kompania Anthropic. Përfaqësuesi i saj, Dave Orr, tha se kompania kishte kontrolluar qindra miliona regjistrime pas një incidenti të korrikut, kur agjentë të OpenAI kishin sulmuar platformën teknologjike Hugging Face. Orr tha se Anthropic nuk kishte gjetur raste të ngjashme të hyrjes së agjentëve të saj në sistemet e qeverisë australiane. Në seancat parlamentare u diskutua edhe çështja e të drejtave të autorit. Organizatat e artit dhe medias shprehën shqetësimin se kompanitë e inteligjencës artificiale po përdorin libra, muzikë dhe materiale të tjera për të trajnuar modelet e tyre.
Kompanitë e AI-së kërkojnë që Australia të lehtësojë rregullat e të drejtave të autorit, në mënyrë që këto materiale të mund të përdoren për trajnimin e sistemeve të inteligjencës artificiale. Përfaqësuesit e industrisë së artit paralajmëruan se një sistem ku artistët duhet të kërkojnë vetë që materialet e tyre të mos përdoren nga AI mund të bëjë që shumë prej tyre të mos paguhen për punën e tyre.
Annabelle Herd, drejtuesja e Australian Recording Industry Association, tha se artistët australianë rrezikojnë të mbeten ata që paguajnë çmimin nëse rregullat ndryshojnë për t’iu përshtatur industrisë së inteligjencës artificiale. Nga ana tjetër, Jeff Bleich, përfaqësues i Anthropic, tha se kompania nuk është përpjekur t’i diktojë Australisë se si duhet të hartojë ligjet e saj për të drejtat e autorit.
