OpenAI pushon nga puna 3 studiues sigurie pas rrjedhjes së të dhënave, rriten shqetësimet për rreziqet e AI

OpenAI ka pushuar nga puna tre studiues për keqpërdorim të informacionit, përfshirë punën që përfshinte një organizatë të jashtme që analizon modelet e inteligjencës artificiale (IA).

“Hetimi ynë konfirmoi se këta individë keqpërdorën informacione të ndjeshme jashtë procedurave të përcaktuara të kompanisë, duke shkelur politikat tona dhe duke thyer besimin thelbësor për punën tonë”, tha një zëdhënës.

Krijuesi i ChatGPT nuk i emëroi punëtorët e pushuar nga puna, por të paktën dy prej tyre ishin të përfshirë në kërkimin e sigurisë në firmë.

Shkarkimet vijnë ndërsa debati mbi sigurinë e inteligjencës artificiale dhe rreziqet që teknologjia mund të paraqesë për njerëzimin është intensifikuar në javët e fundit.

“Kemi ndarë rrugët me tre individë për shkelje të politikave tona mbi aksesin dhe trajtimin e informacionit të ndjeshëm të kompanisë”, tha zëdhënësi i OpenAI.

Shqetësimet në lidhje me sigurinë e inteligjencës artificiale kanë bërë bujë në media pasi disa studiues dhe drejtues të industrisë kërkuan më shumë masa mbrojtëse rreth teknologjisë.

OpenAI është vënë nën shqyrtim të rreptë pasi modelet e saj u bënë të pavëmendshme dhe hakuan disa platforma, duke përfshirë faqet e internetit të qeverisë australiane .

Në një incident të mëparshëm, një sistem OpenAI hyri në internet dhe shkeli platformën e zhvilluesve me burim të hapur Hugging Face.

Ky incident e shtyu OpenAI të kryente një shqyrtim të gjerë të aktiviteteve të modeleve të saj të inteligjencës artificiale, të quajtura agjentë, të cilët janë krijuar për të ekzekutuar detyra në mënyrë autonome bazuar në udhëzime të thjeshta.

Laboratori i IA-së tha këtë javë se ka njoftuar më shumë se 100 organizata rreth incidenteve që përfshijnë aktivitete të paautorizuara të lidhura me sistemet e tij të IA-së.

Të qenit i njoftuar “nuk do të thotë se është aksesuar ndonjë informacion privat” ose se një sistem është kompromentuar, tha OpenAI.

Në shtator, studiuesi Jacob Coxon, i cili u largua nga Anthropic , bëri thirrje që zhvillimi i inteligjencës artificiale të ngadalësohet në mënyrë që rreziqet e tij të mundshme të mund të vlerësohen siç duhet.

Shefi i Anthropic, Dario Amodei, dhe drejtori ekzekutiv i OpenAI, Sam Altman, kanë bërë thirrje gjithashtu për masa për të adresuar shqetësimet në lidhje me inteligjencën artificiale.

Të martën, Presidenti i SHBA-së Donald Trump priti një takim me drejtuesit më të lartë të teknologjisë, përfshirë drejtues nga OpenAI, Anthropic, Nvidia, SpaceX, Meta dhe Google, për të diskutuar mbi inteligjencën artificiale.

Pas takimit në Shtëpinë e Bardhë, Trump postoi një dokument që e quajti një marrëveshje “moralisht të detyrueshme” që do të shërbente si një “formë mbrojtjeje” nga rreziqet e mundshme të inteligjencës artificiale.

Disa ekspertë të teknologjisë e kritikuan paktin, duke theksuar se ai u lejonte kompanive të inteligjencës artificiale të vetërregulloheshin.

Trump ka minimizuar vazhdimisht shqetësimet në lidhje me rreziqet e inteligjencës artificiale në përgjigje të thirrjeve nga disa figura të industrisë për mbikëqyrje më të rreptë të teknologjisë.