Gjatë një sesioni të posaçëm të Këshillit të Sigurimit të Kombeve të Bashkuara, zhvilluar të mërkurën në Nju Jork, drejtuesit e disa prej kompanive kryesore të inteligjencës artificiale theksuan nevojën për një vigjilencë më të madhe në zhvillimin e kësaj teknologjie.
Të lidhura
None found
Në qendër të bisedimeve ishte ritmi i furishëm i progresit të sistemeve të IA-së dhe rreziku që ato të fitojnë gjithnjë e më shumë autonomi, duke tejkaluar kapacitetin e institucioneve për t’i kontrolluar. Seanca u organizua me nismën e Francës, në një kontekst ku shqetësimet ndërkombëtare për sigurinë e inteligjencës artificiale janë në rritje.
Sam Altman, shefi ekzekutiv i OpenAI, deklaroi se momenti i tanishëm kërkon “kujdes të madh”, duke paralajmëruar se, me automatizimin në rritje të procesit të zhvillimit të IA-së, shpejtësia e përmirësimit të teknologjisë mund të përshpejtohet në mënyrë domethënëse.
Altman gjithashtu shprehu shqetësimin se njerëzimi mund të humbasë kontrollin mbi të ardhmen e inteligjencës artificiale, ndërsa paralajmëroi kundër një qëndrimi që e trajton teknologjinë vetëm përmes skenarëve më të zinj.
Ai tha: “Ne nuk duam të biem në kurthin e optimizmit të verbër, por gjithashtu nuk mund t’i dorëzohemi fundit të botës”, duke apeluar për gjetjen e një rruge të mesme dhe për bashkëpunim ndërkombëtar.
Sipas tij, vendimet më kritike për IA-në nuk duhet të jenë ekskluzivitet i kompanive të teknologjisë, por duhet të përcaktohen përmes proceseve demokratike dhe nga qeveritë që janë përgjegjëse para qytetarëve.
Në të njëjtën seancë, Dario Amodei, CEO i Anthropic, i cili mori pjesë me videokonferencë, mori angazhimin se kompania e tij do të frenojë ritmin e zhvillimit të inteligjencës artificiale aq sa është e nevojshme për të garantuar sigurinë e modeleve të reja.
Duke theksuar se “Do të ngadalësojmë sa të jetë e nevojshme” që çdo model i ri “të jetë vërtet i sigurt”, Amodei konfirmoi këtë angazhim të njëanshëm të Anthropic-ut. Thirrjet e mëhershme për një ngadalësim të koordinuar midis kompanive të mëdha të IA-së nuk kanë çuar ende në një marrëveshje të përbashkët.
Më tej, Amodei paralajmëroi se, nëse keqmenaxhohet, inteligjenca artificiale mund të kërcënojë njerëzimin dhe kërkoi marrëveshje ndërkombëtare, që përfshijnë standarde të njësuara për testimin e modeleve të reja dhe kufizime në përdorimin e IA-së për zhvillimin e armëve biologjike.
I pranishëm ishte edhe Clément Delangue, drejtuesi i Hugging Face, ndërsa diskutimet u fokusuan në nevojën për standarde ndërkombëtare dhe mbikëqyrje të teknologjisë.
Shqetësimet janë rritur pas një sërë incidentesh të raportuara gjatë muajve të fundit, në të cilat modele të avancuara të IA-së patën sjellje të paparashikuara nga krijuesit e tyre. Një rast i cituar lidhet me agjentë të OpenAI-së që u përfshinë në një incident hakerimi kundër platformës Hugging Face.
Debati në Kombet e Bashkuara zhvillohet në një kohë kur kompanitë e teknologjisë, qeveritë dhe ekspertët po shqyrtojnë mënyrat për të vendosur rregulla të harmonizuara për një teknologji që po ecën me hapa gjigantë. Altman dhe Amodei theksuan se zhvillimi i IA-së duhet të shoqërohet me masa sigurie dhe bashkëpunim ndërkombëtar.
