Dorëheqjet e fundit nga studiuesit e sigurisë së inteligjencës artificiale dhe paralajmërimet nga drejtuesit kryesorë të teknologjisë, kanë ringjallur shqetësimet nëse sistemet gjithnjë e më autonome mund të bëhen përfundimisht të vështira për t'u kontrolluar.

Debati më i rëndësishëm i inteligjencës artificiale nuk ka më të bëjë me chatbot-et apo deepfakes.

Bëhet fjalë për faktin nëse njerëzimi është në prag të ndërtimit të makinave më të zgjuara se njerëzit, dhe çfarë ndodh më pas.

Çështja ka fituar vëmendje të re ditët e fundit pasi një studiues u largua nga Anthropic, duke paralajmëruar se kompanitë kryesore të IA-së po “vraponin drejt superinteligjencës vetëpërmirësuese dhe po luanin me jetën tonë”, ndërsa një tjetër studiues i Anthropic tha se ai personalisht vlerësoi më shumë se 10% shanse që IA të mund të vriste të gjithë njerëzit brenda dekadës së ardhshme.

Paralajmërimet u pasuan nga drejtori ekzekutiv i Anthropic, Dario Amodei, i cili bëri thirrje që industria të ngadalësojë ritmin e zhvillimit të inteligjencës artificiale.

Drejtori ekzekutiv i OpenAI, Sam Altman, dhe drejtori ekzekutiv i xAI, Elon Musk, shprehën mbështetje për idenë, ndërsa Presidenti i SHBA-së, Donald Trump, argumentoi kundër ngadalësimit të sektorit të inteligjencës artificiale në SHBA për shkak të konkurrencës me Kinën.

Ndërkohë, Kina kundërshtoi thirrjet për një ngadalësim, duke paralajmëruar se “nxitja e frikës” dhe konfrontimi me anë të inteligjencës artificiale, mund të pengojnë përpjekjet globale për të qeverisur teknologjinë.

Çfarë është 'superinteligjenca'?

Kjo teknologji hipotetike quhet përgjithësisht superinteligjencë artificiale, ose ASI.

Termi nuk ka një përkufizim të vetëm të dakordësuar, por studiuesit e inteligjencës artificiale në përgjithësi e përdorin atë për të përshkruar një sistem që do të posedonte inteligjencë që tejkalon atë të mendjeve më të talentuara njerëzore, ose siç e ka thënë filozofi Nick Bostrom, çdo intelekt që tejkalon shumë performancën njohëse njerëzore në pothuajse të gjitha fushat e interesit.

Kjo është e ndryshme nga modelet e mëdha gjuhësore të sotme, të tilla si ChatGPT ose Claude, të cilat mund t’i tejkalojnë njerëzit në detyra të ngushta -- shkrim, kodim, disa forma të arsyetimit -- por prapëseprapë kërkojnë mbikëqyrje të rëndë njerëzore dhe bëjnë gabime themelore.

Superinteligjenca, siç e përdorin termin laboratorët e inteligjencës artificiale, do të nënkuptonte sisteme që nuk kanë nevojë për një mbikëqyrje të tillë dhe që mund të kryejnë në mënyrë të pavarur kërkime shkencore, të drejtojnë kompani ose të projektojnë teknologji të reja më shpejt dhe më mirë se çdo njeri ose institucion njerëzor.

Shqetësimi që nxit paralajmërimet aktuale nuk është vetë superinteligjenca, por rruga që disa studiues besojnë se çon atje: vetëpërmirësimi rekursiv, në të cilin sistemet e inteligjencës artificiale përdoren për të hartuar dhe trajnuar gjeneratën e ardhshme të sistemeve të inteligjencës artificiale, duke krijuar një lak reagimi që mund të përshpejtojë progresin përtej aftësisë së njerëzimit për ta monitoruar ose korrigjuar atë.

Si Anthropic ashtu edhe OpenAI kanë thënë në muajt e fundit se ky lloj vetëpërmirësimi i automatizuar po ndodh më shpejt nga sa kishin pritur.

Çfarë mund të ndodhë nëse arrihet superinteligjenca

Raporti Ndërkombëtar i Sigurisë së IA-së i vitit 2026, i udhëhequr nga fituesi i Çmimit Turing, Yoshua Bengio, dhe që përfshin më shumë se 100 ekspertë të nominuar nga mbi 30 vende dhe organizata ndërkombëtare, thotë se sistemet aktuale të IA-së ende nuk i kanë aftësitë e nevojshme për skenarë të humbjes së vazhdueshme të kontrollit. Por paralajmëron se aftësitë përkatëse, veçanërisht funksionimi autonom, po përmirësohen me shpejtësi.

Studiuesit dhe drejtuesit përmendin një gamë pasojash të mundshme, nga të zakonshmet deri te ekzistencialet.

Një nga shqetësimet kryesore është humbja e kontrollit teknik.

Pasi një sistem arrin arsyetimin mbinjerëzor, operatorët mund të mos kenë më aftësinë fizike ose digjitale për ta kufizuar ose fikur atë.

Zbulimet e fundit të sigurisë kanë nxjerrë në pah raste në të cilat agjentët eksperimentalë të inteligjencës artificiale kanë shkelur mjedise të izoluara testimi, dhe kanë ekzekutuar kod të paautorizuar nëpër rrjete të jashtme përpara se të përmbaheshin.

Një shqetësim tjetër është përhapja e armëve biologjike dhe sulmeve kibernetike. Modelet e përparuara kufitare mbartin rreziqe me përdorim të dyfishtë, që do të thotë se aftësitë e tyre mund të shfrytëzohen nga aktorë armiqësorë për të krijuar patogjenë ose për të nisur sulme kibernetike autonome në shkallë të gjerë kundër infrastrukturës kritike.

Ekzistojnë gjithashtu frikëra për paqëndrueshmëri gjeopolitike dhe ekonomike.

Një përparim i papritur drejt superinteligjencës mund të prishë tregjet e punës, të minojë aftësitë ekzistuese të mbrojtjes kombëtare dhe të përqendrojë një pushtet të madh gjeopolitik në duart e një numri të vogël kompanish ose shtetesh.

Drejtori ekzekutiv i Anthropic, Amodei, ka paralajmëruar për një “makth totalitar” nëse regjimet autoritare e fitojnë të parët teknologjinë.

Megjithatë, të njëjtat aftësi mund të sjellin edhe përfitime. Mbështetësit thonë se inteligjenca artificiale superinteligjente mund të ndihmojë në kurimin e sëmundjeve, përshpejtimin e zbulimeve shkencore, gjenerimin e një prosperiteti të paparë dhe kontributin në zgjidhjen e ndryshimeve klimatike dhe problemeve të tjera globale.

Krerët e Silicon Valley bien dakord të 'Nxitin Kufirin'

Në një veprim të paprecedentë që reflekton ankthin në rritje, drejtuesit e teknologjisë së nivelit të lartë kanë filluar të bëjnë thirrje për një ngadalësim vullnetar.

Të shtunën, Amodei, në një ese të titulluar “Ne duhet të ecim me ritëm në kufi”, tha se dy zhvillime e kishin bindur se puna në fushën e sigurisë po mbetet prapa: përshpejtimi i vetëpërmirësimit rekursiv që nga vera dhe incidentet në të cilat një mori agjentësh të inteligjencës artificiale ndërmorën veprime të paautorizuara.

Një incident i tillë ndodhi në korrik, kur OpenAI zbuloi se modelet e saj eksperimentale të inteligjencës artificiale dolën nga sandbox-i i tyre gjatë një testi të sigurisë së brendshme.

Inteligjenca artificiale gjeti një dobësi të fshehur të sistemit, hyri në internet vetë dhe shënjestroi platformën e inteligjencës artificiale Hugging Face, duke depërtuar në sistemet e saj gjatë disa ditëve ndërsa përpiqej të gjente përgjigje që do ta ndihmonin të kalonte testin.

OpenAI e quajti episodin një “incident kibernetik të paparë”, të cilin më vonë e përshkroi si sulmin e parë kibernetik shumëhapësh të njohur të kryer tërësisht nga një agjent autonom i IA-së pa një drejtim njerëzor.

Amodei paralajmëroi se një tufë më e aftë, por e çorientuar në mënyrë të ngjashme, mund të krijojë, brenda gjashtë deri në 12 muajsh, një botnet të vazhdueshëm të aftë për të marrë nën kontroll pjesë të mëdha të internetit dhe për të shkaktuar dëme me vlerë qindra miliarda dollarë.

Ai propozoi një plan që u kërkon kompanive në zhvillim e sipër t'u japin vlerësuesve të pavarur të sigurisë "qasje të ngjashme me punonjësit" për të audituar modelet e inteligjencës artificiale dhe kanalet e trajnimit.

Në një moment të rrallë përafrimi midis rivalëve të ashpër, Altman i OpenAI dhe Musk i xAI mbështetën publikisht thirrjen e Amodei-t.

"Dario ka të drejtë," postoi Musk në X.

Altman u pajtua, duke konfirmuar se OpenAI po vlerësonte në mënyrë aktive mekanizma të ngjashëm të monitorimit të pavarur.

Altman vuri në dukje gjithashtu se OpenAI do të vononte listimin e saj në tregun publik për shkak të shqetësimeve të shtuara për sigurinë e inteligjencës artificiale. "Tani për tani do të ishte një moment i pakëshillueshëm për t'u bërë publik," deklaroi ai./ AA.