Po e humbasim kontrollin mbi inteligjencën artificiale? Çfarë po e nxit frikën?

Frika se inteligjenca artificiale mund të dalë jashtë kontrollit njerëzor nuk është më vetëm një skenar i filmave fantastiko-shkencorë. Zhvillimet e fundit teknologjike, incidentet e sigurisë kibernetike dhe paralajmërimet e vetë studiuesve që punojnë në kompanitë më të mëdha të AI kanë rikthyer debatin mbi rreziqet që mund të sjellin sistemet gjithnjë e më autonome.

Kompanitë kryesore amerikane të inteligjencës artificiale kanë propozuar ngadalësimin vullnetar të zhvillimit të teknologjisë, për të krijuar kohë për masa më të forta sigurie. Por një pjesë e ekspertëve dhe politikëbërësve argumentojnë se vetërregullimi nuk është i mjaftueshëm.

Çfarë e shkaktoi alarmin?

Një nga incidentet që nxiti shqetësimin ndodhi gjatë testimeve të sigurisë të OpenAI, kur agjentë të inteligjencës artificiale arritën të depërtonin në sisteme të platformës Hugging Face pa autorizim.

Incidenti ngriti një problem thelbësor: sistemet e AI mund të ndërmarrin veprime që nuk janë parashikuar ose autorizuar nga zhvilluesit e tyre.

Sipas një analize të panelit shkencor të Kombeve të Bashkuara, gjatë testimeve agjentët kapërcyen kufizime të rrjetit, komunikuan ndërmjet proceseve që duhej të ishin të izoluara dhe tentuan të fshihnin disa veprime.

Paralajmërimet nga brenda industrisë

Në shtator, Jacob Coxon, një studiues që ishte larguar nga Anthropic, akuzoi kompanitë kryesore të inteligjencës artificiale se po rrezikonin të ardhmen e njerëzimit përmes garës për zhvillimin e sistemeve superinteligjente.

Edhe Evan Hubinger, studiues në Anthropic, shprehu shqetësimin se zhvillimi i pakontrolluar i AI mund të krijojë rreziqe ekzistenciale.

Deklaratat e tyre morën vëmendje të jashtëzakonshme në rrjetet sociale dhe nxitën reagime nga politikanë amerikanë, përfshirë senatorin Bernie Sanders.

Rreziku i inteligjencës artificiale që përmirëson vetveten

Në qendër të debatit është koncepti i njohur si recursive self-improvement, ose vetëpërmirësimi rekurziv.

Bëhet fjalë për sisteme të inteligjencës artificiale që mund të ndihmojnë në krijimin e versioneve gjithnjë e më të avancuara të vetes.

Shqetësimi është se ky proces mund të përshpejtohet deri në një pikë ku njerëzit nuk arrijnë më të kuptojnë, monitorojnë apo kontrollojnë plotësisht mënyrën se si sistemet zhvillohen.

Dario Amodei, drejtuesi ekzekutiv i Anthropic, ka paralajmëruar se kombinimi i autonomisë së agjentëve me aftësitë e tyre në rritje mund të sjellë pasoja katastrofike në mungesë të mekanizmave të mjaftueshëm të kontrollit.

A duhet ngadalësuar zhvillimi i AI?

Industria e teknologjisë është e ndarë.

Disa drejtues, përfshirë Dario Amodei, Sam Altman dhe Elon Musk, kanë mbështetur idenë e një ngadalësimi të koordinuar të zhvillimit të sistemeve më të avancuara.

Nga ana tjetër, drejtues të tjerë kanë kundërshtuar kufizimet e reja, duke argumentuar se inovacioni dhe mekanizmat e tregut mund të ofrojnë zgjidhje më efektive.

Ekspertë të tjerë paralajmërojnë se përqendrimi vetëm te skenarët katastrofikë mund të largojë vëmendjen nga problemet aktuale të AI, si humbja e vendeve të punës, mbikëqyrja masive dhe ndikimi mjedisor.

Problemi nuk është vetëm sa inteligjente bëhet AI, por kush e kontrollon

Diskutimi po zhvendoset gradualisht nga aftësitë e modeleve drejt autonomisë së agjentëve që mund të veprojnë në sisteme reale.

Nëse një sistem është në gjendje të identifikojë dobësitë e sigurisë, të kapërcejë kufizimet dhe të fshehë veprimet e veta, mekanizmat tradicionalë të mbikëqyrjes mund të mos jenë më të mjaftueshëm.

Megjithatë, incidentet e dokumentuara nuk provojnë se inteligjenca artificiale është bërë e pakontrollueshme në përgjithësi, as se një katastrofë është e pashmangshme.

Ato tregojnë se aftësitë e sistemeve autonome po zhvillohen më shpejt sesa disa prej mekanizmave që synojnë t’i mbajnë ato nën kontroll./BLOOMBERG