Mbreti Çarls paralajmëron për "rrezikun ekzistencial" të IA

Mbreti Çarls i ka paralajmëruar drejtuesit e inteligjencës artificiale për "rreziqet ekzistenciale" që vijnë nga rënia e teknologjisë në duar të gabuara.

Ai i bëri komentet në një samit që kishte mbledhur në Dumfries House në Ayrshire për të diskutuar se si teknologjia mund të përdoret në dobi të shoqërisë.

Në takim morën pjesë edhe Kanishka Narayan, Ministri i IA-së në Mbretërinë e Bashkuar, këshilltari i Papës, si dhe pjesëmarrës nga gjigantët e IA-së si Nvidia, OpenAI dhe Anthropic.

Kjo vjen mes një sërë paralajmërimesh të kohëve të fundit nga njerëz brenda industrisë në lidhje me aftësitë në zhvillim të shpejtë të modeleve të përparuara ose "kufitare" të inteligjencës artificiale dhe rregulloren e nevojshme për t'i mbajtur ato nën kontroll.

“Ata që i kanë krijuar këto teknologji tani po paralajmërojnë gjithnjë e më shumë se inteligjenca artificiale rrezikon të zhvillojë kapacitete më të errëta - ndoshta edhe të marrë jetë”, u tha Mbreti drejtuesve.

Ai tha se dukej se kishte një "urgjencë" në "marrjen në konsideratë të mjaftueshme të rreziqeve ekzistenciale të teknologjive të tilla që bien në duar të gabuara dhe përdoren në mënyra potencialisht katastrofike".

"Detyra para jush nuk është thjesht të përparoni teknologjinë, por të siguroheni që ajo të mbetet fort në shërbim të njerëzimit, komunitetit dhe botës natyrore", i tha ai grupit.

Samiti është thirrur për të shqyrtuar nëse mund të zhvillohet një "grup parimesh të përbashkëta" për të "ndihmuar në udhëzimin e zbatimit të ardhshëm" të inteligjencës artificiale.

'Vazhdoni inxhinierinë'
Jensen Huang, drejtori ekzekutiv i Nvidia, ishte midis udhëheqësve kryesorë të industrisë që morën pjesë.

Nvidia është një lojtar qendror në infrastrukturën e IA-së, duke furnizuar çipe për zhvilluesit kryesorë të modeleve të IA-së, përfshirë OpenAI dhe Meta.

Është gjithashtu kompania më e vlefshme në botë, me një vlerë në bursë prej rreth 5.15 trilion dollarësh.

Huang i tha dhomës se besonte që siguria ishte "mbi të gjitha", duke shtuar se kompanitë duhet të frenojnë një produkt dhe të "ruajnë inxhinierinë" nëse nuk është mjaftueshëm e sigurt.

Shefi i Nvidia theksoi gjithashtu vlerën e modeleve të hapura - sistemeve që u japin përdoruesve akses të drejtpërdrejtë në softuer - si një mënyrë për të "siguruar që njerëzit dhe vendet të mos lihen pas dore".

Ai tha se këto sisteme duhet të mbrohen gjithashtu në mënyrë që "studiuesit, universitetet, startup-et dhe vendet" të mund të zhvillojnë aplikacione që "askush prej nesh nuk do t'i kishte imagjinuar vetëm".

"Le të udhëheqim me optimizëm të përgjegjshëm, të ndërtojmë inteligjencën artificiale në mënyrë të sigurt, ta hapim atë për më shumë njerëz, të zgjerojmë ambicien tonë dhe të zgjidhim problemet që kanë rëndësi për botën", shtoi Huang.

Ndërkohë, Sir Demis Hassabis, i cili bashkëthemeloi laboratorin e inteligjencës artificiale në Mbretërinë e Bashkuar, DeepMind - i cili më vonë u ble nga Google - ofroi një pikëpamje më të kujdesshme mbi ritmin e zhvillimit.

Ai tha se inteligjenca e përgjithshme artificiale - sistemet që besohet se mund të jenë po aq të mira ose më të mira se njerëzit në detyra të shumëfishta - ishin "ndoshta vetëm disa vite larg" dhe mund të kishin një ndikim "dhjetë herë më të madh se ai i Revolucionit Industrial".

Mundësia që diçka të shkonte keq ishte "padyshim jo zero", shtoi Sir Demis.

Por ai mbështeti "një rrugë të mesme të arsyeshme", duke thënë se njerëzimi mund t'i adresonte rreziqet nëse kolektivisht i jepej hapësira dhe koha për t'i zbutur ato.

"E ardhmja nuk është shkruar ende", u tha ai delegatëve të Mbretit.

Sarah Friar, drejtoresha financiare e OpenAI, tha se inteligjenca artificiale kishte potencialin për të zgjidhur disa nga "problemet më të vështira" të shoqërisë - por u pajtua se aftësitë e saj në rritje ngritën pyetje në lidhje me sigurinë dhe "si sigurohemi që ajo t'u shërbejë gjithmonë njerëzve".

"Ne duhet t'i adresojmë këto pyetje së bashku", tha ajo.

"Asnjë kompani apo qeveri nuk mund ta bëjë këtë e vetme dhe i jam mirënjohës Madhërisë së Tij që thirri këtë diskutim në një moment kaq të rëndësishëm."