"Kjo është protestë e faqes së bardhë"/ Protestuesi: Kjo qeverisje që premtoi mrekulli në 2013 nuk bëri ...
Reforma territoriale/ Emiriona Sako: Kompetencat e centralizuara të rishikohen dhe të kthehen te bashkia, çdo funksion duhet sh...
Refuzuan ftesën e tij për tryezën, Rama i përgjigjet magjistratëve: Do vazhdojmë punën për ligjin e paga...
Ambasadorja e re e Bashkimit Evropian mesazh të qartë: Detyra juaj është që ndryshimi të vazhdojë 28 Shtator...
Në fushën e inteligjencës artificiale, termi rrezik ekzistencial nuk do të thotë vetëm se një sistem i inteligjencës artificiale mund të bëjë një gabim ose të shkaktojë një sulm kibernetik.
SHBA- A mund t'u kërkojë një kompani investitorëve të vlerësojnë veten në më shumë se 2 trilionë dollarë dhe në të njëjtën kohë t'i paralajmërojë ata se teknologjia mbi të cilën ka ndërtuar vlerën e saj, në rastin më të keq, mund të paraqesë një rrezik ekzistencial për njerëzimin?
Kjo është pikërisht ajo që po bën Anthropic, kompania e inteligjencës artificiale që krijoi Claude, raportoi Financial Times më herët sot, në prospektin e saj për listimin e saj në Nasdaq. Fraza është mbresëlënëse, por ka nevojë për një sqarim të rëndësishëm, Anthropic nuk po parashikon që inteligjenca artificiale do ta zhdukë njerëzimin. Po u thotë investitorëve potencialë se, ndërsa modelet bëhen më të fuqishme dhe autonome, ka rreziqe ekstreme që kompania mendon se duhet t'i pranojë zyrtarisht.
Sipas analizës nga mediat e huaja, kjo e bën këtë në një nga dokumentet më serioze që një kompani mund të përgatisë: S-1, dosja me të cilën u paraqet investitorëve të dhënat e saj financiare, modelin e saj të biznesit dhe, më e rëndësishmja, gjithçka që mund të shkojë keq pasi të hyjë në tregun e aksioneve.
Çfarë do të thotë "rrezik ekzistencial"?
Në fushën e inteligjencës artificiale, termi rrezik ekzistencial nuk do të thotë vetëm se një sistem i inteligjencës artificiale mund të bëjë një gabim ose të shkaktojë një sulm kibernetik. Ai përshkruan skenarin ekstrem në të cilin sistemet shumë të përparuara do të fitonin aftësi të tilla saqë shoqëria njerëzore nuk do të mund t'i kontrollonte më në mënyrë efektive, me pasoja që mund të jenë katastrofike në shkallë globale. Në përmbledhjen e saj, Anthropic i referohet, ndër të tjera, mundësisë që modelet e përparuara të mund të manipulojnë njerëzit, të shantazhojnë, të anashkalojnë kufizimet ose të zhvillojnë sjellje të paparashikueshme.
Elementi thelbësor është rritja e autonomisë
Chatbot-et e sotëm kryesisht u përgjigjen pyetjeve. Por sistemet e së ardhmes janë projektuar për të funksionuar më shumë si agjentë të inteligjencës artificiale: duke kryer detyra komplekse, duke përdorur softuer, duke shkruar dhe ekzekutuar kod, duke lundruar në rrjete dhe duke marrë një sërë vendimesh pa kërkuar ndërhyrje njerëzore në çdo hap. Ndërsa kjo aftësi rritet, rritet edhe çështja e kontrollit.
Pse do të shkruante një kompani diçka kaq dramatike në buletinin e saj?
Ekziston një shpjegim më prozaik. Një prospekt IPO është një dokument si financiar ashtu edhe ligjor. Kompania duhet të informojë aksionarët e mundshëm rreth rreziqeve më të rëndësishme që mund të ndikojnë në vlerën e saj. Me fjalë të tjera, fakti që Anthropic liston një skenar si rrezik nuk do të thotë se beson se ka të ngjarë të ndodhë. Do të thotë se e konsideron mundësinë mjaftueshëm serioze sa nuk mund ta injorojë atë para investitorëve.
Në rastin e Anthropic, megjithatë, ekziston një veçanti: paralajmërimi nuk ka të bëjë vetëm me rreziqet klasike të biznesit, siç është humbja e klientëve ose rritja e kostove. Ai ka të bëjë me vetë produktin e kompanisë dhe pasojat e mundshme të teknologjisë së saj. Pothuajse një e treta e prospektit të saj, sipas informacionit në dosje, i kushtohet faktorëve të rrezikut.
Problemi nuk është vetëm një inteligjencë artificiale "e keqe"
Kur studiuesit flasin për rreziqet e inteligjencës artificiale të përparuar, ata nuk i referohen domosdoshmërisht një sistemi që vendos të kthehet kundër njerëzve, si në filmat fantastiko-shkencorë. Problemi mund të jetë shumë më praktik.
Një sistem i fuqishëm me qëllim të gabuar ose me kufizime që mungojnë mund të gjejë mënyra të paparashikueshme për të kryer një detyrë. Nëse ai ka edhe qasje në sisteme reale, burime financiare, kod, rrjete ose infrastrukturë kritike, pasojat e një gabimi bëhen shumë më të mëdha.
Kjo qëndron edhe pas konceptit të harmonizimit, përpjekja për të siguruar që sistemet e inteligjencës artificiale të veprojnë në përputhje me qëllimet dhe kufizimet që njerëzit kanë vendosur për to. Anthropic ka ndërtuar pjesën më të madhe të identitetit të tij rreth këtij problemi.
Agjentët e inteligjencës artificiale ndryshojnë nivelin e rrezikut
Shqetësimet janë shtuar veçanërisht nga kalimi nga modelet e thjeshta të bisedës në agjentë autonomë të inteligjencës artificiale. Një agjent mund të marrë një komandë të përgjithshme dhe më pas ta ndajë detyrën në hapa individualë, të kërkojë informacion, të përdorë mjete dhe të ndërmarrë veprime vetë. Kjo është jashtëzakonisht e dobishme komercialisht.
Është gjithashtu arsyeja pse kompanitë e inteligjencës artificiale shpresojnë që teknologjia do të transformojë punën. Por kjo gjithashtu do të thotë se një gabim, një komandë e gabuar ose keqpërdorimi i një sistemi mund të shkaktojë shumë më tepër dëme sesa përgjigja e gabuar e një roboti. Rastet e fundit të agjentëve të inteligjencës artificiale që infiltrojnë me sukses sistemet e jashtme e kanë përforcuar këtë shqetësim.
Kjo nuk është hera e parë që Amondei flet për një rrezik për njerëzimin
Gjuha në këtë informim nuk është një ndryshim i papritur i qëndrimit për Anthropic. Drejtori ekzekutiv i kompanisë, Dario Amonde, ka argumentuar vazhdimisht se sistemet shumë të përparuara të inteligjencës artificiale mund të paraqesin rreziqe të një shkalle të tillë saqë kërkojnë një përgjigje ndërkombëtare. Vetëm javën e kaluar, ai i tha Këshillit të Sigurimit të OKB-së se inteligjenca artificiale mund të kërcënojë njerëzimin dhe e quajti teknologjinë çështja më e rëndësishme e sigurisë globale me të cilën përballet bota sot.
Ai gjithashtu ka bërë thirrje që ritmi i zhvillimit të modeleve më të fuqishme të ngadalësohet kur aftësitë e tyre tejkalojnë mbrojtjet ekzistuese. Edhe njerëzit që zakonisht janë konkurrentë të ashpër, siç janë Sam Altman dhe Elon Musk i OpenAI, e kanë gjetur veten në të njëjtën anë për këtë çështje.
Paradoksi i një kompanie që ka frikë nga produkti i vet
Këtu qëndron paradoksi themelor i Anthropic. Kompania paralajmëron se teknologjia mund të bëhet jashtëzakonisht e rrezikshme, por në të njëjtën kohë po investon shuma të mëdha parash për të krijuar modele edhe më të fuqishme. Shpjegimi i dhënë nga kompani si Anthropic është se zhvillimi i sistemeve do të vazhdojë gjithsesi dhe për këtë arsye kompanitë janë të nevojshme të zhvillojnë mekanizma sigurie paralelisht.
Kritikët e kësaj qasje argumentojnë se ajo krijon një dekurajim të dukshëm, të njëjtat kompani që thirren të kufizojnë veten janë ato që konkurrojnë për të sjellë të parat në treg modelin më të fuqishëm.
Dhe e gjithë kjo ndërsa Anthropic po përgatitet për ofertën e saj më të madhe publike publike (IPO)
Diskutimi merr një rëndësi të veçantë ekonomike sepse Anthropic po përgatitet t'i kërkojë tregut një vlerësim që mund të arrijë në 2 trilion dollarë. Shifrat e saj tregojnë pse ka kaq shumë entuziazëm. Të ardhurat e saj janë rritur 12-fish brenda një viti në gati 4.6 miliardë dollarë, dhe vetëm në tremujorin e dytë të këtij viti arritën në 11.5 miliardë dollarë. Por kostot janë po aq mbresëlënëse.
Kompania pati një humbje operative prej më shumë se 8 miliardë dollarësh vitin e kaluar, me shpenzime operative prej gati 13 miliardë dollarësh, dhe është zotuar të shpenzojë rreth 518 miliardë dollarë gjatë viteve të ardhshme në cloud, fuqi kompjuterike dhe infrastrukturë të tjera. Ekzistojnë gjithashtu rreziqe më konvencionale: pothuajse një e katërta e të ardhurave të saj vitin e kaluar erdhi nga vetëm dy klientë.
Çfarë u tregon kjo në fund të fundit investitorëve?
Paralajmërimi i Anthropic mund të lexohet në thelb në dy nivele. Në të parin, në anën e biznesit, kompania u thotë investitorëve se po operon në një treg shumë fitimprurës, por të pasigurt, ku kostot janë të mëdha, teknologjia po ndryshon me një shpejtësi të paparë dhe protagonistët aktualë mund të përmbysen shumë shpejt.
Në të dytin, megjithatë, ka diçka që rrallë shfaqet në një prospekt IPO: paralajmërimi se suksesi i vetë teknologjisë mund të bëhet një rrezik. Sa më të aftë të bëhen modelet, aq më e madhe është vlera financiare që fitojnë. Në të njëjtën kohë, megjithatë, aq më të mëdha mund të jenë pasojat nëse përdoren me qëllim të keq, nëse fitojnë shumë autonomi ose nëse njerëzit humbasin aftësinë për të kontrolluar plotësisht sjelljen e tyre.
Kjo është arsyeja pse fraza për rrezikun ekzistencial nuk duhet lexuar si një parashikim se IA do të zhdukë njerëzimin. Është një pranim shumë më specifik dhe ndoshta më interesant: një nga kompanitë më të mëdha të inteligjencës artificiale në botë po u thotë zyrtarisht investitorëve të saj se nuk mund ta përjashtojë mundësinë që sistemet që ndërton të evoluojnë në mënyra që vetë krijuesit e tyre nuk do të jenë në gjendje t'i kontrollojnë plotësisht./Dosja.al
shkolla në Staskov SLLOVAKI- Një grua 61-vjeçare ka humbur jetën dhe dy persona, mes tyre një fëmijë, janë plagos...
Igor Simiq (në anën e djathtë) dhe Sllavko Simiq (në prapavijë, në anën e majtë), deputetë të Listës Se...
Anthropic SHBA- Anthropic ka paralajmëruar investitorët për rreziqet e mundshme që mund të sjellë zhvillimi i modeleve gjith...
FBI SHBA- Sulmi kibernetik, në të cilin hakerat vodhën një sasi të madhe të dhënash personale nga punonjës aktual&e...
Marco Rubio SHBA- Sekretari amerikan i Shtetit, Marco Rubio, deklaroi se incidenti i rëndë pranë bazës ajrore RAF Fairford në Brit...
Ndërtesa e Akademisë Kombëtare të Shkencave të Ukrainës, pas një sulmi me dronë nga Rusia në Kiev më 28 shta...
Falluxha, Irak IRAK- Shtetet e Bashkuara po përfundojnë tërheqjen e trupave të tyre nga Iraku, duke i dhënë fund një pra...
ZVËRNEC- Tre vite më parë, banorët e Zvërnecit u thirrën në një takim në një lokal përgjatë rrug&e...
KATAR- Mohammad Masood Jamshidi ishte pjesëtar i sigurimit në Konsullatën amerikane në Herat kur ajo u sulmua me bomba nga talibanët....
Papa Leoni FRANCË- Në ditën e fundit të vizitës së tij katërditore në Francë, Papa Leoni XIV, në fjalimi...
