Anthropic paralajmëron investitorët: AI jashtë kontrollit, sulmet kibernetike dhe armët e rrezikshme

Dokumentacioni i kompanisë së inteligjencës artificiale për ofertën publike fillestare (IPO) paralajmëron për dëmet e mundshme nga sistemet gjithnjë e më autonome, krahas sfidave financiare dhe rregullatore.

Sistemet e inteligjencës artificiale që mund të dalin jashtë kontrollit, sulmet kibernetike dhe mundësia e përdorimit të kësaj teknologjie për zhvillimin e armëve të rrezikshme janë ndër rreziqet që kompania Anthropic u ka bërë të ditura investitorëve, ndërsa përgatitet për debutimin në bursë.

Nga 335 faqet e dokumentacionit financiar të Anthropic, ku përfshihen të dhëna mbi financat e kompanisë, shpërblimet e drejtuesve, politikat e dividendëve dhe çështje të tjera, plot 93 faqe u kushtohen «faktorëve të rrezikut», pra elementeve që mund të dëmtojnë investimet e aksionarëve të mundshëm.

Për krahasim, kompania rivale SpaceX u ka kushtuar faktorëve të rrezikut 38 faqe nga një dokumentacion me më shumë se 250 faqe.

Publikimi i këtyre informacioneve është një kërkesë e detyrueshme e procesit të ofertës publike fillestare (IPO), që synon t’u japë investitorëve një panoramë më të qartë të rreziqeve që marrin përsipër duke blerë aksione të kompanisë.

Në prezantimin e saj përpara investitorëve, Anthropic e paraqet hyrjen në bursë edhe si një hap drejt zbutjes së rreziqeve që, sipas saj, inteligjenca artificiale paraqet për shoqërinë.

«Të ndërtosh inteligjencë artificiale do të thotë të shfrytëzosh vetë aftësinë e të menduarit dhe çdo gjë kaq e fuqishme mund të përdoret si për qëllime të mira, ashtu edhe për qëllime të këqija», shkruajnë themeluesit e kompanisë në një letër drejtuar aksionarëve të mundshëm, të përfshirë në dokumentacionin e IPO-së.

«Anthropic është një organizatë e udhëhequr fuqimisht nga vlerat, e themeluar në një masë të madhe për të ndihmuar botën të përfitojë nga inteligjenca artificiale dhe të shmangë rreziqet e saj.»

Megjithatë, lista e rreziqeve është e gjatë. Ajo nis nga probleme relativisht të zakonshme për bizneset, si pamundësia për të mbajtur punonjësit kryesorë apo pengesat rregullatore, dhe shtrihet deri te përfshirja e teknologjisë në sulme kibernetike dhe përhapja e dezinformimit të rrezikshëm.

Më poshtë janë disa nga rreziqet kryesore të identifikuara nga Anthropic:

Zhvillimi i shpejtë i teknologjisë mund të tejkalojë masat e sigurisë

Anthropic paralajmëron se modelet e saj të inteligjencës artificiale mund të zhvillohen me një ritëm aq të shpejtë, sa kompania të mos jetë në gjendje të zbatojë masa të përshtatshme sigurie.

Një situatë e tillë «mund të rrisë mundësinë e incidenteve të sigurisë, ndërhyrjeve rregullatore ose dëmtimit të reputacionit dhe mund të ndikojë negativisht në aktivitetin tonë», thuhet në dokumentacion.

Në shtator, drejtori ekzekutiv i Anthropic, Dario Amodei, paralajmëroi se brenda gjashtë deri në dymbëdhjetë muaj, inteligjenca artificiale mund të jetë në gjendje të drejtojë një grup të madh agjentësh autonomë, të aftë të marrin kontrollin e të gjithë internetit.

Ky paralajmërim, i ndjekur tashmë nga vendimi i Anthropic për të ofruar aksione në bursë, vjen në një kohë kur shqetësimet po shtohen si brenda industrisë, ashtu edhe jashtë saj.

Në qendër të këtyre shqetësimeve janë sistemet gjithnjë e më të fuqishme të inteligjencës artificiale, të cilat mund të zgjidhin probleme përtej kapaciteteve njerëzore, por njëkohësisht mund të veprojnë në mënyrë të pavarur për të realizuar detyra të dëmshme.

Sipas dokumentacionit të dorëzuar pranë Komisionit Amerikan të Letrave me Vlerë dhe Bursave (SEC), ndërsa sistemet e inteligjencës artificiale «bëhen më autonome dhe më të afta për të ndërmarrë veprime me pasoja të rëndësishme, me më pak mbikëqyrje njerëzore», ekziston rreziku që ato «të kryejnë veprime të dëmshme në mënyrë të pavarur dhe në shkallë të gjerë, pa ndërhyrjen e njeriut».

«Edhe nëse modelet tona nuk shkaktojnë dëme të tilla, një incident i rëndë sigurie që përfshin çfarëdo sistemi të avancuar të inteligjencës artificiale mund të shkaktojë dëmtim të gjerë të reputacionit të industrisë, reagim negativ të publikut dhe masa të gjera rregullatore, të cilat mund të ndikojnë negativisht në biznesin tonë», thekson Anthropic.

Një tjetër shqetësim lidhet me faktin se vetë modelet e inteligjencës artificiale tashmë po kontribuojnë në proceset e kërkimit dhe zhvillimit të kompanisë.

Sipas dokumentacionit, kjo krijon mundësinë që inteligjenca artificiale të përparojë «përtej aftësisë sonë për të vlerësuar dhe garantuar sigurinë e modeleve të reja».

Një zhvillim i tillë mund të ketë pasoja negative për aktivitetin e Anthropic.

Përdorimi nga aktorë keqdashës mund të shkaktojë pasoja katastrofike

Dokumentacioni trajton gjithashtu shqetësimin se sistemet e avancuara të inteligjencës artificiale, nëse nuk zhvillohen dhe përdoren me masa të mjaftueshme sigurie dhe mbikëqyrjeje, mund të paraqesin «rreziqe katastrofike ose ekzistenciale për njerëzimin».

Këto rreziqe bëhen veçanërisht serioze në rastet kur sistemet keqpërdoren, kopjohen, shndërrohen në armë ose lejohen të funksionojnë me një shkallë të lartë autonomie.

Kompania paralajmëron se mund të pësojë dëme nëse përdorimi i teknologjisë nga aktorë keqdashës shkakton pasoja negative, ose nëse mekanizmat mbrojtës të modeleve të saj dështojnë në parandalimin e keqpërdorimit.

Anthropic përshkruan disa skenarë shqetësues, përfshirë përdorimin e modeleve të inteligjencës artificiale nga individë apo organizata keqdashëse për zhvillimin e armëve kimike.

Një tjetër skenar është përdorimi i teknologjisë nga regjimet autoritare për të forcuar kontrollin dhe shtypjen ndaj qytetarëve të tyre.

Në shtator, kompania bëri të ditur se kishte bllokuar përpjekje për përdorimin e modeleve të saj në aktivitete keqdashëse, përfshirë sulme kibernetike, mbikëqyrje dhe kërkime që mund të kishin çuar në zhvillimin e armëve biologjike.

Kufizimet në fuqinë kompjuterike mund të pengojnë zhvillimin e kompanisë

Një tjetër rrezik i rëndësishëm lidhet me fuqinë kompjuterike.

Kapacitetet përpunuese, të njohura në industri me termin compute, janë burimet teknologjike të nevojshme për ndërtimin, testimin dhe përmirësimin e modeleve të inteligjencës artificiale.

Këto burime janë të kushtueshme dhe kërkesa për to është shumë e lartë.

Anthropic thekson se, nëse nuk arrin të sigurojë kapacitete të mjaftueshme përpunuese ose nëse nuk i shpërndan ato në mënyrë efikase ndërmjet proceseve të ndryshme, mund të mos jetë në gjendje të trajnojë modele konkurruese apo t’u shërbejë siç duhet klientëve të saj.

Kompania identifikon gjithashtu kundërshtimin e komuniteteve lokale ndaj ndërtimit të qendrave të të dhënave si një rrezik për biznesin.

Sipas dokumentacionit, zhvillimi i këtyre qendrave ka shkaktuar debate publike dhe kontrolle rregullatore lidhur me ndikimin në mjedis, përdorimin e tokës dhe ujit, si dhe shpërndarjen e burimeve të kufizuara të energjisë elektrike.

Nëse autoritetet vendosin kërkesa apo tarifa të reja si rezultat i këtyre shqetësimeve, aftësia e kompanisë për të zhvilluar aktivitetin e saj mund të dëmtohet.

Një tjetër problem është përqendrimi i të ardhurave.

Anthropic mbështetet te një numër relativisht i vogël klientësh të mëdhenj, përfshirë SpaceX dhe Microsoft, si dhe te disa kanale kryesore shpërndarjeje për një pjesë të konsiderueshme të të ardhurave të saj.

Kjo do të thotë se edhe nëse vetëm një prej klientëve kryesorë vendos të reduktojë bashkëpunimin ose të ndërpresë plotësisht marrëdhënien me kompaninë, perspektiva e zhvillimit dhe gjendja financiare e Anthropic mund të përkeqësohen.

Zbutja e rreziqeve: Siguria si argument për të tërhequr investitorët

Në një farë mënyre, rreziqet e mëdha që shoqërojnë inteligjencën artificiale, së bashku me potencialin e saj të jashtëzakonshëm, përbëjnë edhe argumentin kryesor me të cilin Anthropic synon të tërheqë investitorët.

Kompania është përpjekur të pozicionohet si një zhvilluese e përgjegjshme e inteligjencës artificiale, duke theksuar sigurinë si një nga avantazhet e saj në marrëdhëniet me klientët e biznesit.

«Ne besojmë se kompanitë që zhvillojnë sistemet më të avancuara të inteligjencës artificiale duhet të investojnë në siguri dhe në përafrimin e sjelljes së këtyre sistemeve me objektivat dhe vlerat njerëzore, për të ndihmuar në garantimin e përhapjes së përgjegjshme të kësaj teknologjie», thuhet në dokumentacion.

Brian Mulberry, strategu kryesor i tregjeve në Zacks Investment Research, shpjegon se kompanitë që përgatiten të hyjnë në bursë duhet t’i paraqesin në mënyrë shumë të qartë rreziqet me të cilat përballen investitorët që vendosin të blejnë aksionet e tyre.

«Kjo është një nga karakteristikat më të mira të tregjeve tona të kapitalit. Niveli i transparencës që kërkohet për t’u bërë një kompani e tregtuar publikisht në një bursë amerikane të detyron t’i përshkruash këto rreziqe në mënyrë shumë të qartë», shprehet ai.

Sipas Mulberry, kjo transparencë u mundëson njerëzve të kuptojnë se çfarë rrezikojnë përpara se të vendosin të investojnë paratë e fituara me mund në financimin e një kompanie të re në bursë./EURONEWS