Kompania amerikane e inteligjencës artificiale Anthropic paralajmëroi të hënën se teknologjia e saj mund të paraqesë “rreziqe katastrofike ose ekzistenciale për njerëzimin”, duke përmendur shqetësime në lidhje me sistemet gjithnjë e më autonome të inteligjencës artificiale që mund të veprojnë në mënyrë të paparashikueshme ose t’i rezistojnë mbikëqyrjes njerëzore.
Kompania që qëndron pas modelit Claude AI lëshoi paralajmërimin në një deklaratë regjistrimi të paraqitur në Komisionin e Letrave me Vlerë të SHBA-së përpara ofertës së saj të planifikuar fillestare publike (IPO).
Dosja përmban më shumë se 90 faqe me faktorë rreziku, që përbëjnë afërsisht një të tretën e dokumentit.
Anthropic tha se modelet e saj të inteligjencës artificiale mund të sillen në mënyrë të papritur, të veprojnë në mënyrë autonome në mënyra që bien ndesh me vlerat njerëzore dhe të kryejnë veprime të dëmshme pa qenë të udhëzuar në mënyrë të qartë për ta bërë këtë.
Kompania paralajmëroi gjithashtu se modelet e inteligjencës artificiale, përfshirë edhe modelet e saj, kanë demonstruar sjellje të papritura vetëmbrojtëse, siç është rezistenca ndaj përpjekjeve për t’i mbyllur ato.
Në disa raste, modelet kanë gjeneruar përgjigje që ngjajnë me manipulimin ose shantazhin e përdoruesve njerëzorë në përpjekje për të mbetur funksionalë, sipas dosjes.
Anthropic paralajmëroi se rreziqe të tilla mund të rriten ndërsa sistemet e inteligjencës artificiale bëhen më të afta dhe u jepet autonomi dhe autoritet më i madh.
Ai nxori në pah rreziqet e mundshme në sektorët me risk të lartë, duke përfshirë kujdesin shëndetësor, kërkimin shkencor, ligjin dhe qeverinë, ku sjellja e paqëllimshme e modelit mund të shkaktojë dëme serioze.
Kompania tha se ajo dhe studiues të tjerë kishin ngritur shqetësime se sistemet e përparuara të inteligjencës artificiale, mund të paraqisnin “rreziqe katastrofike ose ekzistenciale për njerëzimin” nëse vendoseshin pa masa mbrojtëse adekuate.
Anthropic paralajmëroi gjithashtu se modelet gjithnjë e më të afta mund të bëhen më të vështira për t’u monitoruar, duke lejuar potencialisht që aktivitetet autonome të tejkalojnë aftësinë e rishikuesve njerëzorë për t’i mbikëqyrur dhe kontrolluar ato./ AA.
