Drejtuesi ekzekutiv i Anthropic, Dario Amodei, ka bërë thirrje për mekanizma më të fortë sigurie dhe mbikëqyrjeje ndaj inteligjencës artificiale, ndërsa sistemet e reja po zhvillohen me ritme gjithnjë e më të shpejta. Në një intervistë për CNN, ai ka argumentuar se kompanitë nuk duhet të jenë të vetmet që vlerësojnë sigurinë e teknologjisë që krijojnë.
Debati është intensifikuar edhe pas largimit nga Anthropic të studiuesit Jacob Coxon, i cili ka paralajmëruar se laboratorët më të avancuar po ndërtojnë sisteme, pasojat afatgjata të të cilave nuk mund të parashikohen me siguri. Amodei, i pyetur për këto deklarata, tha se pajtohet me Coxon më shumë sesa nuk pajtohet me të.
Shqetësimi nuk lidhet me pretendimin se modelet e sotme mund të marrin kontrollin e botës, por me atë që mund të ndodhë nëse gjeneratat e ardhshme fitojnë aftësi shumë më të avancuara në programim, kërkim shkencor, biologji dhe siguri kibernetike. Një prej skenarëve të diskutuar është ai i “vetëpërmirësimit rekurziv”, ku AI mund të ndihmojë në krijimin e sistemeve pasardhëse gjithnjë e më të fuqishme.
Një tjetër problem është vetë gara teknologjike. Kompanitë mund të hezitojnë të ngadalësojnë zhvillimin nga frika se konkurrentët do t'i kalojnë, ndërsa rivaliteti mes SHBA-së dhe Kinës e bën edhe më të vështirë vendosjen e kufizimeve të përbashkëta.
Amodei ka propozuar përfshirjen e vlerësuesve të pavarur për të kontrolluar mënyrën se si kompanitë testojnë modelet dhe zbatojnë standardet e sigurisë. Megjithatë, edhe brenda debatit ka ekspertë që i konsiderojnë skenarët më ekstremë për AI-në tepër spekulativë./Versus.al
