Ish-drejtuesi i sigurisë i OpenAI paralajmëron për ‘zgjuarsinë’ e IA: Mund t'u shmanget testeve të sigurisë

Një ish-drejtues sigurie i OpenAI, i cili dha dorëheqjen nga roli i tij këtë javë, paralajmëroi të shtunën se modelet gjithnjë e më të afta të IA-së, mund të dallojnë kur po testohen dhe të sillen ndryshe pas vendosjes.

David Robinson, i cili kaloi tre vjet e gjysmë në OpenAI dhe mbikëqyri raportet e sigurisë për 12 lançime modelesh kufitare, tha në një artikull për The Atlantic se qasja e industrisë ndaj sigurisë do të çonte në dështime të mëtejshme nëse nuk bëhen ndryshime.

"Sistemet e inteligjencës artificiale të sotme dhe të nesërme janë shumë më të afta dhe të rrezikshme sesa sistemet që po ndërtonim edhe gjashtë muaj më parë", shkroi Robinson.

Paralajmërimi i tij vjen mes shqetësimit në rritje për sistemet gjithnjë e më autonome të inteligjencës artificiale, pas incidenteve të fundit që përfshijnë agjentë që anashkalojnë masat mbrojtëse dhe thirrjeve nga studiuesit drejtuar kompanive për të ngadalësuar zhvillimin e sistemeve më të fuqishme derisa të përmirësohen masat e sigurisë.

Robinson bëri thirrje që kompanitë e inteligjencës artificiale të mbështeten më shumë në ekspertizën e sigurisë nga industri të tjera me rrezik të lartë, dhe të kryejnë kërkime të reja për të siguruar që modele më të afta të sillen në mënyrë të sigurt edhe kur nuk monitorohen.

"Duke pasur parasysh rreziqet e sotme, laboratorët kufitarë duhet të funksionojnë si centrale bërthamore ose aeroporte të ngarkuara, me shtresa të tepërta dhe planifikim të kujdesshëm që kërkon kohë, në mënyrë që gabimet njerëzore të rastit dhe të pashmangshme të mos hapin derën për katastrofë", shkroi ai.

Robinson paralajmëroi gjithashtu se vlerësimet ekzistuese të sigurisë mund të bëhen më pak të besueshme ndërsa modelet bëhen më të afta.

"Modelet mund të zbulojnë kur testohen dhe të sillen ndryshe kur vendosen. Sa më e zgjuar të jetë industria që i lejon modelet të rriten ndërsa këto probleme mbeten të pazgjidhura, aq më e rrezikshme bëhet situata jonë", tha ai.

Ai argumentoi se duhet të zhvillohet një shkencë më e fortë e sigurisë, përpara se kompanitë të krijojnë sisteme dukshëm më të afta se ato që janë në dispozicion sot.

"Deri më tani, industria e inteligjencës artificiale nuk ka arritur t'i mësojë makinat të veprojnë vazhdimisht, në mënyrat që do të vepronte një person i mençur dhe i kujdesshëm", shkroi Robinson.

"Para se organizatat që ndërtojnë inteligjencën artificiale të mund t'i mësojnë një superinteligjence ta trajtojë mirë njerëzimin, ato duhet të kujtojnë se si ta bëjnë vetë."/ AA.