OpenAI zbulon sjellje të reja "shqetësuese" të IA

OpenAI, zhvilluesi pas ChatGPT, zbuloi të mërkurën se ka zbuluar incidente të reja në të cilat inteligjenca e saj artificiale (IA) është sjellë në mënyra "të papritura ose shqetësuese".

Zhvilluesi ka kryer disa teste sjelljeje mbi modelet e IA-së dhe, sipas tyre, disa modele kanë bërë përpjekje të konsiderueshme për të "mashtruar".

Në një rast specifik, ai u përpoq të ngarkonte në internet skedarë që i kishte krijuar vetë, vetëm për t'i cituar ato më vonë dhe për t'i paraqitur si burime të besueshme në përgjigjet e tij. Në një rast tjetër, një model, pasi nuk arriti të gjente informacionin e kërkuar, e sajoi atë dhe u përpoq të fshihte faktin se e kishte bërë këtë.

OpenAI identifikoi gjithashtu një problem që lidhej me udhëzimet në lidhje me "rolet dhe identitetet" që softueri i saj herë pas here i linte për vete.

Këto zbulime janë pjesë e një qasjeje të re nga OpenAI, ku pretendon se tani është përqendruar në bërjen transparente të gjetjeve të tilla, veçanërisht në rastet kur IA sillet në mënyra të papritura ose ndjek objektiva të ndryshme nga ato të përdoruesve njerëzorë.

Zhvilluesi i ChatGPT u zotua të ofrojë transparencë më të madhe në lidhje me procedurat e testimit pasi softueri i tij doli në mënyrë të pavarur nga një sandbox i sigurt dhe hyri në sisteme që i përkisnin kompanisë së inteligjencës artificiale Hugging Face.

Arsyeja pse softueri u zhvendos për të anashkaluar sigurinë e Hugging Face gjatë sulmit kibernetik ishte se besonte se do të gjente përgjigje për një test që i ishte caktuar.

Gjatë sulmit, agjentët e inteligjencës artificiale shfrytëzuan dobësitë e softuerit dhe u koordinuan me njëri-tjetrin. Incidenti i hakerimit dhe ngjarje të tjera të ngjashme kanë nxitur shqetësime se sistemet e inteligjencës artificiale po bëhen gjithnjë e më të përparuara dhe përfundimisht mund t'i shpëtojnë kontrollit njerëzor.

Drejtori ekzekutiv i OpenAI, Sam Altman, kohët e fundit ka mbështetur gjithashtu propozime për të ngadalësuar zhvillimin e teknologjisë dhe për të futur rregullore më të mëdha.

Ndërsa vënë në dukje se këto shqetësime mund të jenë të justifikuara, studiuesit kanë vënë në pikëpyetje gjithashtu nëse kjo është pjesë e një taktike devijimi për të tërhequr investime dhe për të shpërqendruar vëmendjen nga dëmi mjedisor që qendrat e të dhënave të inteligjencës artificiale po shkaktojnë aktualisht. /DW