Meta urdhërohet të heqë video-t e rreme me IA

“Gjykata supreme” e Metës i ka urdhëruar kompanisë teknologjike të heqë nga Facebooku videot e rreme të një politikani britanik dhe një gruaje të re myslimane dhe të bëjë më shumë për të luftuar imazhet e rreme të gjeneruara nga inteligjenca artificiale .

Një video e rreme që tregon një këshilltare të Partisë Laburiste në Skoci duke bërë komente nxitëse në lidhje me refugjatët nuk duhej të ishte lënë nga Facebook , tha bordi. Gjithashtu vendosi që një video e gjeneruar nga inteligjenca artificiale e një vullnetareje myslimane të fushatës duhej të ishte hequr, pasi e paraqiste atë në mënyrë të rreme duke ofruar këshilla shëndetësore ndërsa kryente ushtrime absurde ose duke ngrënë ushqim të shpejtë.

Bordi tha se masat mbrojtëse të Metës janë “vazhdimisht dhe në thelb të pamjaftueshme” për të adresuar rritjen e shpejtë të mashtrimeve të thella të inteligjencës artificiale.

“Nga politikanët te qytetarët privatë, deepfakes e gjeneruara nga inteligjenca artificiale po përdoren gjithnjë e më shumë për të ngacmuar dhe heshtur gratë nga angazhimi në diskursin publik”, tha Pamela San Martin, një bashkëkryetare e bordit mbikëqyrës.

“Këto raste demonstrojnë një model më të gjerë dhe shqetësues, në të cilin gratë që angazhohen publikisht për çështje të ndryshme i nënshtrohen në mënyrë disproporcionale ngacmimit dhe dezinformimit. Meta dhe platformat e tjera të mediave sociale kanë nevojë për politika më të forta për të adresuar përhapjen e deepfakes.”

Në klipin e Skocisë, këshilltari paraqitet në mënyrë të rreme duke thënë: “Refugjatët janë të mirëpritur këtu, edhe nëse përdhunojnë gratë tona, sepse edhe njerëzit e bardhë e bëjnë këtë.”

Bordi mbikëqyrës, një organ kuazi i pavarur, vendimet e të cilit janë detyruese, tha se videoja e këshilltarit dukej të ishte gjeneruar nga inteligjenca artificiale, siç tregohet nga audioja që nuk ishte sinkronizuar plotësisht me lëvizjet e fytyrës së këshilltarit të paidentifikuar.

Edhe kur çështja u ngrit drejtpërdrejt me kompaninë nga bordi, Meta vendosi që videoja nuk shkelte politikat e saj të përmbajtjes dhe nuk meritonte një etiketë si IA.

Në një postim në blog të publikuar të enjten, bordi tha se postimi duhej të ishte hequr sepse shkelte rregullat e Metës mbi sjelljen e urrejtjes duke pretenduar sjellje seksuale kriminale dhe grabitqare nga refugjatët si një grup i tërë dhe jo si individë. Videoja gjithashtu duhej të ishte etiketuar si "IA me rrezik të lartë", tha bordi, ndërsa bëri thirrje për masa më të ashpra ndaj deepfakes.

“Shumica [e bordit] mendon se Meta ka nevojë për politika më të forta mbi deepfakes, duke përfshirë zgjerimin e situatave kur mund të aplikohen etiketat 'me rrezik të lartë', më shumë masa për të zvogëluar përhapjen e përmbajtjes mashtruese të IA-së, rritjen e ndëshkimeve për llogaritë që e ndajnë atë në mënyrë të përsëritur dhe më shumë transparencë mbi të dhënat kur aplikohen etiketat e IA-së”, tha ajo.

Bordi rekomandoi nëntë ndryshime në politikat e Meta-s, duke përfshirë sigurimin që algoritmet të ulin përmbajtjen e etiketuar si "rrezik i lartë", duke i bërë postimet e tilla më pak të mundshme të shfaqen në feed-et e përdoruesve. Gjithashtu rekomandoi që Meta ta bëjë më të vështirë për përdoruesit të shikojnë përmbajtje të gjeneruar nga inteligjenca artificiale, për shembull, duke futur një ekran paralajmërues që kërkon një klikim përpara se të shikojë përmbajtjen.

Në një vendim të veçantë, bordi urdhëroi gjithashtu Metën të hiqte nga Facebooku një video të gjeneruar nga inteligjenca artificiale që tallte një grua të re myslimane në Evropë që merrte pjesë në një fushatë për të përmirësuar edukimin për shëndetin menstrual dhe për të zvogëluar stigmën rreth problemeve shëndetësore për gratë dhe vajzat nga prejardhje nga pakicat etnike. Videot dhe imazhet e manipuluara nga inteligjenca artificiale që tallnin gruan kishin dhjetëra miliona shikime në internet, përfshirë platformat Meta.

Bordi veçoi një nga videot – që tregonte gruan duke ushtruar në mënyrë absurde dhe duke ngrënë ushqim të shpejtë – si shkelje të politikës së kompanisë kundër ngacmimit dhe ngacmimit. Ai rekomandoi që postimi të hiqej dhe bëri tre rekomandime politike, duke përfshirë ndryshimin e përkufizimit të "imazheve të manipuluara të padëshiruara" për të mbuluar imazhet e rreme të një individi privat që thotë ose bën gjëra që nuk i ka thënë ose bërë.

Bordi u krijua nga Meta në vitin 2020 për të shërbyer si arbitër për përmbajtjen në platformat e saj