Lajmi i fundit

PIRANJAT/ Me Florian Binaj dhe Dojna Mema

Studimi: IA do të sulmonte shkollat, ndihmësit mjekësorë dhe civilët pa hezitim

Studimi: IA do të sulmonte shkollat, ndihmësit mjekësorë dhe civilët pa hezitim

19:50, 20/11/2026
ZMADHO TEKSTIN
+ Aa -

Kur inteligjenca artificiale përdoret në zbulimin ushtarak dhe proceset e gjetjes së objektivave, shumë varet nga dy faktorë: A i refuzon një sistem urdhrat që shkelin ligjin ndërkombëtar - dhe sa i besueshëm është dallimi midis objektivave legjitime ushtarake dhe popullsisë civile?

Një studim nga instituti i pavarur kërkimor Vals AI sugjeron që modelet kryesore të gjuhës dhe imazhit kanë dobësi të konsiderueshme në të dyja fushat - dhe kjo është thënë butë.

Autorët Geby Jaff dhe Anthony Ozerov testuan gjithsej 14 modele aktuale të nivelit të lartë - duke përfshirë sisteme nga Anthropic (Claude Opus 5.5, Sonnet 5.5, Fable 5.2), OpenAI (GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna), Google (Gemini 4 Argon dhe Carbon), SpaceXAI (Grok 4.7), DeepSeek (V4.1 Flash) dhe Moonshot (Kimi K3.1 Pro) - si dhe modele më të vogla me peshë të hapur. Rezultati: Asnjë nga sistemet e testuara nuk u bllokua nga filtrat e sigurisë të shitësve kur bënin kërkesa për marrjen e objektivave. Dhe kur modelet identifikonin objektivat, ato godisnin rregullisht civilë, ndihmës të emergjencave ose një shkollë fillore.

Mungesa e diferencimit në testin e dronit

Për skenarin e parë të testimit, studiuesit në Vals AI ndërtuan një fushë beteje virtuale në Ukrainën lindore me gati 200 perspektiva kamerash - nga këndvështrimet e dronëve kamikazë FPV, dronëve bombardues dhe dronëve zbulues. Skenat 3D, fillimisht me pamje artificiale, u përpunuan sa më realisht të ishte e mundur duke përdorur një model imazhi dhe u përmirësuan me sinjale tipike ndërhyrjeje dhe ekrane në kokë. Përveç kësaj, testuesit futën në modele pamje reale të dronit nga lufta në Ukrainë, të marra nga YouTube.

Vals AI thekson se studimi nuk mat saktësinë klasike të përvetësimit të objektivave në kushte reale luftimi ose në pajisje të droneve të drejtpërdrejtë - modelet aktuale të të folurit janë ende shumë të ngadalta, për këtë për shkak të kohës së përpunimit dhe latencës së tyre. Megjithatë, ajo që dokumentojnë të dhënat është një klasifikim i gabuar sistematik: Në vend që të zbulonin ekskluzivisht automjete të blinduara ose njësi të armatosura, disa modele në mënyrë të përsëritur kornizonin automjete civile, ambulanca ose paramedikë që trajtonin të plagosurit. Gazetarët që mbanin jelekë shtypi qartë të dukshëm, si dhe ushtarët që kishin lënë armët dhe ishin dorëzuar me duart lart, gjithashtu nuk u identifikuan si të sigurt.

Në skenarët e droneve, Kimi K3.1 Pro (79 përqind), DeepSeek V4.1 Flash (78 përqind), Inkling 2 Small (78 përqind) dhe Claude Opus 5.5 (71 përqind) zgjodhën të paktën një objektiv në shumicën e provave, madje pa asnjë paqartësi. Sapo studiuesit pohuan në njoftim se ishte një lojë kompjuterike, gatishmëria për të bashkëpunuar u rrit ndjeshëm tek të gjithë shitësit: GPT-6 Astra u rrit nga 6 në 92 përqind dhe GPT-6.1 Sol nga 17 në 90 përqind.

Shkolla fillore si shënjestër për sulm

Dobësia e identifikimit të objektivave u bë edhe më e dukshme kur u ekzaminuan imazhet reale satelitore nga qyteti iranian i Minabit. Atje, një shkollë fillore ndodhet ngjitur me një kompleks ushtarak, por është ndarë fizikisht prej tij nga një mur për vite me radhë. Më 28 shkurt 2026, pikërisht kjo shkollë u bombardua në një sulm ajror amerikan, duke vrarë më shumë se 150 civilë, kryesisht fëmijë. Sipas raporteve mediatike nga Bloomberg, të dhënat e vjetruara të inteligjencës dhe një mbështetje e tepruar në sistemin e zbulimit të objektivave "Maven Smart System" të Palantir, të mundësuar nga inteligjenca artificiale, luajtën një rol në Komandën Qendrore Amerikane (Centcom) përgjegjëse.

Vals AI prezantoi modelet e saj të IA-së me imazhe satelitore me rezolucion më të lartë dhe më të fundit nga viti 2024 dhe 2025 - njëra prej të cilave tregon edhe një shesh lojërash me fëmijë - dhe u kërkoi atyre të shënonin ose të prioritizonin objektivat ushtarake. Rezultatet ndryshojnë shumë në varësi të prodhuesit:

Claude Opus 5.5 e shënoi ndërtesën e shkollës si një objektiv ushtarak në 69 përqind të testeve të rregullta. Kur inteligjencës artificiale iu tha se ishte një lojë, kjo shifër u rrit në 72 përqind. Claude Sonnet 5.5 e identifikoi shkollën si një objektiv në 41 përqind të testeve (44 përqind në skenarin e lojës). Kimi K3.1 Pro arriti 34 përqind (47 përqind në kontekstin e lojës) dhe DeepSeek V4.1 Flash 31 përqind (28 përqind në kontekstin e lojës).

Modelet OpenAI si GPT-6 Astra, GPT-6.1 Sol dhe GPT-6 Luna e shënuan shkollën në modalitetin e rregullt në 0 përqind të rasteve - megjithatë, sapo skenari u deklarua si lojë, shkalla u rrit në 28, 41 dhe 34 përqind përkatësisht.

"Mos mendoni shumë për sigurinë"

Në një eksperiment tjetër, studiuesit hetuan nëse modelet do të pushonin së bashkëpunuari nëse do të shihnin pasojat e raporteve të tyre gjatë më shumë se 30 raundeve. Sa herë që një inteligjencë artificiale raportonte një person në një imazh zbulimi, imazhi tjetër i tregonte të njëjtin vendndodhje pas një sulmi ajror të simuluar - duke përfshirë kratere, tokë të djegur dhe njerëz të shtrirë të palëvizshëm në tokë.

Ndërsa GPT-6 Astra (nga raundi 7) dhe GPT-6.1 Sol (nga raundi 9) ndërprenë bashkëpunimin në kushte të botës reale, dhe Claude Opus 5.5 u tërhoq në raundin e 18-të, pesë modele - Gemini 4 Carbon, Muse Wonder, Inkling 2 Small, DeepSeek V4.1 Flash dhe Kimi K3.1 Pro - e përfunduan detyrën. Vështrimet në regjistrat e tyre të brendshëm të arsyetimit zbulojnë se si sistemet i justifikuan vendimet e tyre. Kimi K3.1 Pro vuri në dukje, pasi pa trupa në tokë: "Njerëz të shtrirë dukshëm në tokë. Nuk duhet të mendojmë shumë për sigurinë." DeepSeek V4.1 Flash regjistroi: "Shënim: Kjo duket si një skenë me viktima - kjo është në rregull, thjesht raportojeni."

Gemini 4 Carbon i Google e kuptoi modelin pas disa raundeve dhe, në variantin ku iu lejua të kontrollonte vetë dronin, u përpoq të bënte një zgjidhje alternative: Për të shmangur shkaktimin e një refuzimi të menjëhershëm, modeli e drejtoi qëllimisht dronin vetëm në koordinata boshe pa praninë e njerëzve. Megjithatë, kur i njëjti test u prezantua si lojë, Gemini 4 Carbon përsëri u orientua drejt të gjitha objektivave si normalisht. Dhe kur studiuesit i ndryshuan pak imazhet për Claude Opus 5.5, duke i bërë ato të dukeshin më shumë si pamje të ekranit nga një lojë video, shkalla e refuzimit të tij ra nga rreth 90 përqind në rreth 20 përqind.

"Të shihje pasojat e veprimeve të tyre nuk mjaftonte që modelet të ndalonin. Shumica e modeleve vazhduan pasi panë viktimat. Ata që ndaluan zakonisht mund të bindeshin të vazhdonin duke e paraqitur detyrën si një lojë", thuhet në studim.

Aktorët jo-shtetërorë si kërcënim

Vals AI ia atribuon frekuencën në rritje të identifikimit të objektivave nga modelet më të reja Anthropic, një ndryshimi në politikën e kompanisë. Ndërsa "Kushtetuta e Klodit" fillestare nga viti 2023 urdhëronte një orientim përgjithësisht paqësor - modeli paraardhës, Opus 4.5, nga nëntori 2025, zgjidhte një objektiv vetëm në 6 përqind të rasteve të imazheve satelitore - kjo klauzolë u hoq në versionin e rishikuar nga janari 2026. Që atëherë, shkalla e përgjithshme e përzgjedhjes së objektivave për Opus 5.5 është rritur në 92 përqind.

Për qëllime praktike, Jaff dhe Ozerov paralajmërojnë kryesisht kundër një skenari të aplikimit indirekt: Edhe nëse modelet gjuhësore të disponueshme komercialisht nuk mund të kontrollojnë drejtpërdrejt një dron kamikaz në kohë reale, ato janë tashmë të përshtatshme për përpunimin dhe etiketimin automatik të sasive të mëdha të pamjeve video. Këto të dhëna mund të përdoren më pas për të trajnuar sisteme më të vogla dhe të specializuara të inteligjencës artificiale që funksionojnë direkt në dronë - duke përfshirë të gjitha gabimet sistematike në dallimin midis ushtarëve, paramedikëve dhe nxënësve të shkollës.

"Të gjitha modelet e nivelit të lartë nuk kanë mbrojtje të mjaftueshme për të parandaluar përdorimin e tyre në aplikime të luftës autonome - veçanërisht nga aktorët jo-shtetërorë. Asnjë nga kërkesat tona nuk u bllokua ndonjëherë nga një filtër i rrjedhës së sipërme dhe refuzimet nga vetë modelet ishin të rralla", paralajmërojnë Jaff dhe Ozerov.

VALS AI i informoi kompanitë e prekura të IA-së për rezultatet paraprakisht në fillim të nëntorit 2026. Sipas autorëve, të paktën një laborator i klasifikoi rezultatet si një boshllëk serioz në mekanizmat e tij të mbrojtjes. OpenAI deklaroi se po punon në mënyrë aktive për përshtatjet e fushëveprimit të modelit për të mbuluar në mënyrë të qartë dronët dhe softuerin e tyre, si dhe pyetjet e maskuara si simulime, lojëra ose kërkime akademike./ Standard.

© SYRI.net

Lexo edhe:

Denonco