Një projektraport monitorimi i sistemit ‘Smart City’ nga Komisioneri për Mbrojtjen e të Dhënave Personale evidenton mangësi në kontratën dhe studimin teknik të projektit, si dhe probleme me sigurinë e të dhënave personale dhe administrimin e kamerave që përdorin inteligjencën artificiale për të analizuar sjelljet e nxënësve.
Më 16 korrik, gjatë prezantimit të sistemit të komandës dhe kontrollit të projektit teknologjik ‘Smart City’, kryeministri Edi Rama iu rikthye vrasjes tragjike të një nxënësi dy vjet më parë.
“Sot të gjithë e kanë harruar vrasjen tragjike të një nxënësi të Shkollës ‘Fan Noli’,” deklaroi Rama, duke kritikuar politizimin e ngjarjes dhe raportimin mediatik, të cilin e cilësoi si “gazetari të gjakut”.
“Unë nuk e kam harruar, siç e kanë harruar të gjithë ata që e përdorën, keqpërdoren, abuzuan deri në fund atë tragjedi, sepse e kujtoj përditë, duke ndjekur pikërisht këtë projekt, që është përgjigja ime dhe përgjigjja jonë ndaj asaj tragjedie,” shtoi ai.
Edhe pse është ende në fazën pilot, projekti ‘Smart City’ po zbatohet në 20 shkolla të Tiranës, ku kamerat e mbikëqyrjes janë integruar me algoritme të inteligjencës artificiale që mund të identifikojnë përleshje, grumbullime, hyrje të paautorizuara, armë dhe thika, si dhe përdorimin e duhanit apo cigareve elektronike.
I prezantuar nga qeveria si një instrument për rritjen e sigurisë, sistemi nuk kufizohet në regjistrimin e pamjeve dhe ruajtjen e tyre. Ai mund t’i analizojë ato automatikisht, të klasifikojë veprimet sipas kategorive të paracaktuara dhe të gjenerojë alarme për situatat që algoritmet i identifikojnë si potencialisht të rrezikshme.
Por aftësia e këtij sistemi për të monitoruar dhe klasifikuar sjelljet e të miturve me Inteligjencë Artificale ngre pikëpyetje mbi kufijtë e mbikëqyrjes, privatësinë, saktësinë e algoritmeve dhe ndikimin e mundshëm të kësaj teknologjie në mjedisin shkollor.
Një projektraport monitorimi i Komisionerit për të Drejtën e Informimit dhe Mbrojtjen e të Dhënave Personale, i siguruar nga BIRN, evidenton një sërë mangësish në zbatimin e projektit ‘Smart City’, duke filluar nga dokumentimi i pamjaftueshëm i bazës ligjore të përpunimit të të dhënave personale, deri te problemet me sigurinë e sistemit dhe aksesin në regjistrimet e nxënësve.
“Studimi teknik dhe kontrata nuk kanë trajtuar në mënyrë të plotë dhe të dokumentuar kërkesat që burojnë nga kuadri rregullator për mbrojtjen e të dhënave personale,” konstaton raporti.
Sipas Komisionerit, dokumentacioni nuk përcakton në mënyrë të mjaftueshme bazën ligjore të përpunimit dhe nuk dokumenton plotësisht domosdoshmërinë dhe proporcionalitetin e mbikëqyrjes.
Monitorimi, i zhvilluar në 20 institucione të arsimit parauniversitar dhe profesional, ka konstatuar gjithashtu se në disa shkolla pamjet ruhen për periudha më të gjata se 30 ditë, ndërsa mungojnë procedurat e unifikuara për përdorimin e sistemit dhe trajnimet e posaçme për personelin përgjegjës.
Po ashtu, nuk rezulton të jetë dokumentuar kryerja ose planifikimi i Vlerësimit të Ndikimit në Mbrojtjen e të Dhënave Personale, i njohur si DPIA, përpara fillimit të përpunimit në rastet me rrezik të lartë, siç kërkon ligji nr. 124/2024.
Algoritmet që monitorojnë sjelljen
Projekti ‘Smart City’ zbatohet nga kompania Presight, me bazë në Emiratet e Bashkuara Arabe, në bashkëpunim me institucionet shqiptare, me synimin për të modernizuar sistemet e mbikëqyrjes dhe për të rritur kapacitetet e Policisë së Shtetit.
Sipas projektraportit, në secilën prej shkollave të përfshira në fazën pilot, platforma administron rreth 30 kamera të vendosura në hyrje, korridore, fusha sportive dhe ambiente të tjera.
Ndryshe nga sistemet tradicionale të video-survejimit, kamerat e ‘Smart City’ janë të lidhura me një platformë të centralizuar që mund të analizojë pamjet përmes inteligjencës artificiale dhe të gjenerojë alarme për kategori të caktuara ngjarjesh.
“Platforma nuk kufizohet në regjistrimin pasiv të imazheve, por përmban module algoritmike për gjenerimin dhe kategorizimin e alarmeve, rishikimin e tyre nga përdorues të autorizuar, administrimin e lokacioneve (vendndodhjeve) dhe kamerave, si dhe funksione auditimi,” thekson dokumenti.
Ndër algoritmet e identifikuara gjatë monitorimit përfshihen zbulimi i thikave dhe armëve, hyrjeve të paautorizuara, grumbullimeve, përleshjeve fizike, si dhe pirjes së duhanit dhe përdorimit të cigareve elektronike.
Alarmet klasifikohen sipas rëndësisë dhe mund të shoqërohen me pamje, të dhëna për vendndodhjen, kamerën dhe kohën e ngjarjes. Platforma mundëson gjithashtu rishikimin e tyre dhe klasifikimin si alarme të sakta ose të pasakta.
Komisioneri paralajmëron se analiza automatike e sjelljeve të nxënësve, shumica e të cilëve janë të mitur, kërkon garanci të posaçme për të shmangur interpretimet e gabuara dhe marrjen e masave vetëm mbi bazën e rezultateve algoritmike.
“Në mënyrë të veçantë, duhet të shmanget që një rezultat i prodhuar nga sistemi algoritmik të sjellë pasoja për një nxënës ose subjekt tjetër të të dhënave pa një vlerësim njerëzor real dhe të përshtatshëm të rrethanave konkrete,” paralajmëron raporti.
Mangësi në siguri dhe administrim
Një prej problemeve të evidentuara gjatë monitorimit lidhet me kontrollin e aksesit në sistem dhe administrimin e regjistrimeve.
Në pjesën kushtuar masave të sigurisë, projektraporti evidenton përdorimin e fjalëkalimeve standarde, duke kërkuar vendosjen e fjalëkalimeve të forta, ndarjen e llogarive administrative nga ato të përdoruesve dhe shmangien e kredencialeve të përbashkëta.
Në dokument thuhet se “aktualisht përdoren password default për të gjithë”, ndërsa rekomandohet që llogaritë administrative të ndahen nga ato të përdorimit të zakonshëm dhe të vendosen mekanizma shtesë autentikimi.
Megjithatë, projektraporti nuk përcakton nëse kjo praktikë prek të gjitha kategoritë e përdoruesve apo nëse është shfrytëzuar për akses të paautorizuar.
Probleme janë konstatuar edhe me autorizimin e personave që mund të konsultojnë pamjet e regjistruara.
Në disa shkolla, personeli ka akses të drejtpërdrejtë në regjistrime, ndërsa në raste të tjera, për shkak të mungesës së oficerëve të sigurisë, aksesi realizohet nga drejtorët ose persona të deleguar përkohësisht, pa autorizime të dokumentuara qartë.
“Nga monitorimi rezulton se, në disa raste, delegimi faktik i aksesit në sistemin CCTV nuk është formalizuar dhe dokumentuar në mënyrë të përshtatshme,” konstaton Komisioneri.
Sipas institucionit, kjo situatë krijon rrezikun e përdorimit të kredencialeve të përbashkëta, pamundësinë për të identifikuar personin që ka kryer një veprim në sistem, si dhe vijimin e aksesit edhe pas përfundimit të detyrës që ka justifikuar autorizimin.
Monitorimi ka evidentuar gjithashtu mungesën e udhëzimeve të unifikuara për përdorimin e kamerave dhe administrimin e të dhënave, si dhe trajnim të pamjaftueshëm të personelit përgjegjës.
“Personeli deklaroi se trajnimi i zhvilluar për përdorimin e sistemit nuk kishte qenë mjaftueshëm i qartë dhe i orientuar drejt aspekteve praktike të përdorimit të tij,” thuhet në projektraport.
Në disa institucione arsimore, pamjet ruhen për periudha më të gjata se 30 ditë, pa një afat të përcaktuar dhe të dokumentuar qartë.
“Në disa institucione arsimore është konstatuar se pamjet e regjistruara nga sistemi i video-survejimit ruhen për periudha më të gjata se 30 ditë,” thekson dokumenti, duke shtuar se nuk rezulton një afat ruajtjeje i dokumentuar qartë dhe i zbatuar në mënyrë të njëtrajtshme.
Komisioneri kërkon që kohëzgjatja e ruajtjes të përcaktohet në bazë të nevojës dhe qëllimit të përpunimit, si dhe të parashikohen procedura për fshirjen e regjistrimeve.
Ndërkohë, kamerat në disa raste mbulojnë edhe hapësira jashtë perimetrit shkollor, duke krijuar mundësinë e regjistrimit të panevojshëm të kalimtarëve dhe pronave fqinje.
Projektraporti evidenton gjithashtu mangësi në informimin për mbikëqyrjen me kamera. Sipas Komisionerit, nxënësit dhe prindërit duhet të informohen jo vetëm për regjistrimin e pamjeve, por edhe për analizimin e tyre përmes inteligjencës artificiale.
“Transparenca nuk mund të konsiderohet e përmbushur vetëm nëpërmjet një formulimi të përgjithshëm si ‘ambient i monitoruar me kamera’, nëse një formulim i tillë nuk i mundëson subjektit të kuptojë natyrën dhe qëllimin real të përpunimit që kryhet,” thekson raporti.
Një tjetër çështje që kërkon sqarim është përfshirja e një operatori të jashtëm, të kontraktuar nga Presight, për të mbështetur funksionimin teknik të sistemit.
Komisioneri kërkon përcaktimin e qartë të rolit dhe përgjegjësive të këtij operatori, përfshirë kufijtë e aksesit në pamjet e drejtpërdrejta, regjistrimet dhe të dhënat e prodhuara nga algoritmet.
Mbikëqyrja e të miturve
Ligji nr. 124/2024 ‘Për mbrojtjen e të dhënave personale’ kërkon që përpunimi i të dhënave të mbështetet në një bazë të ligjshme dhe të kufizohet në atë që është e nevojshme dhe proporcionale me qëllimin e përcaktuar.
Në rastet kur përdorimi i teknologjive të reja paraqet rrezik të lartë për të drejtat dhe liritë e individëve, ligji kërkon kryerjen e një vlerësimi paraprak të ndikimit në mbrojtjen e të dhënave personale.
Komisioneri thekson se ‘Smart City’ nuk mund të trajtohet si një sistem i zakonshëm kamerash, pasi analiza algoritmike krijon informacione shtesë mbi sjelljet e personave të monitoruar.
“Smart City duhet të vlerësohet si një ekosistem teknologjik për përpunimin e të dhënave personale, në të cilin përpunimi i imazhit nëpërmjet kamerës përbën vetëm fazën fillestare të një zinxhiri më të gjerë veprimesh përpunimi të të dhënave personale,” vlerëson institucioni.
Përveç regjistrimeve video, platforma mund të prodhojë të dhëna mbi llojin e ngjarjes, vendndodhjen, kohën, nivelin e rrezikut dhe rezultatin e rishikimit të alarmit. Këto informacione mund të eksportohen dhe të përdoren në procese të mëtejshme institucionale.
Duke marrë parasysh shtrirjen e mbikëqyrjes dhe përpunimin sistematik të të dhënave të të miturve, Komisioneri vlerëson se institucionet përgjegjëse duhet të kryejnë një vlerësim të ndikimit në mbrojtjen e të dhënave, i cili të përditësohet sipas ndryshimeve të konfigurimit dhe funksionaliteteve të sistemit.
“Shtrirja e sistemit në institucione arsimore e rrit rëndësinë e këtij vlerësimi për shkak të përpunimit të të dhënave të të miturve dhe monitorimit sistematik të mjediseve ku ata zhvillojnë aktivitetin e përditshëm,” thuhet në projektraport.
Megjithatë, dokumenti nuk konfirmon se në shkollat e monitoruara janë aktivizuar funksione të njohjes biometrike të fytyrës, identifikimit automatik të individëve apo ndërveprimit me regjistra të tjerë shtetërorë. Këto mbeten çështje për verifikim të mëtejshëm.
Në përfundim, Komisioneri kërkon një model të unifikuar për administrimin e ‘Smart City’ në shkolla, forcimin e sigurisë së sistemit, dokumentimin e aksesit, trajnimin e personelit dhe mbikëqyrjen njerëzore të rezultateve të prodhuara nga algoritmet.
Ndër masat e rekomanduara përfshihet edhe “dokumentimi dhe vlerësimi periodik i performancës së algoritmeve dhe alarmeve të pasakta”, duke marrë parasysh natyrën e veprimtarisë së institucioneve arsimore.
