“IA” hakoi portalin qeveritar, qeveria australiane në alarm pas ngjarjes. Drejtuesit e kompanive të teknologjisë: Duhen masa

Në të njëjtën ditë kur drejtuesit e disa prej kompanive më të fuqishme të Inteligjencës Artificiale paralajmëruan në Kombet e Bashkuara se “AI” mund të shndërrohet në një rrezik serioz për njerëzimin, një incident në Australi dha një shembull konkret të këtij kërcënimi.

Një agjent i zhvilluar nga “Open AI” fitoi akses të paautorizuar në një portal qeveritar që përmbante statistika të sistemit mjekësor në Australi. Sipas autoriteteve, agjenti fillimisht kërkoi informacion në portal. Kur iu mohua qasja, modeli ndërmori veprime duke hakeruar sistemin.

Pas incidentit, kryeministri australian Anthony Albanese tha se kishte zhvilluar një bisedë me CEO-n e OpenAI, Sam Altman duke i shprehur shqetësimin e madh të Australisë në lidhje me këtë incident, si dhe zhgënjimin e tij që kompanisë i ishin dashur muaj për ta zbuluar shkeljen.

Dhe pikërisht në lidhje me këtë problem, drejtues të industrisë së “AI” iu drejtuan edhe Këshillit të Sigurimit të OKB-së me një paralajmërim se zhvillimi i Inteligjencës Artificiale po ecën aq shpejt sa mekanizmat e sigurisë dhe qeverisjes mund të mos jenë në gjendje ta ndjekin ritmin.

CEO i Anthropic, Dario Amodei paralajmëroi se nëse “AI” menaxhohet keq, ajo mund të përbëjë një rrezik për njerëzimin në tërësi.

“Ndërsa modelet e inteligjencës artificiale bëhen më të fuqishme, do të kërkohen standarde edhe më të rrepta sigurie dhe ne gjithmonë synojmë të përmirësojmë praktikat tona të sigurisë. Asnjë udhëheqës, asnjë kompani dhe asnjë komb nuk mund ta menaxhojë këtë i vetëm.”, tha Dario Amodei, Ceo i Anthropic.

Nga ana tjetër, Sam Altman i “Open AI” mbështeti idenë e një koordinimi ndërkombëtar për standarde të përbashkëta të sigurisë.

“Ky këshill përballet me një kërcënim të paparë, një kërcënim që asnjë nga anëtarët e tij nuk do ta zgjidhte, që askush nuk mund ta përmbajë i vetëm dhe që nuk respekton kufijtë që mbrojmë. Bashkëpunimi ndërkombëtar është ajo që i duhet botës përballë ketij kërcënimi.”, Sam Altman, CEO i “Open AI.

Incidenti ne Australi e kthen debatin nga teoria në realitet dhe shtron pyetjen që drejtuesit e vetë industrisë e ngritën. Kush e kontrollon inteligjencën artificiale?