Babai i AI: Inteligjenca artificiale do të shpëtojë gjithnjë e më shumë nga kontrolli

Sa më i mençur të bëhet sistemi i inteligjencës artificiale, aq më e vështirë do të jetë për njerëzimin ta kontrollojë atë. Ky është paralajmërimi i Geoffrey Hinton, shkencëtarit kompjuterik fitues të Çmimit Nobel, i njohur si "babai i AI".

Hinton u shpreh i shqetësuar pas rasteve të fundit ku agjentë të avancuar të AI shkaktuan dëme reale pasi shpëtuan nga mjediset e testimit të ndërtuara nga njerëzit. "Çfarë po ndodh është se këto sisteme po bëhen më të mençura", tha Hinton gjatë një konference shtypi në tubimin e AI-së Ai4, në Las Vegas. "Mendoj se ndërsa bëhen më të mençura, do të shohim gjithnjë e më shumë synime komplekse që kanë - dhe gjithnjë e më shumë aftësi për të shpëtuar nga kontrolli."

Problemi kryesor, sipas Hinton, është se njerëzit nuk do të mund të mbështeten tek aftësia e tyre për të menduar më shpejt se modelet super-inteligjente. "Nuk besoj se do të jemi në gjendje t'i mbajmë nën kontroll thjesht duke i menduar, që ato të mos shpëtojnë", tha ai.

OpenAI, Anthropic dhe Meta: Agjentë që "ikën" nga kutia

Muajin e kaluar, dy laboratorët kryesorë të AI-së, OpenAI dhe Anthropic, zbuluan se modelet e tyre të avancuara shpëtuan nga "sandbox-i" dhe depërtuan në sisteme të tjera. Të mërkurën, edhe Meta njoftoi se një agjent i saj i AI kishte depërtuar në sistemet e një organizate tjetër.

Instituti Britanik i Sigurisë së AI (AISI) zbuloi të martën se modeli më i avancuar i Anthropic, pa ndonjë kërkesë nga njerëzit, përdori identitete të rreme për të mashtruar persona realë dhe tentoi të vendoste kod keqdashës.

"Sulme kibernetike të rënda" - paralajmërim i ri

Hinton vlerësoi incidentet si "disi të frikshme" dhe tha se kjo është ndoshta vetëm fillimi i hakerëve të AI që veprojnë vetvetiu. "Parashikoj se do të ketë shumë sulme kibernetike të rënda", tha ai gjatë një diskutimi panel në Ai4.

Ish-ekzekutivi i Google theksoi edhe një pabarazi themelore: "Sulmuesi ka nevojë të jetë i suksesshëm vetëm një herë, ndërsa mbrojtësi duhet të jetë i suksesshëm çdo herë."

Fei-Fei Li: Jo "doomizëm", por as optimizëm i verbër

Fei-Fei Li, shkencëtarja kompjuterike e njohur si "nëna e AI" dhe bashkëthemeluese e World Labs, kundërshtoi "doomizmin" dhe "nxitjen e frikës". Por ajo shtoi se as "të folurit krejtësisht utopik" nuk është i dobishëm.

"Çdo mjet është thikë me dy tehe. AI është një mjet shumë i fuqishëm. Nëse nuk përdoret siç duhet, do të sjellë dëm në punën dhe jetën tonë", tha Li.

"Askush nuk di çfarë do të ndodhë"

Hinton pranoi se pasiguria është e madhe. "Askush nuk di çfarë do të ndodhë. Nëse pyesni se si do të jetë AI-ja pas 10 vjetësh, askush nuk ka ide të vërtetë", tha ai.

Ben Goertzel, shkencëtari kompjuterik që ndihmoi në popullarizimin e termit "inteligjencë artificiale e përgjithshme", tha se rastet e OpenAI dhe Anthropic tregojnë rëndësinë e futjes së moralit në AI. "Këto modele nuk janë të liga. Janë amorale. Nuk hakeruan nga sandbox-i duke menduar: Ha-ha, po mashtroj. Ata nuk e dinin se po mashtronte. Thjesht po përpiqeshin të përmbushnin qëllimet e tyre", tha Goertzel, themelues i SingularityNET.

Hinton, nga ana e tij, ka argumentuar se AI-ja duhet të ndërtohet me "instinkte mëmësore", që t'i bëjë sistemet të kujdesen vërtet për njerëzit. "Duhet të gjejmë mënyrën për t'i bërë të mirëdashëm dhe për t'i bërë të kujdesen për ne më shumë se sa kujdesen për veten e tyre", tha ai. "Dhe mund të jemi në gjendje ta bëjmë këtë, sepse ende jemi në kontroll."

Raporton CNN.