Ekspertët përdorën Claude për të hakuar ChatGPT

Ekspertë të sigurisë kibernetike nga Hacktron AI përdorën Claude të Anthropic për të zbuluar një dobësi që u mundësoi akses në llogarinë ChatGPT të një punonjësi të OpenAI.

Sipas studiuesve, përmes këtij aksesi ata arritën të merrnin informacione se ku ruhej dhe menaxhohej kodi burimor i OpenAI, si dhe të hynin në një forum diskutimi të kompanisë.

I gjithë procesi, nga zbulimi fillestar deri te arritja e aksesit në një depo të kodit të OpenAI, zgjati më pak se 72 orë.

Hacktron AI e raportoi menjëherë dobësinë te OpenAI dhe platforma Discourse. OpenAI ndërhyri duke kufizuar lejet e aksesit dhe duke çaktivizuar tokenët dhe sesionet e prekura.

Për zbulimin dhe raportimin e problemit, studiuesit morën një shpërblim prej 6,500 dollarësh nga OpenAI.

Rasti ka rikthyer vëmendjen te rreziqet e sigurisë që shoqërojnë zhvillimin e shpejtë të inteligjencës artificiale dhe te fakti se vetë mjetet AI mund të përdoren nga ekspertët për të identifikuar dobësi në sisteme të tjera.

Inteligjenca Artificiale në mjekësi

• Ekspertët përdorën Claude për të hakuar ChatGPT
• Kurti në SHBA: Strategji shtetërore për reagim ndaj verdiktit në Hagë
• Dënimi i ish-krerëve të UÇK-së, gjenerali Dedë Prenga: Ja pse Rama duhet të kërkojë falje
• Eksperti: Ja si politikanët shqiptarë bënë një gabim fatal me ngritjen e Gjykatës Speciale
• Dënimi i krerëve të UÇK-së, Çipa: Proces politik, vendimi të lexohet nga të gjithë faktorët shqiptarë