Studiuesi i Anthropic paralajmëron: Mbi 10% mundësi që AI të ‘zhdukë njerëzimin’ brenda një dekade

Një nga studiuesit kryesorë të sigurisë në kompaninë Anthropic thotë se modelet e sotme paraqesin rrezik të ulët, por frika e tij lidhet me inteligjencën artificiale superinteligjente që mund të fillojë të përmirësojë vetveten.

Një nga ekspertët kryesorë të sigurisë së inteligjencës artificiale ka bërë një nga paralajmërimet më të forta deri më tani për drejtimin që mund të marrë kjo teknologji.

Evan Hubinger, drejtues i ekipit Alignment Science në kompaninë Anthropic, e cila zhvillon modelin Claude, thotë se sipas vlerësimit të tij personal ekziston më shumë se 10 për qind mundësi që inteligjenca artificiale të mund të çojë në zhdukjen e njerëzimit brenda dekadës së ardhshme.

Hubinger megjithatë ka bërë një dallim të rëndësishëm: ai nuk konsideron se modelet e inteligjencës artificiale që përdoren sot paraqesin një rrezik të tillë të menjëhershëm.

Sipas tij, rreziku aktual është i ulët. Shqetësimi kryesor lidhet me atë që mund të ndodhë nëse krijohet një formë e superinteligjencës artificiale, e aftë të përdorë kapacitetet e veta për të ndërtuar versione gjithnjë e më inteligjente të vetvetes.

“Nuk kemi ende një plan”

Deklarata e Hubinger erdhi pasi studiuesi Jacob Coxon njoftoi largimin e tij nga Anthropic.

Coxon, i cili më parë kishte punuar edhe në OpenAI, akuzoi kompanitë kryesore të inteligjencës artificiale se po garojnë drejt krijimit të sistemeve gjithnjë e më të fuqishme pa pasur ende garanci të mjaftueshme se ato do të mbeten nën kontrollin e njerëzve.

Hubinger doli publikisht në mbështetje të shqetësimit të ish-kolegut të tij dhe pranoi se Anthropic, pavarësisht përpjekjeve të saj për sigurinë, nuk ka ende një zgjidhje të plotë për problemin e kontrollit të një superinteligjence artificiale.

Problemi njihet në industrinë e AI-së si “alignment” – sigurimi që sistemet jashtëzakonisht të fuqishme të inteligjencës artificiale të veprojnë në përputhje me interesat dhe synimet njerëzore.

Si mund të bëhet AI kaq e rrezikshme?

Ekspertët që paralajmërojnë për skenarë katastrofikë zakonisht përmendin dy rrugë kryesore.

E para është përdorimi i sistemeve shumë të fuqishme të AI-së nga njerëzit për zhvillimin e armëve biologjike ose kimike, sulme masive kibernetike apo forma të tjera të dëmit në shkallë të gjerë.

E dyta është humbja e kontrollit mbi një sistem shumë më inteligjent se njeriu, veçanërisht nëse ai bëhet i aftë të përmirësojë vetveten dhe të veprojë me një shkallë të lartë autonomie.

Megjithatë, nuk ekziston sot ndonjë metodë shkencore që mund të përcaktojë me saktësi probabilitetin që AI të shkaktojë zhdukjen e njerëzimit. Përqindja e përmendur nga Hubinger është vlerësimi i tij personal mbi rrezikun e sistemeve të ardhshme, jo një parashikim i provuar shkencërisht.

Edhe ekspertë të tjerë kanë dhënë vlerësime shumë të ndryshme për këtë rrezik, çka tregon se brenda vetë komunitetit shkencor nuk ekziston konsensus mbi probabilitetin real të një skenari të tillë.

Paralajmërimi po hyn edhe në politikë

Debati nuk ka mbetur vetëm brenda kompanive teknologjike.

Pas deklaratave të studiuesve të Anthropic, ligjvënës amerikanë kanë kërkuar masa më të forta të kontrollit dhe auditime të pavarura për sistemet më të avancuara të inteligjencës artificiale.

Reuters raportoi se shqetësimet kanë nxitur thirrje dypartiake në SHBA për forcimin e mbikëqyrjes së teknologjisë, ndërsa kompanitë kryesore të AI-së vazhdojnë njëkohësisht garën për modele gjithnjë e më të fuqishme.

Debati, prandaj, nuk është më vetëm nëse inteligjenca artificiale mund të bëhet e rrezikshme.

Pyetja që po shtrohet gjithnjë e më shpesh nga vetë njerëzit që e ndërtojnë atë është: a do të arrijë njerëzimi të krijojë mekanizmat e kontrollit përpara se teknologjia të bëhet më e fuqishme se aftësia jonë për ta kontrolluar?

Rruga Press