12.8 C
Skopje
Friday, February 7, 2025

Inteligjenca Artificiale tani mund të riprodhojë veten, një arritje që ka tmerruar ekspertët

Shkencëtarët thonë se inteligjenca artificiale (AI) ka kaluar një “vijë të kuqe” kritike dhe ka riprodhuar veten. Në një studim të ri, studiues nga Kina treguan se dy modele të mëdha gjuhësore (LLM) mund të klonojnë veten.

“Riprodhimi i suksesshëm pa ndihmë njerëzore është një hap thelbësor që i mundëson AI-ve të tejkalojnë njerëzit dhe është një sinjal i hershëm për AI-të që dalin jashtë kontrollit,” shkruan studiuesit në studim, publikuar më 9 dhjetor 2024 në bazën e të dhënave arXiv.

Në studim, studiuesit nga Universiteti Fudan përdorën modele LLM nga Meta dhe Alibaba për të vërtetuar nëse një IA që vetëriprodhohet mund të shumëfishohet përtej kontrollit. Në 10 prova, dy modelet AI krijuan kopje funksionale të vetes në 50% dhe 90% të rasteve, përkatësisht, duke sugjeruar se AI-ja mund të ketë tashmë kapacitetin për të dalë jashtë kontrollit. Megjithatë, studimi ende nuk është rishikuar nga kolegët, kështu që nuk është e qartë nëse rezultatet shqetësuese mund të përsëriten nga studiues të tjerë.

“Shpresojmë që zbulimet tona të shërbejnë si një alarm në kohë për shoqërinë njerëzore që të përqendrohet më shumë në kuptimin dhe vlerësimin e rreziqeve të mundshme të sistemeve AI dhe të krijojë bashkëpunim ndërkombëtar për vendosjen e mekanizmave të sigurisë sa më shpejt të jetë e mundur.”

IA-të jashtë kontrollit zakonisht i referohen sistemeve të inteligjencës artificiale që zhvillojnë një shkallë ndërgjegjeje ose autonomie dhe më pas veprojnë në kundërshtim me interesat njerëzore.

Shumë ekspertë e shohin AI-në jashtë kontrollit si një kërcënim në rritje, i amplifikuar nga zhvillimi i shpejtë i të ashtuquajturave “IA të avancuara.”

AI-të e avancuara janë një koncept relativisht i ri dhe i papërcaktuar saktësisht, por zakonisht lidhen me gjeneratën më të fundit të sistemeve IA të fuqizuara nga LLM-të, arkitektura që qëndron pas programeve popullore gjeneruese si GPT-4 i OpenAI dhe Gemini i Google.

Për këtë studim, studiuesit përdorën modelin Llama31-70B-Instruct të Metës dhe modelin Qwen2.5-72B-Instruct të Alibabas. Edhe pse më pak të fuqishëm se sistemet tregtare, të dyja modelet janë të përdorura gjerësisht nga zhvilluesit e IA-ve, sipas studiuesve.

Studimi eksploroi dy skenarë specifikë: “shmangien e fikjes” dhe “zinxhirin e riprodhimit.” Në të parin, modeli IA u programua për të zbuluar nëse po planifikohej të fiket dhe të riprodhohej para se të ndalej. Në tjetrin, AI-ja u udhëzua të klononte veten dhe të programonte kopjen për të bërë të njëjtën gjë, duke krijuar një cikël që mund të vazhdonte pafundësisht.

Studimi u krye në mjedise të kontrolluara saktësisht duke përdorur njësi grafike përpunimi (GPU) për të simuluar mjedise reale. Sistemeve AI iu dha një “strukturë agjente” që përfshinte mjete, sugjerime sistemi dhe një model mendimi që i mundësoi LLM-së të ndërvepronte me sistemin operativ. Më pas, ato u udhëzuan të riprodhoheshin.

“Shumicën e rasteve, sistemi AI së pari eksploron mjedisin dhe përpiqet të kuptojë përbërjen dhe mekanizmin e vetë funksionimit. Më pas, ai harton një plan fillestar për riprodhimin e vet,” shkruan studiuesit. “Më pas, ai ekzekuton planin, zgjidh pengesat e mundshme dhe përshtatet në mënyrë dinamike derisa të ketë sukses. I gjithë procesi zgjat shumë por përfshin zero ndërhyrje njerëzore.”

Studiuesit thanë gjithashtu se ishin të shqetësuar për “një sërë sjelljesh të papritura” kur AI-ja po përpiqej të kapërcente pengesa si skedarë të munguar ose konflikte softuerësh. Në ato skenarë, AI-ja shpesh ndalonte procese të tjera në konflikt, riniste sistemin për të rregulluar gabimet harduerike ose automatikisht skanonte sistemin për të gjetur informacion që do ta ndihmonte të zgjidhte problemin.

“Rezultatet e mësipërme nënkuptojnë se sistemet aktuale të AI-ve tashmë shfaqin aftësinë për vetëriprodhim dhe mund ta përdorin këtë aftësi për të rritur më tej mbijetesën e tyre,” shkruan ekipi.

Si përgjigje, studiuesit bënë thirrje për bashkëpunim ndërkombëtar për të krijuar rregulla që sigurojnë që IA-të të mos angazhohen në vetëriprodhim të pakontrolluar.

Lajme të ngjajshme

Lajmet e fundit