Kompania e inteligjencës artificiale zbuloi raste të reja të përdorimit të modeleve të saj për sulme kibernetike, fushata propagandistike dhe kërkime të rrezikshme biologjike, disa ditë pasi një studiues dha dorëheqjen për shkak të shqetësimeve për sigurinë.
Anthropic tha të enjten se kishte bllokuar përpjekjet e aktorëve keqdashës për të keqpërdorur modelet e saj të inteligjencës artificiale për sulme kibernetike, mbikëqyrje dhe kërkime biologjike që mund të kishin kontribuar në zhvillimin e armëve.
Ndërsa modelet e inteligjencës artificiale bëhen më të fuqishme, sulmet kibernetike të sofistikuara kërkojnë gjithnjë e më pak aftësi teknike, që do të thotë se edhe individët e vetëm tani mund të krijojnë kërcënime që do të kishin qenë të pamundura vetëm një vit më parë, tha kompania.
Anthropic shtoi se ka forcuar masat mbrojtëse në modelet e saj më të reja për të kufizuar kërkimet biologjike me aplikime të mundshme të armëve.
“Rastet që ndajmë këtu nuk janë keqpërdorim tipik, por shembuj të aktivitetit më të dukshëm dhe të ri kërcënues që kemi identifikuar deri më sot”, tha Anthropic në raportin e saj të tretë mbi keqpërdorimin e inteligjencës artificiale që nga marsi 2025.
Raporti përfshin fragmente të kodit të dëmshëm dhe kërkesave të inteligjencës artificiale që kompania tha se i kishte identifikuar, dhe u bëri thirrje qeverive dhe firmave rivale të inteligjencës artificiale të jenë të kujdesshme për abuzime të ngjashme.
“Po e publikojmë këtë punim sepse besojmë se kemi përgjegjësinë të zbulojmë keqpërdorimin dashakeq të shërbimeve tona”, tha kompania.
“Ndërsa modelet bëhen gjithnjë e më të afta, rreziqet e tyre do të rriten, përveç nëse zhvilluesit e inteligjencës artificiale dhe mbrojtësit e shoqërisë nuk veprojnë për t’i bërë ato më të sigurta.”
Anthropic, e cila po përgatit një ofertë publike fillestare këtë vjeshtë, publikoi raportin dy ditë pasi një nga studiuesit e saj njoftoi dorëheqjen e tij për shkak të shqetësimeve se kompania dhe konkurrentët e saj nuk po e zhvillojnë inteligjencën artificiale në mënyrë të përgjegjshme.
Ai u bëri jehonë paralajmërimeve të ngritura diku tjetër në industri rreth potencialit të teknologjisë për t’i shpëtuar kontrollit njerëzor.
Claude kërkoi të ndihmonte në bërjen e një virusi më të rrezikshëm
Midis dhjetorit 2025 dhe gushtit 2026, studiuesit e Anthropic identifikuan keqpërdorim nga aktorë që variojnë nga shitësit e spiunazhit dhe individë të motivuar politikisht deri te grupet e sponsorizuara nga shteti që përhapin propagandë.
Ndër rastet e përshkruara në raport, aktorë të paidentifikuar u përpoqën të përdorin modelet e Anthropic për kërkime që mund të kishin çuar në armë biologjike.
Në një rast, kompania tha se sistemet e saj bllokuan një kërkesë për chatbot-in e saj Claude për të ndihmuar në hartimin e një kërkese për grant për financim shkencor.
“Puna e diskutuar në aplikim përfshinte kërkime mbi fitimin e funksionit — domethënë, kërkime që ndryshojnë gjenetikisht një organizëm për të krijuar një veti të re ose të përmirësuar biologjike — mbi virusin chikungunya”, thuhej në raport.
Hulumtimi kishte në shënjestër transmetueshmërinë e virusit dhe aftësinë e tij për t’iu shmangur sistemit imunitar.
Chikungunya është një virus që përhapet nga mushkonjat dhe shkakton dhimbje të forta dhe ethe. Propozimi për grant synonte të forconte mutacionet që do ta bënin virusin gjithnjë e më të rrezikshëm.
Anthropic tha se një hulumtim i tillë mund të mbështesë “sigurisht” zhvillimin e vaksinave dhe trajtimeve, por shtoi se “mund të përdoret gjithashtu për ta bërë patogjenin më të rrezikshëm”.
‘Nuk mund të garantojmë asnjë dëm’
Asnjë nga rastet në raport nuk përfshinte modelet më të reja dhe më të fuqishme të Anthropic, Claude Fable ose modelet e klasës Mythos, me një përjashtim: një “fushatë të fshehtë në shkallë industriale për të nxjerrë aftësitë e një modeli dhe për t’i replikuar ato në një model tjetër pa autorizim”.
Anthropic tha se modelet e saj më të vjetra, përfshirë Claude Opus 4 dhe Claude Sonnet 4.5 nga viti 2025, “ishin shumë nën pragun ku mund të ndihmonin në mënyrë kuptimplote një përdorues të sofistikuar në kryerjen e kërkimeve të rrezikshme biologjike”.
“Si rezultat, masat mbrojtëse për këto modele ishin më pak të rrepta, të drejtuara kryesisht në parandalimin e aksesit në përmbajtje që mund t’i frymëzonte fillestarët në rikrijimin e armëve biologjike të njohura”, tha raporti.
“Por për modelet e sotme – të cilat janë të afta të ndihmojnë në një sërë detyrash komplekse kërkimore shkencore – provat nuk janë më të sigurta dhe ne nuk mund të japim të njëjtën siguri.”
Për shkak të kësaj, Anthropic ka prezantuar masa mbrojtëse më të rrepta që kufizojnë aksesin në një gamë të gjerë pyetjesh kërkimore biologjike me përdorim të dyfishtë në modelet e saj më të fundit, siç është Claude Fable 5, sipas raportit.
Ndërsa kompanitë e inteligjencës artificiale publikojnë modele gjithnjë e më të fuqishme, ekspertët u kanë bërë thirrje qeverive që ta rregullojnë teknologjinë në vend që të mbështeten te industria për të kontrolluar veten.
John Thickstun, një profesor asistent i shkencave kompjuterike në Universitetin Cornell, tha se kjo i vë kompani të tilla si Anthropic dhe OpenAI në një pozicion të pakëndshëm, pasi ato në fakt duhet të bëjnë “gjykime vlerash në shkallë shoqërore pa asnjë lloj mbikëqyrjeje demokratike ose të menduar mirë”.
Raporti vjen pas paralajmërimit të një studiuesi
Anthropic identifikoi gjithashtu grupe që kishin krijuar qindra llogari të rreme në mediat sociale, të dizajnuara për t’u dukur si përdorues të zakonshëm, të cilat më pas postuan materiale që përforconin të njëjtin mesazh politik gjatë një jave.
Kompania përshkroi nëntë raste të tilla, me origjinë nga Rusia, Irani, Turqia dhe përtej Gjirit, Azisë Jugore, Afrikës dhe Evropës.
Ndërsa platformat e mediave sociale mund të zbulojnë operacionet e ndikimit pasi postimet të kenë filluar të qarkullojnë, Anthropic tha se “mund ta shohë atë në Claude ndërsa operacioni është ende duke u ndërtuar”.
Raporti vjen pas dorëheqjes së studiuesit të Antropologjisë, Jacob Coxon, i cili tha se po largohej nga frika se kompania dhe rivali i saj kryesor, OpenAI, “po vrapojnë drejt e në superinteligjencën vetëpërmirësuese dhe po luajnë me jetën tonë”.
Coxon paralajmëroi se disa nga ish-kolegët e tij besojnë se inteligjenca artificiale mund të kërcënojë jetën njerëzore para fundit të dekadës.
Anthropic tha se kishte bllokuar secilën prej aktiviteteve dashakeqe të identifikuara në raport, kishte përdorur gjetjet për të forcuar mbrojtjet e saj dhe kishte ndarë informacion me autoritetet qeveritare dhe partnerët e industrisë.
“Shpresojmë që gjetjet në këtë raport do t’i ndihmojnë zhvilluesit e tjerë të njohin modele të ngjashme në platformat e tyre, t’u japin qeverive dhe shoqërisë civile një pamje më të qartë se si marrin formë kërcënimet në zhvillim dhe të forcojnë mbrojtjet kolektive”, tha kompania./Euronews.com
