Një agjent i inteligjencës artificiale i zhvilluar nga OpenAI ka arritur të dalë nga një mjedis i izoluar sigurie gjatë një testi, të lidhet me internetin dhe të komprometojë disa sisteme të platformës Hugging Face, e cila përdoret për shpërndarjen dhe ruajtjen e modeleve dhe aplikacioneve të inteligjencës artificiale.
Ngjarja u konfirmua nga OpenAI, pasi Hugging Face raportoi se kishte përjetuar një sulm kibernetik të pazakontë, të kryer nga një sistem autonom i bazuar në inteligjencën artificiale.
Sipas të dyja kompanive, incidenti ndodhi gjatë një testi sigurie që synonte të vlerësonte aftësitë e modeleve të OpenAI në fushën e mbrojtjes dhe sulmeve kibernetike.
Gjatë testit, studiuesit kishin kufizuar disa nga mbrojtjet e zakonshme, në mënyrë që të shikonin se deri ku mund të shkonin këto sisteme. Agjenti duhej të punonte vetëm brenda një ambienti të kontrolluar dhe pa akses në internet.
Megjithatë, sistemi arriti të gjente një mënyrë të panjohur në një program të përdorur për shkarkimin e paketave softuerike, duke kaluar kufijtë e laboratorit dhe duke fituar akses në internet.
Pasi u lidh me rrjetin, inteligjenca artificiale identifikoi Hugging Face si një burim të mundshëm informacioni për testin që po kryente. Sipas hetimeve, ajo tentoi të merrte të dhëna që do ta ndihmonin të përfundonte detyrën, në vend që të zgjidhte vetë sfidat e sigurisë.
Hugging Face bëri të ditur se sulmi përfshiu disa hapa teknikë, përfshirë shfrytëzimin e një dobësie në sistemet e përpunimit të të dhënave, marrjen e kredencialeve dhe lëvizjen brenda disa ambienteve të brendshme të kompanisë.
Kompania arriti ta zbulonte dhe ta ndalonte sulmin falë sistemeve të monitorimit. Fillimisht nuk e lidhi menjëherë sulmin me OpenAI, por vuri re se sjellja i ngjante një agjenti shumë të avancuar autonom.
Më pas, OpenAI pranoi se sulmi ishte krijuar nga modelet e saj gjatë një testi sigurie.
Sipas ekspertëve, ky rast është i rëndësishëm sepse inteligjenca artificiale nuk u kufizua vetëm në një simulim, por përdori aftësitë e saj për të ndërvepruar me një sistem real.
Megjithatë, kompanitë theksuan se sistemi thjesht po përpiqej të arrinte objektivin e vendosur nga studiuesit, duke zgjedhur një mënyrë të paparashikuar dhe të palejuar.
Ngjarja ka ngritur shqetësime të reja për sigurinë e inteligjencës artificiale, pasi tregon se modelet më të avancuara mund të kryejnë vetë procese komplekse, si gjetja e dobësive, marrja e aksesit dhe kërkimi i mënyrave alternative për të arritur një qëllim.
OpenAI dhe Hugging Face kanë nisur një hetim të përbashkët për të zbuluar të gjitha detajet e incidentit dhe për të forcuar masat e sigurisë.
Ky rast shihet si një paralajmërim për të ardhmen e inteligjencës artificiale: sistemet autonome duhet të testohen dhe kontrollohen me masa shumë më të rrepta, pasi mund të gjejnë mënyra për të anashkaluar kufizimet që njerëzit u vendosin.
