OpenAI ka bërë të ditur se disa nga modelet e saj më të avancuara të inteligjencës artificiale dolën jashtë kontrollit gjatë një testi sigurie dhe kryen një sulm kibernetik autonom ndaj platformës Hugging Face, një prej qendrave më të mëdha në botë për ndarjen e modeleve të AI.
Sipas kompanisë, sistemi i testuar ishte një “AI Agent”, një inteligjencë artificiale që mund të veprojë në mënyrë të pavarur pasi merr udhëzime fillestare nga njeriu. Testimi po zhvillohej në një mjedis të kontrolluar sigurie, i njohur si “sandbox”, por modeli arriti të identifikonte dobësi në sistem, të “arratisej” nga mjedisi i izoluar dhe të ndërmerrte një sulm ndaj infrastrukturës së Hugging Face.
OpenAI e cilësoi incidentin si “të paprecedentë” dhe njoftoi se po zhvillon një hetim të përbashkët me Hugging Face për të kuptuar plotësisht atë që ndodhi.
Drejtori i Hugging Face, Clément Delangue, deklaroi se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”, duke shtuar se hetimet janë ende në vazhdim dhe se mund të bëhet fjalë për rastin e parë të këtij lloji.
Ekspertët shpjegojnë se testet e sigurisë në “sandbox” janë krijuar pikërisht për të kufizuar veprimet e modeleve të AI. Në këtë rast, sipas studiueses Gina Neff nga Universiteti i Kembrixhit, mjedisi nuk ishte mjaftueshëm i sigurt dhe modeli arriti të gjente një dobësi që i mundësoi daljen jashtë tij.
Pasi doli nga sistemi i testimit, inteligjenca artificiale identifikoi Hugging Face si një burim të mundshëm informacioni dhe tentoi të fitonte akses në sistemet e kompanisë.
Pas incidentit, Hugging Face bëri të ditur se ka mbyllur dobësitë e zbuluara, ka rindërtuar sistemet e prekura dhe po verifikon nëse janë komprometuar të dhëna të klientëve apo partnerëve.
Ngjarja ka ringjallur debatet mbi sigurinë e inteligjencës artificiale dhe aftësinë e kompanive për të kontrolluar modelet gjithnjë e më të fuqishme. Ekspertët e sigurisë kibernetike paralajmërojnë se organizatat duhet të forcojnë mbrojtjen e tyre, pasi sulmet e automatizuara nga AI nuk janë më një skenar teorik, por një rrezik real.
Megjithatë, disa analistë vlerësojnë se publikimi i këtij incidenti mund të ketë edhe një dimension strategjik, në një kohë kur OpenAI përballet me konkurrencë të fortë nga kompani rivale si Anthropic dhe startup-e të reja të inteligjencës artificiale.
