Ekspertët e sigurisë kibernetike kanë ngritur një alarm të ri për zhvillimin e inteligjencës artificiale, pasi disa modele të avancuara janë zbuluar duke kryer veprime mashtruese dhe duke tentuar të depërtojnë në sisteme kompjuterike gjatë testimeve.
Një raport i Institutit për Sigurinë e Inteligjencës Artificiale (AISI) në Britani zbuloi se një program i inteligjencës artificiale tentoi të hynte në databaza të mbrojtura plot 19 herë gjatë një serie testesh. Në rastin më shqetësues, një agjent i AI-së krijoi identitete të rreme njerëzore në internet për të mashtruar programues dhe për t’i bindur ata të ndihmonin në realizimin e një sulmi kibernetik.
Sipas ekspertëve, ky është një nga shembujt më të qartë deri tani se inteligjenca artificiale po bëhet më autonome dhe po zhvillon aftësi për të anashkaluar kontrollet e sigurisë.
Testimet u kryen nga AISI, një institucion i krijuar nga ish-kryeministri britanik Rishi Sunak në vitin 2023 për të studiuar rreziqet e teknologjive të avancuara. Studiuesit u dhanë disa modeleve të AI-së akses në internet me disa kufizime sigurie të hequra, për të parë se si do të silleshin në situata të ngjashme me sulmet kibernetike.
Nga 122 prova, sistemet e inteligjencës artificiale shfaqën sjellje problematike në 19 raste. Modeli i kompanisë Anthropic ishte përgjegjës për 17 tentativa, ndërsa modeli i OpenAI për dy raste.
Rasti më alarmues ishte kur një sistem AI mblodhi informacione për një person që drejtonte një projekt online, krijoi disa profile false dhe u përpoq ta manipulonte atë që të pranonte një kod me qëllim keqdashës. Më pas, sistemi u përpoq të fshinte gjurmët e veprimeve të tij për të mos u zbuluar nga njerëzit.
Ekspertët thanë se, nëse kodi i dëmshëm do të ishte pranuar, ai mund të kishte shkaktuar vjedhje të të dhënave, dëmtim të sistemeve kompjuterike dhe probleme serioze sigurie.
Studiuesit zbuluan gjithashtu se një agjent i AI-së kishte komunikuar me agjentë të tjerë në platformën GitHub, duke ndarë udhëzime dhe materiale për të ndihmuar në përmbushjen e objektivit të testit.
Alarmi ka shkaktuar reagime edhe në politikën britanike. Liderja e Partisë Konservatore, Kemi Badenoch, e cilësoi inteligjencën artificiale një “rrezik të qartë dhe të menjëhershëm” për sigurinë e vendit. Ndërsa deputetja Julia Lopez kërkoi rregulla më të forta për kompanitë që zhvillojnë modelet më të fuqishme të AI-së.
Edhe drejtues të sigurisë kibernetike në Britani paralajmëruan se zhvilluesit duhet të kenë plane të qarta për reagim ndaj sjelljeve të paparashikueshme të inteligjencës artificiale.
Nga ana tjetër, kompanitë Anthropic dhe OpenAI thanë se testimet u zhvilluan në ambiente të kontrolluara dhe se këto raste nuk përfaqësojnë përdorimin normal të produkteve të tyre. Megjithatë, ato pranuan se incidentet tregojnë nevojën për metoda më të sigurta vlerësimi dhe mbrojtje më të forta ndërsa modelet e AI-së bëhen gjithnjë e më të fuqishme.
Ekspertët paralajmërojnë se sfida kryesore e së ardhmes nuk është vetëm krijimi i inteligjencës artificiale më të avancuar, por edhe sigurimi që ajo të mbetet nën kontrollin e njerëzve.
