Një incident katastrofik, që do të ishte e pamundur të injorohej: llogari bankare të bllokuara, kolaps i internetit, fikje e centraleve elektrike dhe ndërprerje të furnizimit me ujë.
Një skenar i tillë do t’i sillte rreziqet e inteligjencës artificiale drejtpërdrejt në jetën e përditshme, duke shkaktuar zemërimin e qytetarëve. Pikërisht për këtë skenar, sipas një investigimi të publikuar nga Axios, po diskutojnë në takime me dyer të mbyllura drejtuesit e OpenAI, Anthropic dhe kompanive të tjera të inteligjencës artificiale.
Skenari që konsiderohet më i mundshëm është një sulm kibernetik në shkallë të gjerë.
Ai mund të shkaktohet nga sisteme autonome të inteligjencës artificiale që dalin jashtë kontrollit gjatë testimeve, ose nga kriminelë që arrijnë të përdorin modelet e disponueshme në mënyra të paparashikuara. Pasojat mund të jenë shkatërruese, duke goditur njëkohësisht infrastrukturën kritike, besimin e publikut te teknologjia dhe reputacionin e kompanive që e zhvillojnë atë.
Simulimet për përballimin e emergjencave nuk janë një praktikë e re. Megjithatë, ajo që ngre më shumë shqetësim, sipas Axios, është se shumë studiues dhe drejtues të sektorit e konsiderojnë të pashmangshëm një incident të rëndë.
Disa prej burimeve të cituara nga media mendojnë se një ngjarje e kësaj përmase mund të ndodhë brenda gjashtë deri në 12 muajve të ardhshëm.
Një zëdhënës i OpenAI deklaroi se kompania zhvillon simulime përgatitore, gjatë të cilave ekipet shqyrtojnë dhe trajtojnë skenarë të ndryshëm të mundshëm. Megjithatë, kompania theksoi se këto skenarë nuk konsiderohen të pashmangshëm, por shërbejnë për t’u përgatitur për situata të ndryshme. Anthropic, nga ana tjetër, refuzoi të komentonte.
Një katastrofë e tillë mund të shkaktonte zemërim të gjerë ndaj drejtuesve të kompanive të inteligjencës artificiale, mes tyre Sam Altman dhe Dario Amodei, por edhe ndaj presidentit amerikan Donald Trump, për shkak të qëndrimit të tij ngurrues ndaj rregullimit të këtij sektori.
Sipas Axios, kompanitë po përgatiten veçanërisht për përballjen me Kongresin amerikan. Pas një incidenti të rëndë, thirrjet për të ndalur zhvillimin e inteligjencës artificiale mund të bëheshin shumë më të vështira për t’u kundërshtuar. Ndër masat që po diskutohen janë pezullimi i zhvillimit të modeleve të avancuara dhe vendosja e një mekanizmi të detyrueshëm për fikjen e sistemeve jashtë kontrollit.
Megjithatë, zbatimi i një mase të tillë mund të jetë tejet i vështirë. Sistemet që janë shpërndarë tashmë, që mund të shkarkohen dhe të ekzekutohen në kompjuterë të ndryshëm, mund të mos ndalen lehtësisht me një ndërprerës të vetëm.
Kjo e bën edhe më të ndërlikuar kontrollin e teknologjisë në rast se ajo kthehet në burim të një krize me pasoja të gjera.
