Një raport i inteligjencës amerikane, i qarkulluar brenda ushtrisë amerikane gjatë pranverës, në kulmin e luftës me Iranin, shkaktoi alarm të menjëhershëm në Uashington.
Raporti pretendonte se një anije kineze në Lindjen e Mesme po transportonte pjesë që lidhen me një program të armëve bërthamore.
Sipas burimeve të njohura me ngjarjen, ushtria amerikane nisi përgatitjet për të ndaluar anijen. Dy prej burimeve thanë se ushtarakë të armatosur po përgatiteshin të hipnin në bord, ndërsa avionë ushtarakë amerikanë ishin ngritur në ajër.
Megjithatë, pak para se operacioni të vihej në zbatim, zyrtarët analizuan më thellë raportin dhe zbuluan një detaj kritik: ai ishte përgatitur me ndihmën e inteligjencës artificiale.
Një chatbot i përdorur nga analisti kishte identifikuar në mënyrë të gabuar materialin që transportonte anija. Sipas njërit prej burimeve, raporti ishte “krejtësisht i pavërtetë” dhe për pak sa nuk shkaktoi një konflikt mes Shteteve të Bashkuara dhe Kinës.
Një operacion ushtarak amerikan kundër një anijeje kineze mund të kishte shkaktuar një përshkallëzim të rrezikshëm dhe të çonte në një përplasje të drejtpërdrejtë mes dy fuqive
Ngjarja nxjerr në pah rreziqet e përdorimit të inteligjencës artificiale në operacionet ushtarake, veçanërisht në situata ku vendimet duhet të merren brenda pak minutash dhe ku një gabim mund të ketë pasoja të rënda.
Në këtë rast, analisti kishte përdorur një chatbot për të analizuar të dhëna mbi ngarkesën e anijes. Sistemi kishte kombinuar informacione të disponueshme publikisht me të dhëna sekrete të inteligjencës amerikane dhe kishte arritur në një përfundim të gabuar.
Më pas, analisti përdori sërish inteligjencën artificiale për të përgatitur gjetjet në formatin standard të një raporti të inteligjencës. Dokumenti u shpërnda më tej dhe u trajtua si një raport i zakonshëm nga strukturat ushtarake
Rasti vjen në një kohë kur ushtria dhe komuniteti amerikan i inteligjencës po përshpejtojnë përdorimin e AI në një gamë të gjerë aktivitetesh, nga analizimi i sasive të mëdha të të dhënave deri te identifikimi i objektivave ushtarake, logjistika dhe menaxhimi i burimeve.
Në janar, sekretari amerikan i Mbrojtjes, Pete Hegseth, prezantoi strategjinë e Pentagonit për përshpejtimin e përdorimit të inteligjencës artificiale në ushtri. Strategjia synon që teknologjia të përdoret në mënyrë më të gjerë nga personeli ushtarak dhe civil.
Por përdorimi i AI në strukturat amerikane nuk është i centralizuar. Burime të ndryshme thonë se departamente të ndryshme përdorin sisteme të ndryshme, me standarde të ndryshme sigurie dhe verifikimi. Për rrjedhojë, nuk ekziston një standard i vetëm për të kontrolluar saktësinë e informacionit të prodhuar nga këto sisteme.
Ekspertët kanë paralajmëruar prej kohësh për fenomenin e njohur si “halucinacioni” i inteligjencës artificiale, kur një sistem gjeneron informacione të pasakta ose tërësisht të sajuara, por i paraqet ato në mënyrë bindëse.
Rasti i anijes kineze tregon se një gabim i tillë nuk mbetet domosdoshmërisht vetëm një gabim teknologjik. Në një situatë ushtarake, një informacion i pasaktë mund të ndikojë drejtpërdrejt në vendimmarrje dhe të shkaktojë pasoja reale.
Sipas burimeve të njohura me politikat aktuale të ushtrisë amerikane, përdorimi i AI për identifikimin e objektivave ushtarake po rritet, ndërsa ende nuk ka udhëzime të njëjta dhe të qarta për mënyrën se si mbikëqyrja njerëzore duhet të parandalojë gabimet fatale, viktimat civile apo goditjen aksidentale të forcave aleate.
Ngjarja ka shtuar gjithashtu shqetësimet se ritmi i shpejtë i integrimit të AI në ushtri mund t’i shtyjë analistët të prodhojnë dhe shpërndajnë informacion më shpejt, duke rritur rrezikun e gabimeve.
Në veçanti, burime të cituara në raport kanë ngritur shqetësime për analistët më të rinj, të cilët janë më të familjarizuar me këto teknologji dhe mund të kenë më shumë gjasa t’u besojnë rezultateve të tyre pa një verifikim të mjaftueshëm.
Rasti i anijes kineze shërben kështu si një paralajmërim për një nga rreziqet më të menjëhershme të përdorimit të inteligjencës artificiale në fushën ushtarake: jo domosdoshmërisht që makineritë të marrin kontrollin, por që njerëzit të marrin vendime kritike bazuar në informacion të gabuar të prodhuar nga makinat.
