Një shkencëtar britanik 27-vjeçar ka vendosur të largohet nga kompania amerikane e inteligjencës artificiale Anthropic, duke paralajmëruar se gara mes kompanive të mëdha të teknologjisë për të zhvilluar sisteme gjithnjë e më të fuqishme po bëhet e rrezikshme.
Jacob Coxon, studiues i matematikës dhe i inteligjencës artificiale, ka punuar për më shumë se tre vjet në zhvillimin e modeleve të IA-së. Ai ka punuar më parë edhe në OpenAI, kompaninë që zhvillon modelet GPT, ndërsa më pas iu bashkua Anthropic, e njohur për modelet Claude.
Paralajmërimi për superinteligjencën
Shkencëtari paralajmëron se, nëse gara vazhdon me ritmet aktuale, situata mund të dalë jashtë kontrollit brenda pak vitesh. Sipas skenarit më të keq që ai përshkruan, zhvillimi i pakontrolluar i këtyre sistemeve mund të çojë edhe në pasoja katastrofike për njerëzimin. Për të shpjeguar shqetësimin e tij, Coxon e krahasoi situatën me Projektin Manhattan, programin sekret amerikan që çoi në krijimin e bombës atomike gjatë Luftës së Dytë Botërore.
Por, sipas tij, ekziston një ndryshim i madh: sot vendime që mund të kenë pasoja globale merren nga ekipe inxhinierësh në kompanitë e teknologjisë, përmes kompjuterëve dhe platformave të komunikimit të përditshëm.
Kritika ndaj OpenAI dhe Anthropic
Coxon ka kritikuar si OpenAI-n, ashtu edhe Anthropic, por për arsye të ndryshme. Sipas tij, në OpenAI shumë punonjës nuk e kuptojnë plotësisht nivelin e rrezikut që paraqet zhvillimi i këtyre teknologjive. Për Anthropic, situata është ndryshe: kompania i njeh rreziqet, por vazhdon garën sepse druhet se një kompani tjetër mund të arrijë më parë te sistemet më të fuqishme.
Paralajmërimet e tij vijnë në një periudhë të rëndësishme për Anthropic, e cila po përgatitet për një ofertë publike fillestare dhe hyrje në bursë. Edhe drejtori ekzekutiv i kompanisë, Dario Amodei, ka shprehur shqetësime për zhvillimin e shpejtë të IA-së dhe ka bërë thirrje për më shumë kujdes dhe rregulla nga qeveritë.
Largohen gjithnjë e më shumë specialistë
Largimi i Coxon vjen në një kohë kur disa specialistë të sigurisë së inteligjencës artificiale janë larguar nga kompanitë më të mëdha të sektorit. Edhe në OpenAI, gjatë vitit të fundit, kanë dhënë dorëheqjen disa figura të rëndësishme të ekipeve që merren me sigurinë, kontrollin dhe përputhjen e sistemeve të IA-së me objektivat njerëzore.
Pak ditë para largimit të Coxon, Jakub Pachocki, drejtues i kërkimit në OpenAI, pranoi publikisht se asnjë laborator i madh nuk e ka zgjidhur ende plotësisht problemin e “alignment”, pra mënyrën për të garantuar që një sistem shumë i fuqishëm i IA-së të veprojë gjithmonë në përputhje me qëllimet dhe vlerat njerëzore.
Ndërkohë, studiuesi i Anthropic, Evan Hubinger, ka thënë se sipas vlerësimit të tij ekziston një mundësi mbi 10% që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit brenda dhjetë viteve.
“Duhet të ndalojmë përpara se të jetë vonë”
Coxon kërkon që kompanitë e mëdha të IA-së të vendosin kufij të përbashkët për zhvillimin e sistemeve më të fuqishme. Nëse kompanitë nuk arrijnë një marrëveshje vetë, ai kërkon që qeveritë të ndërhyjnë dhe të vendosin një ndalim të përkohshëm për trajnimin e modeleve që kalojnë një nivel të caktuar fuqie.
Debati tashmë ka hyrë edhe në politikën amerikane. Më 3 shtator, senatori Bernie Sanders dhe deputeti Greg Casar paraqitën një projektligj që synon pezullimin e përkohshëm të zhvillimit të sistemeve më të fuqishme të inteligjencës artificiale.
Mesazhi i Coxon është i qartë: gara për të krijuar IA-në më të fuqishme në botë nuk duhet të zhvillohet pa kuptuar më parë se si do të kontrollohen këto sisteme dhe çfarë mund të ndodhë nëse ato bëhen më të afta se njerëzit.
