Kryeshkencëtari i OpenAI, Jakub Pachocki ka bërë thirrje për kujdes të jashtëzakonshëm lidhur me përparimin e shpejtë të inteligjencës artificiale dhe paralajmëroi se mund të nevojitet më shumë ndërhyrje për të siguruar që “njerëzit të mbeten në kontroll të së ardhmes”.
“Jam i shqetësuar se askush nuk është i përgatitur për pasojat e një rritjeje të vazhdueshme të shpejtë të inteligjencës së makinerive”, shkroi ai në një postim të titulluar “Një Mendje Aliene “.
Postimi vjen vetëm pak ditë pasi prodhuesi i ChatGPT lançoi modelin e tij më të fundit GPT-6 Astra, të cilin e quajti produktin e tij më të fuqishëm ndonjëherë.
OpenAI dhe firma të tjera të IA-së si Anthropic ndanë raporte të agjentëve të tyre të IA-së që vepronin në mënyrë autonome dhe kryenin sulme kibernetike në botën reale ndaj kompanive të tjera.
Në korrik, OpenAI e quajti një incident në të cilin agjentët e saj të IA-së – sisteme IA që mund të veprojnë vetëm pas udhëzimeve njerëzore – hakuan platformën teknologjike Hugging Face “të paprecedentë”.
Ndërkohë, në shtator, një raport pohoi se muaj më parë agjentë të inteligjencës artificiale nga firma kishin rrëmbyer gjithashtu një faqe interneti gjermane.
“Po përballemi me një tranzicion drejt një bote me makina tepër inteligjente dhe duhet të sigurohemi që ky tranzicion të funksionojë mirë për njerëzimin”, shkroi Pachocki në postimin e fundit.
Ai tha se OpenAI do të vazhdojë të ndërtojë sisteme mbrojtëse dhe të kërkojë zgjidhje teknike për shtrirjen – një term i përdorur për të përshkruar sigurimin që veprimet dhe qëllimet e një makinerie përputhen në mënyrë të përkryer me qëllimin njerëzor dhe me parmakët mbrojtës të sigurisë.
Pachocki shtoi se një nga prioritetet kryesore të firmës në të ardhmen do të ishte ndërtimi i një studiuesi të automatizuar të inteligjencës artificiale për të mbajtur ritmin me progresin e inteligjencës artificiale, duke siguruar mënyra që studiuesit njerëzorë të mund të mbeten pjesë e procesit.
Në gusht, OpenAI tha se kishte ngadalësuar trajnimin e disa prej modeleve të saj më të përparuara të inteligjencës artificiale për të përmirësuar sigurinë.
