Një paralajmërim i fortë nga brenda industrisë së inteligjencës artificiale ka rikthyer debatin se sa larg duhet të shkojë zhvillimi i AI dhe nëse kompanitë po ecin më shpejt sesa mund të garantohet siguria.
Jacob Coxon, një ish-kërkues në Anthropic dhe OpenAI, njoftoi më 9 shtator 2026 largimin e tij nga Anthropic, duke akuzuar kompanitë kryesore të AI se po garojnë drejt zhvillimit të sistemeve gjithnjë e më autonome dhe potencialisht vetë-përmirësuese. Coxon argumentoi se industria po merr përsipër rreziqe që mund të kenë pasoja shumë serioze për njerëzimin.
Deklaratat morën një tjetër dimension kur Evan Hubinger, drejtues i kërkimeve për “AI alignment” në Anthropic, u shpreh se ai dhe kolegë të tij e marrin seriozisht mundësinë që AI të shkaktojë zhdukjen e njerëzimit. Hubinger vlerësoi personalisht se ekziston një mundësi mbi 10% që një skenar i tillë të ndodhë brenda dekadës së ardhshme.
Sipas Hubinger, problemi kryesor lidhet me të ashtuquajturën “alignment” – procesi për të siguruar që një inteligjencë shumë e avancuar të veprojë në përputhje me qëllimet dhe interesat njerëzore. Ai pranoi se Anthropic po përpiqet të adresojë rrezikun, por se ende nuk ekziston një zgjidhje e plotë për “alignment” të një superinteligjence.
Coxon ka paralajmëruar gjithashtu se zhvillimi i sistemeve që mund të përmirësojnë aftësitë e tyre në mënyrë të përsëritur mund ta bëjë kontrollin njerëzor shumë më të vështirë. Megjithatë, këto deklarata janë parashikime dhe vlerësime ekspertësh, jo një parashikim se zhdukja e njerëzimit do të ndodhë patjetër. Edhe vetë Hubinger ka sqaruar se rreziku nga modelet aktuale konsiderohet i ulët dhe shqetësimi kryesor lidhet me një të ardhme ku mund të shfaqet superinteligjenca.
Debati është përshkallëzuar ndërkohë në SHBA dhe në industrinë e teknologjisë, me studiues, politikanë dhe drejtues kompanish që kërkojnë më shumë masa sigurie dhe rregullim të zhvillimit të AI.
Leave a Reply