„Hazardujeme s našimi životmi“: Výskumník umelej inteligencie opúšťa Anthropic s hrozným varovaním ohľadom bezpečnosti
„Ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by nás mohla do konca desaťročia všetkých zabiť,“ hovorí zamestnanec v rezignačnom príspevku po odchode z technologického giganta, píše portál Politico
Výskumník umelej inteligencie, ktorý pracoval v spoločnosti Anthropic – a predtým v OpenAI – rezignoval s tým, že obaja technologickí giganti „hazardujú s našimi životmi“.
Jacob Coxon zdieľal svoj odchod v príspevku na X a varoval, že svet by nemal „podceňovať silu tejto technológie“. Dodal: „Čoskoro to budú nadľudské systémy, ktoré dokážu hacknúť čokoľvek, zo dňa na deň zrevolucionizovať akúkoľvek oblasť a získať skutočnú moc a zdroje. Všetci sme boli svedkami pokroku v každej z týchto oblastí a pokrok sa nespomaluje.“
Coxon povedal, že Anthropic aj OpenAI „smerujú priamo k sebazdokonaľujúcej sa superinteligencii“, čo sa vzťahuje na scenár, v ktorom si modely umelej inteligencie môžu vyvinúť schopnejšieho nástupcu seba samých, čím sa vytvorí nezastaviteľná spätná väzba.
Spoločnosti zaoberajúce sa umelou inteligenciou, ako napríklad spoločnosť Deepmind, ktorú vlastní Google , to vnímajú ako jeden z možných spúšťačov scenára, v ktorom umelá inteligencia výrazne prevyšuje ľudskú inteligenciu (známu ako umelá superinteligencia) namiesto toho, aby sa jej len vyrovnala (známa ako všeobecná umelá inteligencia).
„Ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by nás mohla do konca desaťročia všetkých zabiť,“ povedal Coxon v ďalšom príspevku.
Evan Hubinger, vedúci pracovník spoločnosti Anthropic, ktorý sa stará o udržanie súladu technológie s ľudskými cieľmi a hodnotami, potvrdil Coxonove tvrdenia vo vlastnom následnom príspevku , hoci spoločnosť neopustil.
„Jacob má v tomto pravdu – naozaj úprimne veríme, že umelá inteligencia by mohla zabiť všetkých ľudí,“ povedal.
Hubinger odhadol, že pravdepodobnosť, že sa to stane v nasledujúcom desaťročí, je vyššia ako desať percent a dodal, že zatiaľ neexistuje žiadny plán, ako udržať umelú inteligenciu v súlade s ľudskými cieľmi v scenári superinteligencie.
Americký senátor Bernie Sanders minulý týždeň oznámil, že predloží legislatívu, ktorá firmám zakáže rozvíjať superinteligenciu.
V EÚ hlavný zákon bloku o umelej inteligencii nariaďuje spoločnostiam, aby posudzovali a zmierňovali takzvané riziká straty kontroly, pri ktorých ľudia už nemajú kontrolu nad modelmi umelej inteligencie.
-red2-
Ilustračné foto: infobrics
10. september 2026 05.57