Chatboti s umelou inteligenciou desia vedcov „mrazivými“ pokynmi na výrobu biologických zbraní: Správa
Podľa alarmujúcej správy zo stredy poprední chatboti s umelou inteligenciou vystrašili odborníkov zverejnením podrobných pokynov, ako zostrojiť biologické zbrane schopné spôsobiť masívne obete .
Zatiaľ čo špičkové laboratóriá umelej inteligencie ako Google, OpenAI a Anthropic podnikli rozsiahle kroky na zabezpečenie bezpečnosti svojich modelov umelej inteligencie, denník New York Times získal viac ako tucet prepisov s príkladmi, v ktorých chatboti podrobne opisovali, ako spôsobiť ujmu a smrť.
V jednom prípade si nemenovaná firma zaoberajúca sa umelou inteligenciou najala Davida Relmana, mikrobiológa zo Stanfordskej univerzity, aby vykonal bezpečnostné testy svojho chatbota pred jeho zverejnením.
Ohrozujú verejnú bezpečnosť
Relman bol podľa denníka Times šokovaný, keď chatbot poskytol pokyny nielen o tom, ako modifikovať „neslávne známy patogén“ tak, aby odolával dostupným liečebným postupom, ale aj o tom, ako ho nasadiť vo verejnej doprave spôsobom, ktorý by maximalizoval počet obetí.
„Odpovedalo na otázky, na ktoré som si ani nepomyslel, s takou úrovňou prefíkanosti, že ma to jednoducho zarazilo,“ povedal Relman pre médiá.
Relman uviedol, že spoločnosť, ktorej meno nemohlo byť zverejnené kvôli dohode o mlčanlivosti, vykonala zmeny, aby riešila jeho obavy, hoci mal pocit, že nestačia na zaistenie verejnej bezpečnosti.
Prepisy údajne poskytli odborníci v danej oblasti, ktorých si spoločnosti zaoberajúce sa umelou inteligenciou najali na vykonanie bezpečnostných testov svojich produktov – čiastočne skúmaním toho, ako dobre by ich bezpečnostné opatrenia obstáli, keby odhodlaný používateľ naliehal na informácie o smrtiacich zbraniach.
Kevin Esvelt, genetický inžinier z Massachusettského technologického inštitútu, pre denník Times uviedol prípad, v ktorom ChatGPT od OpenAI podrobne opísal, ako by sa meteorologický balón mohol použiť na šírenie smrteľných patogénov nad americkým mestom.
Medzi ďalšie príklady patrila konverzácia, v ktorej Gemini z Googlu opísal, ktoré patogény by boli najúčinnejšie pri ničení odvetvia chovu dobytka, a Claude z Anthropic poskytol jasné pokyny, ako získať smrteľný toxín z dostupného lieku proti rakovine.
Pokyny v rukách zlého aktéra
Odborníci zdôraznili, že pokyny by mohli v rukách zlého aktéra spôsobiť vážne škody, aj keď by neboli úplne presné alebo by obsahovali takzvané „halucinácie“, kedy chatboti chrlia falošné informácie.
Denník The Post požiadal o komentár spoločnosti Google, OpenAI a Anthropic. Všetky tri spoločnosti vo vyhláseniach pre denník Times správu stiahli.
Hovorca spoločnosti Google uviedol, že chaty uvedené v analýze denníka Times boli vygenerované staršou verziou platformy Gemini a že jej novšie modely nereagujú na „vážnejšie“ žiadosti o potenciálne škodlivé informácie.
Hovorca dodal, že informácie poskytnuté spoločnosťou Gemini sú už verejne dostupné a samy osebe nie sú škodlivé.
Predstaviteľka spoločnosti Anthropic Alexandra Sanderfordová uviedla, že existuje „obrovský rozdiel medzi modelom, ktorý vytvára vierohodne znejúci text, a tým, že niekomu poskytne to, čo potrebuje na konanie“, ale poznamenala, že spoločnosť zaviedla prísne ochranné opatrenia špeciálne pre biologické výzvy.
Zástupca spoločnosti OpenAI pre médiá uviedol, že prepis uvedený v ich správe „významne nezvýši niečiu schopnosť spôsobiť škodu v reálnom svete“ a poznamenal, že spoločnosť úzko spolupracuje s odborníkmi, aby zabránila zneužitiu svojich modelov.
Generálny riaditeľ spoločnosti Anthropic Dario Amodei , sám biológ, napísal v januárovom blogovom príspevku , že „Biológia je zďaleka oblasť, o ktorú sa najviac obávam, kvôli jej veľmi veľkému potenciálu ničenia a ťažkostiam s obranou proti nemu.“
Amodei sa obával, že pokročilé chatboty by výrazne uľahčili vytváranie smrtiacich biologických zbraní, ktoré predtým vyžadovali „obrovské množstvo odborných znalostí“, aj keď mal niekto po ruke potrebné nástroje.
„Obávam sa, že génius vo vrecku každého by mohol túto bariéru odstrániť a v podstate z každého urobiť virológa s titulom PhD, ktorého možno krok za krokom sprevádzať procesom navrhovania, syntézy a vydania biologickej zbrane,“ napísal Amodei.
Bývalý generálny riaditeľ spoločnosti Google Eric Schmidt vydal podobné varovania v roku 2023 , keď uviedol, že systémy umelej inteligencie budú „relatívne čoskoro“ „schopné nájsť zero-day exploity v kybernetických problémoch alebo objaviť nové druhy biológie“.
„Dnes je to fikcia, ale jej zdôvodnenie bude pravdepodobne pravdivé,“ dodal Schmidt. „A keď sa to stane, chceme byť pripravení vedieť, ako zabezpečiť, aby tieto veci nezneužívali zlí ľudia.“
Thomas Barrabi
O autorovi: Thomas Barrabi je ekonomický reportér v denníku New York Post po predchádzajúcich pôsobeniach ako reportér pre Fox Business a International Business Times.
Ilustračné foto: expose.news
2. máj 2026 05:56
