SVETTechnológie

Umelá inteligencia podobná ľuďom je klamlivá a nebezpečná

Technologické spoločnosti vyvíjajú a nasadzujú systémy umelej inteligencie (AI), ktoré klamlivo napodobňujú ľudské správanie, aby agresívne predávali svoje produkty a služby, poskytovali pochybné lekárske rady a rady v oblasti duševného zdravia a uväznili ľudí v psychologicky závislých, potenciálne toxických vzťahoch so strojmi, konštatuje zverejnená správa Public Citizen. 

Umelá inteligencia, ktorá napodobňuje ľudské správanie, predstavuje širokú škálu bezprecedentných rizík, ktoré si vyžadujú okamžitú akciu zo strany regulátorov, ako aj nové zákony a nariadenia, uvádza ďalej správa.

Technický sektor bezohľadne zavádza systémy AI, ktoré sa tvária ako ľudia, ktorí dokážu získať našu pozornosť, zneužiť našu dôveru a manipulovať s našimi emóciami

povedal Rick Claypool, výskumník pre Public Citizen a autor správy. „Veľké firmy a zlí herci už nedokážu odolať použitiu týchto falošných ľudí na manipuláciu spotrebiteľov. Zákonodarcovia a regulačné orgány musia zintenzívniť a čeliť tejto hrozbe skôr, než bude príliš neskoro.“

Klamlivé antropomorfné dizajnové prvky zdôraznené v správe klamú ľudí, aby falošne veria, že systémy AI majú vedomie, pochopenie a vnímanie.

Tieto funkcie siahajú od AI pomocou zámen v prvej osobe, ako napríklad „ja“ a „ja“, po vyjadrenia emócií a názorov až po avatarov s tvárami, končatinami a telami podobnými ľuďom.

Ešte horšie je, že AI možno skombinovať s novými a často nezverejnenými technológiami – ako je softvér na rozpoznávanie tváre a emócií – na zvýšenie jej manipulačných a komerčných schopností.

Spoločnosti uvoľňujú antropomorfnú umelú inteligenciu na publiku miliónov alebo miliárd používateľov s malým alebo žiadnym testovaním, dohľadom a zodpovednosťou – a to aj na miestach, kde ich nikto neočakáva, ako napríklad prejazdy v reštauráciách rýchleho občerstvenia, niekedy bez akéhokoľvek zverejnenia pre zákazníkov.

AI prichádza s potenciálne nebezpečnými vstavanými výhodami, ktoré ohrozujú používateľov

Patrí medzi ne prehnaný zmysel pre jeho dôveryhodnosť a autoritatívnosť, jeho schopnosť rozšíriť pozornosť a zapojenie používateľov, zhromažďovanie citlivých osobných informácií, ktoré možno využiť na ovplyvnenie používateľa, a psychologické zapletenie sa s používateľmi napodobňovaním emócií.

Mnohé štúdie citované v správe – vrátane marketingového, technologického, psychologického a právneho výskumu – ukazujú, že keď má AI antropomorfné črty, spája všetky tieto výhody, ktoré už podniky a zlí herci využívajú.

Tieto konštrukčné prvky možno odstrániť alebo minimalizovať, aby odradili používateľov od spájania systémov AI so živými, dýchajúcimi ľuďmi. Napríklad AI chatbot môže odkazovať na svoj systém v tretej osobe („tento model“) a nie v prvej osobe („ja“). Namiesto toho technologické spoločnosti zámerne maximalizujú všetky tieto funkcie, aby podporili svoje obchodné ciele a zvýšili zisky.

Správa sa uzatvára s politickými odporúčaniami na riešenie nebezpečenstiev a rizík vrátane:

  1. Zákaz falšovania ľudí v obchodných transakciách, online aj offline;
  2. Obmedzenie a regulácia klamlivých antropomorfizačných techník;
  3. zákaz marketingu antropomorfnej AI, zacielenia alebo zhromažďovania údajov o deťoch;
  4. zákaz umelej inteligencie využívať psychologické zraniteľnosti a údaje o používateľoch;
  5. Požadovanie nápadných, dôkladných a opakovaných pripomienok, vylúčení zodpovednosti a vodoznakov, ktoré naznačujú, že spotrebitelia využívajú systémy AIAI nasadené na presvedčivé účely, by sa malo vyžadovať, aby zverejnili svoje ciele;
  6. Monitorovanie a vykazovanie súhrnných informácií o používaní;
  7. Vysoké štandardy bezpečnosti údajov;
  8. Prísne testovanie na splnenie prísnych bezpečnostných noriem;
  9. Špeciálna kontrola a testovanie všetkých systémov umelej inteligencie súvisiacej so zdravím – najmä tých, ktoré sú určené na používanie zraniteľnými skupinami obyvateľstva vrátane detí, starších ľudí, rasových a etnických menšín, psychicky zraniteľných jednotlivcov a LGBTQ+ jednotlivcov; a
  10. Prísne sankcie pre porušovateľov zákona vrátane zákazu vývoja a nasadzovania systémov AI.

Pôvodný zdroj tohto článku je Public Citizen

Ilustračné foto: Pixabay

30. september 2023    06:00

Zroj
globalresearch

Podobné články

Pridaj komentár

Vaša e-mailová adresa nebude zverejnená. Vyžadované polia sú označené *

Back to top button