Obsah
- Dobrý príbeh je presvedčivejší ako celá pravda
- Vidíte stále veriť?
- Nezistiteľné falzifikáty
- Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
- Možné následky
- Proaktívne plánovanie
Zdroj: Mike2focus / Dreamstime.com
Zobrať:
Spotreba médií sa vyvíja spolu s technologickým pokrokom, ako je umelá inteligencia (AI). Aj keď všeobecne prijímame pokrok, musíme si byť vedomí aj nevýhod niektorých foriem technológie. Schopnosť AI má temnú stránku, keď sa používa na propagáciu falošných správ.
Temná stránka technológie bola medzi témami, ktoré sa skúmali na druhej konferencii o strojoch a médiách NYC Media Lab, ktorú sponzoroval a hostil Bloomberg v jej globálnom sídle v meste 15. mája. Niektoré z týchto stretnutí sa však viac zaoberali otázkou, ktorá technológia je v súčasnosti k dispozícii pre médiá, dokonca aj pre tie, ktoré vychovávali tieň manipulácie a dezinformácií.
Dobrý príbeh je presvedčivejší ako celá pravda
Na stretnutí s názvom „Najmodernejší“ uviedol Gilad Lotan, viceprezident, vedúci oddelenia dátovej vedy, Buzzfeed, že problém falošných alebo zavádzajúcich správ nemožno viniť iba z mediálnych spoločností alebo nových technológií. "Ľudia nemusia nevyhnutne hľadať fakty," uviedol. „Čitatelia chcú príbehy.“
Dodal, že kŕmenie tejto túžby po príbehoch a obľúbených rozprávaní môže viesť k falošným správam, ktoré sú „viac manipulácie ako nepravdivé informácie“. Dodaný príbeh však nemusí obsahovať vôbec nič nesprávne. Falošné je, že uvedené skutočnosti sú vyberané čerešňou a odstránené z väčšieho „kona“, aby „čitatelia mohli dospieť k záveru“.
V rovnakom duchu v relácii „Platform + Media“ Kelly Born z iniciatívy Demokracia nadácie William a Flora Hewlettovej nadácie uviedla: „Ľudia majú radi správy, ktoré posilňujú ich vieru, a najmä ak vyvolávajú pobúrenie.“ Varovala pred kapitalizáciou médií. táto tendencia môže viesť k „dokonalej búrke“, ktorá v nás vynesie to najhoršie. Toto je umocnené možnosťou úplne vymyslených prezentácií.
Vidíte stále veriť?
Technológia hrá úlohu pri rozprávaní príbehu prostredníctvom obrázkov a videa. Zvyčajne veríme tomu, čo vidíme, pokiaľ neexistujú zjavné znaky manipulácie. Avšak, ako AI zlepšuje realitu falošných videí, je teraz možné doslova vkladať slová do úst verejných činiteľov. (AI sa nepoužíva iba na škodlivé účely. Pozrite si niektoré konštruktívne návrhy v 5 spôsoboch, ako môžu spoločnosti zvážiť použitie AI.)
Nebezpečenstvo výroby veľmi uveriteľných videí spoločnosti AI bolo demonštrované na relácii s názvom „Riešenia pre temnú stránku strojom poháňaných médií“. Začalo to videom, v ktorom predstavil Baracka Obamu, ktorý hovorí veci, ktoré bývalý prezident nikdy nepovedal. Pohyb bol stále trochu mimo synchronizácie so slovami, takže má nejaké známky falošného videa a väčšina divákov uviedla, že ho môžu považovať za falošný.
To, že manipulácia s Obamom nedosiahla realizmus oživenia Petera Cushinga ako Grand Moffa Tarkina pre „Rogue One“. Ako vysvetlil článok v New York Times, efekt sa dosiahol tým, že herec nosil na hlave „materiály na zachytenie pohybu“. zatiaľ čo pred kamerou „aby jeho tvár mohla byť nahradená digitálnym opätovným vytvorením Cushingovho filmu.“ Hlavný kreatívny riaditeľ / vedúci vizuálnych efektov vo filme to nazval „super high-tech a prácne náročnou verziou robenia“ nalíčiť."
Nezistiteľné falzifikáty
Teraz vďaka pokrokom v oblasti umelej inteligencie, konkrétne generatívnym protivládnym sieťam (GAN), je ľahšie ako kedykoľvek predtým dosiahnuť filmové magické efekty. S využitím GANs jeden systém AI zdokonaľuje zábery, až kým nebude dostatočne dobrý na to, aby ich systém AI určený na detekciu falšovania akceptoval ako skutočný.
Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
Svoje programovacie schopnosti si nemôžete vylepšiť, keď sa nikto nestará o kvalitu softvéru.
V tomto videu vidíte vedcov demonštrovať, ako môže herec nasmerovať pohyby tváre verejnej osobnosti, aby vytvoril akýkoľvek výraz a vyhlásenie s úrovňou vernosti, ktorá sa zvyčajne neobjavuje v videách s doprovodom.
Aj keď nie každý, kto hrá s videami, má v súčasnosti taký systém k dispozícii, tento softvér bude v blízkej budúcnosti k dispozícii viacerým ľuďom.
Možné následky
Dhruv Ghulati, zakladateľ a výkonný riaditeľ spoločnosti Factmata, hovorí, že je „veľmi znepokojený“, ako by sa táto schopnosť mohla uplatniť pri vkladaní tvárí nielen svetových vodcov, ale aj tvárí generálnych riaditeľov a celebrít do dôkazov ich výrokov alebo vykonávania vecí, ktoré nemajú , Deštruktívne sily videa by sa zintenzívnili dosiahnutím vírusového účinku z botnetov.
Znamená to, že „už nemôžeme veriť svojim ležiacim očiam“, vyhlásil Mor Naaman, docent informačnej vedy, Cornell Tech. Bol znepokojený, že by to viedlo k strate dôvery.
Iní sú znepokojení fanúšikmi plameňov násilia. Už „len mierne upravené videá“ sa „používajú na spôsobovanie násilia v rozvojovom svete“, poznamenal Aviv Ovadya, hlavný technológ, Centrum pre zodpovednosť za sociálne médiá. (Sociálne médiá môžu byť efektívnym spôsobom šírenia nepravdivých informácií. Pozrite sa na 4 najničivejšie hackerské kanály.)
Sarah Hudson, partnerka Investing in US, vyjadrila obavy, že manipulované obrazy „v mierke“ predstavujú „neuveriteľné ohrozenie verejnej bezpečnosti“.
Proaktívne plánovanie
Je nevyhnutné „zabrániť takémuto zneužívaniu, ako je to len možné“, povedal Ovadya. Preto je dôležité „rozmýšľať vopred pri vývoji technológie“ o „zmierňovaní nepriaznivých účinkov“ a „venovať zdroje na riešenie týchto nezamýšľaných dôsledkov“.
Je nemožné obrátiť hodiny na pokrok, ale musíme sa ubezpečiť, že smer, ktorým sa uberáme, je premyslený a naplánovaný. To znamená nielen pracovať na technológiách, aby sme zistili, čo sa dá urobiť, ale premýšľať o tom, čo sa môže urobiť, a tomu by sa malo zabrániť.
Cesta vpred pre technologické inovácie je premyslieť, aké môžu byť účinky a naplánovať ochranné opatrenia skôr, ako sa nebezpečenstvo naplní. Aby sme to dosiahli, potrebujeme spoluprácu medzi výskumníkmi, technologickými spoločnosťami a vládnymi agentúrami, aby sme stanovili normy a osvedčené postupy, ktoré budú ľudia dodržiavať. To by malo byť prioritou pre všetky zúčastnené strany.