Obsah
- Chytiť zlodeja. , ,
- Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
- Zastavenie šírenia
Zdroj: Mast3r / Dreamstime.com
Zobrať:
Vedci sa obracajú na AI, aby bojovali proti falošným správam. Môže to však skutočne pomôcť, alebo to len zhorší situáciu?
Očakáva sa, že falošné správy budú veľkým tŕňom v súvislosti s nadchádzajúcimi prezidentskými voľbami, nehovoriac o jeho celkovom korozívnom účinku na náš verejný diskurz všeobecne. V dnešnej prepojenej spoločnosti je rozoznávanie fikcie čoraz ťažšie, a preto sa niektorí vedci začínajú zameriavať na silu umelej inteligencie pri riešení tohto problému.
Dúfam, samozrejme, že stroje alebo presnejšie algoritmy budú pri zisťovaní klamstiev lepšie ako ľudia. Je to však realistické očakávanie alebo len ďalší prípad hádzania technológie do zdanlivo neprekonateľného problému?
Chytiť zlodeja. , ,
Jedným zo spôsobov, ako vedci údajov plánujú zaostriť rozmach AI v tejto oblasti, je umožniť im vytvárať falošné správy. Allen Institute for AI na University of Washington vyvinul a verejne vydal Grover, stroj na spracovanie prirodzeného jazyka určený na vytváranie falošných príbehov o širokej škále tém. Aj keď sa to na prvý pohľad môže zdať kontraproduktívne, v skutočnosti ide o pomerne častú taktiku tréningu AI, v ktorej jeden stroj analyzuje výstup druhého. Týmto spôsobom je možné analytickú stránku uviesť do vyššej rýchlosti, než sa spoliehať na skutočné falošné správy. Inštitút tvrdí, že Grover už môže fungovať s presnosťou 92%, je však dôležité si uvedomiť, že je iba schopný rozlišovať medzi obsahom generovaným AI a obsahom generovaným človekom, čo znamená, že inteligentný človek môže stále prepašovať falošný príbeh okolo toho. (Ak sa chcete dozvedieť viac, prečítajte si informácie o technológiách okolo bojujúcich falošných správ.)
V správnych rukách, samozrejme, Grover môže rýchlo napredovať v našom chápaní toho, ako sa vytvárajú falošné správy a ako sa šíria, a to sa dá teoreticky použiť na ich zmarenie v reálnom svete. Ako však Futurism.com nedávno poznamenal, niektorí odborníci, ktorí sa rozhodli pre testovací chod, sú znepokojení tým, ako efektívne je vytvárať verné klamstvá, a dokonca napodobňujú štýly písania legitímnych spravodajských kanálov, ako sú Wall Street Journal a New York. Times.
Ale keďže klamstvo je zo svojej podstaty intuitívny a emocionálny akt, je možné, že aj tie najchytrejší stroje, ktoré sú stále poháňané chladnou a tvrdou logikou, dokážu dosiahnuť úroveň vzájomného porozumenia potrebného na to, aby si všimli lož? Unbabelova Mária Almeida nedávno poznamenala, že zatiaľ čo niektoré iterácie sa môžu v tomto dosť dobre zísť, žiadny algoritmus nemôže dúfať v dosiahnutie úplného ľudského porozumenia. To znamená, že AI by mohla byť schopná urobiť výrazné zlepšenia v oblasti kontroly skutočností a porovnávacej analýzy, ale posledná výzva je najlepšie ponechať na vyškolených odborníkov.
Je iróniou, že táto schopnosť bude najužitočnejšia pri odhaľovaní hlbokých falošných videí, ktoré sa začínajú robiť na sociálnych sieťach. Ak je AI schopná analyzovať vizuálne údaje až po jednotlivé pixely, bude oveľa lepšia pri rozpoznávaní pozmenených obrázkov ako zmenených slov a konceptov.
Stále tvrdí, že podľa Forbesovho Charlesa Towers-Clarka je hlavným problémom falošných správ to, že ho niekoľko ľudí vytvára, ale že ho ovplyvňuje toľko ľudí. Ľudia majú tendenciu uveriť tomu, čomu chcú veriť, nie tomu, o čom ich fakty vedú. Takže aj keď vysoko vyvinutý motor AI vyhlási, že ich viera je nesprávna, ľudia budú viac ochotní pochybovať o stroji ako oni.
„Implementácia strojového učenia na boj proti šíreniu falošných správ je obdivuhodná,“ hovorí, „a je potrebné tento problém riešiť, pretože sa spochybňuje dôveryhodnosť hlavných spravodajských médií. Môže však šírenie dezinformácií kombinovaných so sociálnymi médiami dokázať odhaliť a odhaliť zdroje falošných správ, ktoré prekonajú ľudský inštinkt a uveria tomu, čo nám bolo povedané? “
Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
Svoje programovacie schopnosti si nemôžete vylepšiť, keď sa nikto nestará o kvalitu softvéru.
Skutočnou výzvou teda nie je identifikovať a odhaliť falošné správy, ale pochopiť, prečo má tendenciu šíriť sa na sociálnych sieťach oveľa rýchlejšie ako skutočné správy. Čiastočne je to spôsobené samotnou povahou falošných správ, ktoré majú tendenciu byť vzrušujúce a nešťastné v porovnaní s porovnávacím tediom reality. Je na konci realistické očakávať, že technológia opraví to, čo je v zásade netechnický problém? (Viac informácií o tom, ako AI mení médiá, nájdete v článku 5 AI Advances in Publishing and Media.)
Zastavenie šírenia
Z tohto dôvodu je dôležité zamerať sa na technickú stránku falošných správ, nie na ľudskú stránku, hovorí Robin Harris z ZDNet. A skutočne, väčšina výskumníkov školí AI, aby sa zamerali na veci, ako je rozlišovanie medzi prírodnými a umelými spôsobmi šírenia prostredníctvom sociálnych sietí. Na identifikáciu a neutralizáciu dezinformačných kampaní je možné použiť kľúčové metriky, ako sú miery konverzie, časovanie a celkové údaje o odozve, a to aj v prípade, ak je ich zdroj skrytý pod vrstvami digitálnej podoblasti. Zároveň je možné AI použiť na správu ďalších technológií, ako je blockchain, na udržiavanie sledovateľných a overiteľných informačných kanálov.
Faktom je, že falošné správy nie sú novým javom. Z očarujúcej žurnalistiky na začiatku 20. storočiath storočia až k propagande najstarších civilizácií, kapucňa verejnosti je časom uznávanou tradíciou tak pre zasadajúce vlády, ako aj pre revolucionárov. Dnešný rozdiel spočíva v tom, že digitálna technológia túto schopnosť demokratizovala do tej miery, že takmer ktokoľvek môže položiť lož a pozerať sa, ako sa šíri po celom svete v priebehu niekoľkých hodín.
Technológie, ako je umelá inteligencia, môžu určite priniesť určitú jasnosť tejto nejasnosti, ale iba ľudia dokážu úplne pochopiť a súdiť pravdu.