Obsah
- Zlosť proti stroju (učenie)
- Povedz mi lži, povedz mi sladké lži
- Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
- Blokovanie reťazca lží pomocou blockchainu
- Nekŕmte Troll
Zdroj: Wrightstudio / Dreamstime.com
Zobrať:
Falošné správy sa snažia ľudí prinútiť k tomu, aby verili v nepravdivé úmysly, a to z dôvodov od jednoduchého zvyšovania počtu kliknutí na sociálnych médiách až po ovplyvňovanie volieb. Technológia však bojuje s novými stratégiami na identifikáciu a zastavenie.
V posledných niekoľkých rokoch získala fráza „falošné správy“ nový význam, pretože zlúčila všetky formy dezinformácií pochádzajúcich z vládnych sprisahaní, verejnej propagandy, pubertálnych tínedžerov a zavádzajúcich reklám. Inými slovami, hoci žijeme vo svete, kde sú všetky druhy informácií takmer okamžite dostupné, hranica medzi pravdou a klamstvami nebola nikdy mrzutejšia.
História je plná týchto „nezdravých príbehov“, z ktorých niektoré sú také staré ako samotný staroveký Egypt. Vedeli ste, že v 13. storočí pred Kristom faraón Rameses the Great falošne vykreslil bitku Kadesh ako ohromujúce víťazstvo pre svoju armádu, zatiaľ čo v skutočnosti skončilo na patovej pozícii proti Hetejanom? Ak je vaša odpoveď (takmer určite) „nie“, tak som to neurobil. Čítal som to jednoducho na Wikipédii po rýchlom hľadaní nie dlhšom ako pár sekúnd - takže dúfam, že to nie je len falošný príbeh.
Dnes tu máme problém, pretože nové nezdravé správy sa zverejňujú každý deň vďaka množstvu dosť zlých technológií, ktoré boli vyrobené na zavádzanie ľudí, niekedy dokonca aj na hlasovanie za nejakého bezohľadného politika. Ale hej, nemusíte sa báť. Dobrá správa (prepáčte slovnú hračku) je, že ostatné Vymýšľajú sa technológie na riešenie falošných správ a ich vrátenie na miesto, kam skutočne patrí - do koša. (Niektorí si myslia, že ďalšia iterácia World Wide Web pomôže obmedziť falošné správy. Viac informácií sa dozviete priamo od odborníkov na techniku: Čo bude definovacou funkciou webu 3.0?)
Zlosť proti stroju (učenie)
Jedným z najbežnejších spôsobov šírenia falošných správ je použitie veľkého počtu robotov. Pokiaľ ide o distribúciu alebo zvýšenie viditeľnosti na sociálnych médiách, potenciál automatizácie je obrovský. Roboty môžu byť naprogramované na zdieľanie, komentovanie alebo ako príspevok bezpočetných časov, zvyšovanie dojmov z obsahu a oslovovanie veľkého počtu ľudí využívaním rovnakých pravidiel, na ktorých je postavená väčšina platforiem sociálnych médií.
Zastavenie robotov v ich stopách je preto jedným z najúčinnejších spôsobov na potlačenie epidémie, ale otázka zostáva rovnaká - ako môžete rozpoznať robota a rozlíšiť rozdiel medzi ľuďmi a strojmi? Pre iných ľudí je to celkom jednoduché, ale žiadne IT oddelenie nikdy nedosiahlo škálovateľnosť potrebnú na to, aby dohnali armádu robotov. zrejme vyvinul svoju vlastnú anti-bot technológiu, ale nikdy nevysvetlil všetky podrobnosti o svojej funkcii. Počas minulého rozhovoru s The New York Times Mark Zuckerberg jednoducho odhalil, že „nasadili niektoré nové nástroje AI na identifikáciu falošných účtov a falošných správ“ pochádzajúcich z makedónskych falošných správ za účelom zisku.
Aj keď stále existujú určité špekulácie týkajúce sa skutočných metód používaných na identifikáciu robotov, zdá sa, že väčšina týchto spamových účtov sa dá označiť za umelo vytvorenú, pretože všetky zdieľajú určité podobnosti v prezentácii a načasovaní. Softvér anti-bot dokáže tieto vzory rozpoznať pomocou analýzy údajov a potom ich označiť na ďalšie vyšetrenie. Biometrické overovanie sa používa aj na určenie, ktoré účty nie sú nič iné ako roboty a zastaviť problém pri jeho zdroji.
Povedz mi lži, povedz mi sladké lži
Ďalším prístupom, ako vykoreniť tento problém, je vysporiadať sa so samotnými falošnými správami, čo je očividne ešte komplikovanejšie, ako iba zabíjať niektorých robotov. Napriek rôznym pokusom doteraz AI zlyhala na mnohých úrovniach, pretože jednoducho nedokáže porozumieť písaniu ľudí tak, ako to robia ľudia. Teoreticky sa stroj učil detekovať články „postoj“, ako je tón, sentiment a štýl, ktoré sa používajú pri písaní príbehu, a určiť, či informácie môžu byť nepresné alebo očividne nepravdivé. AI vykoná hĺbkovú analýzu obsahu, adresy URL a štruktúry nadpisu, ako aj webovej stránky, ktorá uverejnila správy, jej webový prenos, účet a celkové zapojenie do sociálnych médií. Výsledky však boli obzvlášť povzbudivé, s úrovňou úspechu približne 65 percent. Ľudia sú stále potrební, aby pomohli spresniť výsledky a potvrdiť zistenia, takže celý systém je stále v plienkach. Niektoré veci, ako sú jemnosť tónu, kultúrny kontext alebo dokonca len nejaký dobrý starý humor, sú jednoducho mimo schopnosti strojov porozumieť.
Videá sú však na úplne inej úrovni. Najchytrejší technológie strojového učenia, ako napríklad generatívna kontradiktórna sieť (GAN), môžu vytvárať neuveriteľne realistické videá ľudí ako Barack Obama, ktorí hovoria o veciach, ktoré nikdy nepovedal. So správnymi technológiami nebolo nikdy také ľahké vytvoriť falošný obraz. Ako vysvetlil Hany Farid, profesor informatiky na Kalifornskej univerzite, ktorý bojuje proti týmto „hlbokým podvodom“, „táto technológia sa demokratizuje“. Aspoň tentoraz však iné stroje dokážu odhaliť tieto zjavne neviditeľné modifikácie aplikované na ľudskú tvár a zistiť falošné videá. V skutočnosti môžu tieto AI hľadať podrobnosti, ktoré ľudské oko nikdy nemôže zachytiť, ako napríklad nepatrné zmeny svetla, nedostatok blikania alebo zmeny farby tváre, ktoré zodpovedajú srdcovému rytmu. Vedci, ktorí pracujú na týchto projektoch, si však musia evidentne uchovať svoje najlepšie stratégie v tajnosti.
Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
Svoje programovacie schopnosti si nemôžete vylepšiť, keď sa nikto nestará o kvalitu softvéru.
Blokovanie reťazca lží pomocou blockchainu
Blockchain neustále poskytuje riešenia takmer každého moderného problému. Okrem mnohých ďalších vecí (ktoré môžu zahŕňať bitcoiny) môže táto neuveriteľne všestranná technológia fungovať tiež byť zvyknutý na to, aby uchvátil zející ranu, ktorú falošné správy spôsobili našej spoločnosti. Blockchain môže v skutočnosti zabezpečiť toľko potrebnú transparentnosť a zodpovednosť, akú svet správ potrebuje toľko. Po prvé, môže pomôcť sledovať pôvod každého článku a časti obsahu, ako aj jeho následné kroky, napríklad kto ich zdieľal a kde.
Po druhé, môže pomôcť revolúcii v súčasnom systéme speňažovania, ktorý je založený viac na generovaní pohľadov ako na poskytovaní kvalitného obsahu. Tí, ktorí zarobia viac peňazí, sú tí, ktorí sú schopní zdieľať svoj obsah na viacerých miestach - čo je omnoho jednoduchšie, keď je článok plný alarmujúcich tvrdení, je plný teórií o sprisahaní a je obohatený taktikou strašidelnosti. Blockchain by mohol pomôcť mediálnym platformám vytvoriť si vlastné sebestačné ekonomiky, v ktorých by sa mohli kryptocoiny použiť na motiváciu autorov k vytváraniu spoľahlivých a fakticky kontrolovaných informácií. Šifrovanie interných údajov, overovanie totožnosti a úplná sledovateľnosť každého kusu na kontrolu zaujatosti autora sú iba čerešničkou na torte. (Viac informácií o blockchainu nájdete v časti Ako blockchain mení spôsob, akým vy a ja podnikáte.)
Nekŕmte Troll
Vážne, dont. Hneď sa rozrastie, ak áno. Pointa je, že hoci stroje a technológie nám môžu pomôcť obmedziť vznikajúci počet falošných príbehov, ktorým boli vystavené, v konečnom dôsledku je našou povinnosťou starostlivo prečítať všetko, na čo sa zameriavame. Koniec koncov, ľudia hovorili ostatným lžiam od úsvitu civilizácie, ale (pokiaľ viem) starí Egypťania nemali vtedy AI, aby im pomohli oddeliť pravdu od lží.
Všetci máme mentálne schopnosti stráviť pár sekúnd dlhšie ako jeden druhý a skontrolujte zdroje toho, čo čítame. S technológiami alebo bez technológií, ktoré nám pomôžu, nabudúce, keď skončíte vo viere, že je to jednoznačná lož, nezabudnite, že je to aj vaša chyba.