Obsah
- Vystrelil stroj
- Automatizácia a prerušenie práce
- Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
- Aplikácie zo spotrebnej elektroniky
- Opätovné získanie kontroly
- Ako by to mohlo fungovať
Zdroj: Artinspiring / Dreamstime.com
Zobrať:
Aby automatizácia pracovala skôr s ľudstvom, ako proti nemu, potrebujeme záruky a informovaní ľudia, ktorí sú oprávnení zastaviť alebo opraviť systémovú chybu.
"Mýliť sa je ľudské; Na to, aby sme to skutočne zneškodnili, je potrebný počítač. “William E. Vaughan urobil toto pozorovanie už v roku 1969. Udelenie kontroly nad automatizovaným systémom prináša potenciál systému, aby sa zhoršil a spôsobil vážne škody skôr, ako sa skontroluje.
Automatizácia nie je nová, ale vďaka integrácii digitálnych a fyzických systémov sa stáva oveľa rozšírenejšou. Nevýhodou automatizácie vo veľkom meradle je veľká efektivita. Nevýhodou spoliehania sa na systém set-it-and-forget-it je však to, že ho niekto nemusí správne nastaviť.
So systémom, ktorý jednoducho prechádza bez zásahu a bez zastavenia strojového zariadenia, môžete mať deštruktívne účinky. V súlade s tým môže technika vytvoriť typ situácie zobrazený v „Čarodejníckom učňovi“, keď sa zdá, že to, čo uľahčuje život, sa skutočne vymkne spod kontroly.
Vystrelil stroj
Automatizácia bez zásahu je výsledkom toho, že sa technický pracovník v Spojenom kráľovstve minulý rok bez príčiny ocitol bez zamestnania. Ibrahim Diallo si všimol, že jeho bezpečnostné karty nepracovali v práci, a zistil, že to bolo preto, že bol bez práce. „The Machine Fired Me“ je titul, ktorý dal svojmu rozšírenému blogovému príspevku k udalosti.
Príčinou ukončenia Dialla nakoniec nebolo žiadne hodnotenie algoritmu, ktoré určovalo, kto by mal byť vylúčený. Problém nebol v systéme, ale bol jednou z ľudských chýb. V tomto prípade to bola úplná automatická reakcia na to, že človek nevložil informácie o obnovení zmluvy Diallo.
Nie je to tak, že by sa stroj rozhodol, že by mal byť prepustený na niečo konkrétne. Jednoducho vykonal kroky, ktoré sú do nej naprogramované, pre niekoho, ktorého štatút sa už ukázal ako nezamestnaný. Ako objasňuje v komentároch, nejde v skutočnosti o umelú inteligenciu, ale o „automatizovaný skript“. (Ak sa chcete dozvedieť, ako môže umelá inteligencia pomôcť (namiesto zranenia) v podnikoch, prečítajte si článok Čo môže AI urobiť pre podnik.)
Automatizácia a prerušenie práce
Tento druh účinku nie je presne to, čo si ľudia myslia pri popisovaní úžasných výhod, ktoré môžeme v automatizovanej budúcnosti očakávať. Zvyčajný optimistický výhľad na posun v úlohách, keďže úlohy sa prijímajú automatizáciou, úlohy sa predefinujú - automatizované systémy ich neukončia. Realita je však taká, že niektoré pracovné miesta sa odstránia a ľudia, ktorí ich zastávali, nemusia byť schopní vykonať plynulý prechod na nové zamestnanie v prevažne automatizovanom priemysle.
Prerušenie zamestnania je jedným z menších rizík, ktoré Elon Musk predpokladal v súvislosti so vznikom umelej inteligencie, hoci jeho vlastná vízia vplyvu na pracovné miesta je oveľa pesimistickejšia ako Fitzgeraldova. Podľa názoru Muska AI potrebuje prísnu reguláciu, pretože predstavuje „základné, existenčné riziko pre ľudskú civilizáciu“.
Žiadne chyby, žiadny stres - Váš sprievodca krok za krokom k vytvoreniu softvéru na zmenu života bez zničenia vášho života
Nemôžete zlepšiť svoje programovacie schopnosti, keď sa nikoho nezaujíma o kvalitu softvéru.
Aplikácie zo spotrebnej elektroniky
Napriek Muskovým vlastným technickým údajom, niektorí odborníci v tejto oblasti, ako napríklad Rodney Brooks, ktorí pôsobili ako zakladajúci riaditeľ počítačovej vedy a laboratória umelej inteligencie MIT a spoluzakladali iRobot a Rethink Robotics, tvrdia, že Musk sa mýli, pokiaľ ide o hrozbu AI a ako robotika skutočne fungujú.
V rozhovore pre spoločnosť TechCrunch spoločnosť Brooks uviedla, že je hlúpe požadovať nariadenia bez toho, aby táto technológia dozrela do bodu, keď môžeme presne určiť, čo treba regulovať. Vyzval Muska: „Povedz mi, aké správanie chceš zmeniť, Elone?“
Brooks pripustil, že roboty spôsobia presun zamestnania. Zároveň si však myslí, že je možné posunúť paradigmu v priemysle tak, aby sa riadilo paradigmou spotrebnej elektroniky.
Spôsob, ktorý uviedol v rozhovore pre TechCrunch, bol: „Vo výrobe zariadení máme tradíciu, že má hrozné používateľské rozhranie a je to ťažké a musíte absolvovať kurzy, zatiaľ čo v oblasti spotrebnej elektroniky sme vyrobili stroje, ktoré používame, aby učili ľudí. ako ich používať. “
To je to, čo povedal, by malo byť cieľom zmeniť spôsob, akým sa zaoberáme „priemyselným zariadením a inými druhmi zariadení, aby stroje naučili ľudí, ako ich používať“.
Opätovné získanie kontroly
To, čo Brooks navrhuje, nás môže nasmerovať na riešenie problému ľudskej chyby, ktorý odštartuje automatizovaný proces, ktorý sa zdá byť mimo kontroly. Aby sme sa vrátili k Mickeymu omylu v „Čarodejníckemu učňovi“, problém pramení z osoby, ktorá systém aktivuje, ale nemá reálny spôsob komunikácie s ním, aby ho zastavil alebo zmenil smer.
Ak by sa však rozhranie vytvorilo skôr v súlade so spotrebnou elektronikou ako s tradičnými priemyselnými modelmi, mohlo by to doslova priviesť kontrolu späť do ľudských rúk. Aby bolo toto rozhranie skutočne efektívne, musí byť nielen prístupné, ale aj navrhnuté tak, aby udržalo ľudí v slučke o tom, čo sa deje, poskytovalo údaje o aktualizáciách, ktoré prijalo, a o tom, aké kroky podniklo.
Ako by to mohlo fungovať
V prípade náhodného ukončenia programu Diallo by to znamenalo, že automatizovaný systém ho nielen uzamkne zo systému a potom poskytne náborovému pracovníkovi, že bol ukončený. Najskôr uznáva, že obnovenie zmluvy nebolo uzavreté v predpokladanom termíne. Pred začatím konania o ukončení by ponúkla manažérovi a náboru pracovníkov aktualizáciu o nedostatku obnovenia a dôsledkoch, ktoré by nastali v priebehu dňa, ak by sa nepodnikli žiadne kroky.
Takéto varovanie by ľuďom umožnilo robiť informované rozhodnutia o tom, či nechať automatizáciu pokračovať, alebo zasiahnuť, aby sa napravila ľudská chyba, ktorá bola pôvodnou príčinou problému. Ľudia však musia tiež plniť svoju úlohu, reagovať na výstrahu a podniknúť správne kroky. Inými slovami, odpoveď na otázku, ktorú Brooks položil o správaní, sa týka ľudí; tvárou v tvár automatizácii musia byť menej pasívne. (Viac informácií o tom, ako môžu ľudia a stroje spolupracovať, nájdete v časti Rozdelenie ľudského prvku: politika, postup a postup.)
Ako Diallo písal v sekcii komentárov na svojom blogu, dôvodom, prečo sa to podarilo dosiahnuť, bolo to, že ľudia odmietli ísť proti stroju:
Ďalšia vec, ktorá sa prehliada, je, že aj keď každý vedel, že to spôsobila ľudská chyba, a že to bola čisto chyba, rozhodli sa nasledovať s. Je to ako dať do nemocnice znamenie „fajčenie povolené“ a ľudia ho dodržiavajú namiesto toho, aby používali zdravý rozum.
V súlade s tým sú politiky, ktoré musíme prijať, aby automatizácia pracovala s ľudstvom a skôr proti nemu, dvojaké: Na strane strojov potrebujeme rozhrania, ktoré sú prístupné a informatívne, a na ľudskej strane potrebujeme, aby ľudia boli je oprávnený zistiť, kedy niečo nie je v poriadku, a urobiť krok na jeho nápravu.