Sorry, you need to enable JavaScript to visit this website.

Svět podle Kevina Warwicka

Čas nutný k přečtení
10 minut
Již přečteno

Svět podle Kevina Warwicka

1 comments
Rubrika: 
WARWICK, Kevin. Úsvit robotů - soumrak lidstva. Vesmír, Praha: 1999. 218 s. ISBN 80-85977-16-8.

Bezprostředně po letošním knižním veletrhu rozvířila kniha Kevina Warwika Úsvit robotů - soumrak lidstva debaty o důsledcích technologického vývoje a našeho soužití s výpočetní technikou. Zvláštní posedlost autora, který například v jednom z rozhovorů uvedl, že sobě a své manželce nechal implantovat podkožní čip díky němuž mohou být v permanentním kontaktu, mě nakonec přilákala k přečtení jeho nejnovější knihy. Kevin Warwik, profesor kybernetiky na univerzitě v Readingu ve Velké Británii, shrnuje v knize Úsvit robotů - soumrak lidstva poznatky získané výzkumem umělé inteligence, robotiky a řízení. Tato skutečnost by měla zaručit vysokou odbornost a poutavost textu "z praxe". Nic takového se však čtenáři nepředkládá. Text je naopak psán až příliš populární metodou a promlouvá ke čtenáři jako k nechápavému dítěti, kterému je třeba neustále opakovat hlavní teze a zároveň udržovat jeho pozornost slibováním čehosi překvapujícího či záhadného. Ačkoli má kniha čtenáře přilákat právě nekonformními postoji autora a jeho poněkud kacířským názorem na budoucí vztah člověka a stroje, který je mimochodem jasný již z názvu knihy, jsou právě tyto myšlenky skryty za temnými náznaky a strašením na způsob dětinského povytahování čerta z pytlíku. Předpokládám, že zkušenosti autora z praxe mohou být velice cenné a zajímavé pro čtenáře zajímající se o technologický vývoj, pokud je však se čtenářem nakládáno jako s nedospělým tvorem, kterému se dokolečka opakují základní teze textu zjednodušené na tu nejprimitivnější úroveň, kdy zároveň chybí jejich odborné rozvedení a obhájení, může se cítit vzdělanější čtenář poněkud dotčeně. Tento americký způsob psaní je zde alespoň okořeněn suchým anglickým humorem, který takto zdlouhavý a nudný text příjemně osvěžuje. Pokud se týče formální strany textu, pak mám ještě několik drobných poznámek k překladu, který se mi chvílemi zdál velmi neobratný, obsahoval nejen stylistické, ale i faktické chyby (Star Wars se, jak známo, překládají jako ""Hvězdné války""nikoli jako "Války hvězd", slovo "adjustovat" český slovník zatím nezná a má pro ně, myslím, lepší ekvivalent atp.).

Text knihy je proložen fantastickými líčeními možného budoucího soužití lidí a robotů, kdy se lidé postupně dostávají do područí strojů, které díky své nekonečně rostoucí inteligenci a výkonnosti dokáží celkem snadno ovládat člověka. Inteligence lidská se naopak nevyvíjí a proto stroje velmi brzy své stvořitele "předhoní". Mnohem hodnotnějším materiálem v textu je výklad podstaty umělé inteligence nebo postřehy ze zákulisí vývoje robotů. Myslím, že kdyby autor opustil ambici filosofa varujícího před zánikem (soumrakem) lidstva a raději se podrobněji soustředil na předání zkušeností s možnostmi robotiky, vývojem robotů a jejich odlišnostmi od naší představy o robotech, ušetřil by čtenáři mnohá zklamání.

V úvodu se autor věnuje podstatě umělé inteligence, kdy celkem jasně vysvětluje, že inteligence počítačová není totéž, co inteligence lidská a vyvozuje, že tudíž nemůžeme od počítačů očekávat výkony přesně stejné jako je provádějí lidé. Na toto navazuje myšlenkou, že tedy ani nemusíme požadovat, aby počítače vypadaly jako lidé, například jako humanoidní roboty, protože rozdílné vlastnosti stroje by výkon robota jen zbytečně komplikovaly. Velmi přínosné je autorovo vysvětlení oblastí, ve kterých je účelné roboty nasazovat a oblastí, ve kterých se jedná spíše o lichou soutěž člověka a stroje. Například známý Turingův test je zde popsán ve světle malicherných snah člověka o dokázání si své věčné nadvlády nad světem a nepřekonatelnosti lidské inteligence. Autor vtipně dovozuje, že pokud výsledkem školních zkoušek zaměřených především na opakování naučených textů a matematické výkony je hodnocení studentů podle chytrosti, pak by naše školy měly být plné počítačů, protože ty jsou právě v těchto oblastech daleko výkonnější! Poměřovat inteligenci strojů bychom podle Warwika neměli podle způsobů uvažovaní a chování lidí, ale s přihlédnutím k jejich "strojové" podstatě. Argument, že bychom tedy strojům měli zadávat otázky a úkoly smysluplné pro stroje a lidem zase takové, které jsou smysluplné pro lidi, zní celkem logicky a myslím, že kdyby se autor nepouštěl do pseudofilosofických úvah o vědomí (lidském, strojovém, psím, včelím), byl by jedním z nejnosnějších pro celou knihu. Myšlenková linie táhnoucí se textem celé knihy jasně dokládá autorovu tezi, že není možné stroje poměřovat a zařazovat je do lidského prostředí. Docela rozumně pak zní argument, že základní stavební jednotku, kterou tvůrci umělé inteligence převzaly z lidského mozku, lze použít jako základ jiné stavby, kdy nemusíme přece chtít vytvořit "přesně stejnou stavbu". Autor zde právě zmiňuje principy fungování neuronových sítí, učící se roboty a expertní systémy.

Velmi zajímavé jsou autorovy úvahy o vlivu a důsledcích činnosti robotů. Autor se například ptá po odpovědnosti za činy robotů, kteří jsou na tak vysoké technické úrovni, že se částečně řídí samy. Pokud jejich rozhodnutí tedy vycházejí z procesu samoučení, které však přeci jen kdysi naprogramoval člověk, je stále člověk zodpovědný za případné zločiny spáchané roboty? Pokud budeme sledovat autorovy jasná vyvozování, skutečně uvidíme dilemata, které nám robotika v budoucnu může naservírovat: my lidé nejsme dokonalí, mýlíme se a děláme chyby, od strojů, které navrhujeme však dokonalost očekáváme. Naše představa o neomylnosti počítačů spojená se závislostí některých procesů ve společnosti právě na výpočetní technice může být skutečně nebezpečná. K tomuto problému pravděpodobně dochází mimo jiné také z toho důvodu, že to, co napodobujeme při pokusech stvořit umělou inteligenci, je "dokonalý" lidský mozek namísto typického. Tato naše snaha naráží na prostý fakt, že ve skutečnosti dokonalost neexistuje a každý se tak trochu lišíme od "normálu". Bude totéž platit pro inteligentní stroje stvořené člověkem?

Na tyto úvahy navazuje myšlenka, že mozky lidské a mozky strojové nebudou pravděpodobně nikdy naprosto totožné už proto, že jsou vytvořeny ze zcela rozdílných materiálů. Ačkoliv je tato teze velmi málo obhajována v textu, uvádí autor nakonec velmi vhodný příklad - naši odvěkou snahu létat jako ptáci, kterou se lidstvu nakonec podařilo vyplnit. I když létáme jiným způsobem než ptáci!

Celý text je vlastně obhajobou základní teze, že dokud jsou stroje méně inteligentní než lidé, ovládáme je, ale tento stav se obrátí ve prospěch robotů ve chvíli, kdy dosáhnou vyšší inteligence než člověk. Autor pro svou zjednodušenou evoluční teorii opice-člověk-stroj dokládá celou řadu důkazů. Kromě možnosti lidské chyby v řízení strojů samých i jejich vývoje a učení je to především skutečnost, že stroje prostě budou velmi brzy inteligentnější než lidé. Jako důkaz uvádí Warwik známý fakt rychlého vývoje techniky a robotiky a srovnává jej s "vývojem" lidského mozku. Je jasné, že zatímco na jedné lidské generaci přílišný technický vývoj lidského mozku neodhalíme, na generaci počítačů nebo robotů ano. Neodporuje si však autor používá-li takovou logiku? Sám na začátku svého textu pečlivě zdůrazňoval nemožnost srovnávání lidské a strojové inteligence. Nevyvíjí se náhodou lidská inteligence právě tím, že si vytváří svou vlastní extenzi ve formě inteligentních počítačů stejně, jako v historii zdokonalovala své paže výrobou stále dokonalejších výrobních nástrojů a své nohy zdokonalováním aut a jiných prostředků dopravy?

Mezi dalšími vlastnostmi strojů, které je odlišují od lidí a zároveň přispívají k možnému ovládnutí lidstva je uvedena například schopnost strojů zapojit se do sítě a rozložit rovnoměrně úkoly na její jednotlivé části. Nebyla snad tato "pozoruhodná" vlastnost strojů převzata od principu fungování lidské společnosti od pradávna? Pokud si dobře vzpomínám na hodiny dějepisu, pak právě dělba práce byla jedním z prvních milníků vývoje člověka jako tvora "společenského". Není proto vůbec překvapivé, když tutéž "evoluci" pozorujeme na vývoji počítačů.

Dalším strašákem, který je však podle mého názoru až druhotným důsledkem našeho "soužití" s počítači, je oblíbená vize Velkého bratra, která nechybí ani ve Warwikově knize. Kromě již známých a mnohokrát opakovaných skutečností autor provokuje poněkud plochým konstatováním, že "zatímco stroje získávají více a více informací o lidech, mají lidé o strojích informací stále méně". Pokud bych měla tuto tezi nějak komentovat, pak asi nezbývá, než se vzdát nostalgie ze 70. let, které patřily technicky orientovaným expertům, kteří jediní měli přístup k výpočetní technice. Dnes je tato technika v rukou uživatelů, kteří o principech jejího fungování skutečně nepotřebují mít skoro žádné vědomosti, tedy nepotřebují velké množství informací ani o robotech, které řídí. Co se týče první části autorova tvrzení, pak bych s ním souhlasila, pokud by znělo následovně: "lidé mají o lidech díky používání strojů stále více informací"… a to může být dobře i špatně. Záleží na totiž způsobech využití takto nashromážděných informací.

Skutečnou hrozbou lidstva totiž nejsou stroje samy, ale lidská chamtivost a mocenský boj. Autor například upozorňuje na možnost přenechání řízení a důležitých rozhodnutí na strojích v případě, že to přináší lidem větší zisk. Jako příklad autor na jiném místě v textu uvádí použití počítačů ve finančnictví a ukazuje, že mají skutečně velkou schopnost obrovsky rychle vyhodnotit situaci a rozhodnout. Sekundy skutečně pak vydělávají lidem peníze. V dlouhodobé perspektivě však může úplné přenechání řízení na stroji přinést i mnohé nesnáze. Kromě skutečnosti, že patřičně zkušený odborník dokáže riskovat nebo rozhodovat na základě informací stroji neznámých a nepoužitelných, zatímco stroje svým strojovým uvažováním klidně způsobí i vážné krize (krach na anglické burze v září roku 1987), může se skutečně stát lidstvo závislé na počítačích a tedy dostat do jejich područí. Podíváme-li se na způsoby vedení války a boje obecně, uvidíme okamžitě, kam směřuje vývoj. Jak známo, vývoj vojenské techniky byl vždy ten nejpřednější a tak tendence vyvíjet bojové letouny bez pilotů či automatické detektory schopné vyhledávat cíle, zamířit a zahájit palbu jen ukazuje na možnost budoucích "válek strojů". Strana, která disponuje dokonalejší technikou pak samozřejmě vítězí. Vynechám-li fakt, že by tato technika a především prostředky do ní vynaložené našly daleko lepší uplatnění v civilních oblastech, objevuje se zde i náznak jiné hrozby. Je totiž docela možné, že nám ani tak nehrozí svět ovládaný roboty, ale svět ovládaný elitou lidí mající přístup ke špičkové technice. Tento vznikající a dále se prohlubující propastný rozdíl mezi regiony i sociálními skupinami informačně bohatými a informačně chudými je možná daleko větší hrozbou pro lidstvo. To vysvětluje také na první pohled zarážející skutečnost, že z rozvojem techniky se tyto rozdíly ještě více zvětšují, přestože potenciálně je možné, aby je naopak eliminovaly. Je smutné, že autor nevěnoval větší pozornost také těmto skutečnostem.

Warwik naráží v celém textu na možné negativní dopady závislosti lidí na strojích a postupného převzetí moci nad lidstvem roboty, které odhaduje po roce 2030, kdy se nám stroje mají vyrovnat. Autor ukazuje celou řadu oblastí, ve které se tento proces urychluje a kde také hrozí největší nebezpečí. Jeho vize našeho budoucího područí v moci robotu není ani trochu optimistická a musím trochu poťouchle dodat, pravděpodobně vychází z autorovy představy o chování robotů podobné lidskému: pokud mám větší schopnosti a sílu, převezmu moc a budu vykořisťovat své poddané. Není právě toto typicky lidský způsob chování, který autor tak úporně zakazuje u robotů v celém svém textu? Opravdu zarážející je fakt, že jedno z mála pozitiv, které autor ukazuje ve své vizi našeho budoucího soužití z roboty je lidská izolace, komunikace mezi jedinci prostřednictvím techniky, uzavření lidí do jejich domovů, protože vše: práce, nákupy i sociální aktivity lze provádět pomocí strojů.

Je zvláštní, že odborník nadšený pro robotiku a umělou inteligenci neshledává budoucí vývoj těchto oblastí skoro nijak přínosným a dále nepředkládá žádné alternativní cesty vývoje či možnosti obrany. Ještě více zarážející pak je fakt, že ačkoli se zdá být proti vyrábění nových a nových robotů a jejich integraci do lidské společnosti, je právě on tím, kdo se v této oblasti dosti aktivně angažuje. Navzdory všem výše uvedeným kritickým výtkám je kniha Kevina Warwika velice živým, zábavným a místy i poučným čtením, které je cenným přínosem do úvah o soužití člověka a stroje. Souhlasím s autorem, že jsme již promeškali moment, kdy bychom se mohli zbavit závislosti na strojích, avšak zdá se mi, že tento moment byl na počátku vývoje techniky jako takové, nikoli v době vynalezení principu počítače. Zdá se, že je tedy technologický vývoj nedílnou součástí historie této civilizace a proto bude velice zajímavé sledovat, zda se autorovy apokalyptické vize skutečně vyplní.

Hodnocení: 
Zatím žádné hodnocení
JEDLIČKOVÁ, Petra. Svět podle Kevina Warwicka. Ikaros [online]. 1999, ročník 3, číslo 9 [cit. 2019-09-16]. urn:nbn:cz:ik-10404. ISSN 1212-5075. Dostupné z: http://ikaros.cz/node/10404

automaticky generované reklamy

Máme zde 1 komentář

Ahoj :) napisal som program ktory simuluje prezitie jednoduchych organizmov :) Kto by mal zaujem, je to freeware.. je na nom este co robit :) ako kazdy kod da sa i tento vylepsit :) ja som len polozil zaklady, pre Vas :) Je mozne si ho zadarmo stiahnut a lubovolne pouzivat tu: http://www.uloz.to/669141/survivebatchanimals.rar alebo ho kludne aj poslem mailom, moja adresa je blade7445@azet.sk