Vzpoura robotů nám podle kybernetika nehrozí

Schopnosti umělé inteligence jsou stále dokonalejší, ale toho, že by se postavila proti svým stvořitelům, se prý bát nemusíme. Alespoň to tvrdí osmatřicetiletý profesor pražského Českého vysokého učení technického Michal Pěchouček, odborník na kybernetiku, který v minulosti spolupracoval s NASA a dnes například s americkou armádou. Snaží se třeba vytvořit bezpilotní letouny, které by se uměly samy podle situace rozhodovat, kam a jak poletí, nebo systém umožňující lodím vyhnout se útokům somálských pirátů.

Mnozí z nás vyrůstali s knížkami od Čapka a Asimova a s filmy jako Terminátor nebo Blade Runner, takže se prostě musím hned zeptat - čeká nás vzpoura robotů?
Nevěřím, že by mohla v umělé inteligenci sama od sebe vzniknout zlá vůle. Jediné, co se může stát, je, že lidé použijí umělou inteligenci proti sobě navzájem. Je například spousta metod, jak umělou inteligenci zneužít při nabourávání počítačových sítí, ale ona zároveň pomáhá s obranou před hackery. Pokud to tedy člověk sám nebude chtít, nemusíme se útoku robotů obávat.

Takže se rozvoje umělé inteligence nemusíme děsit?
Větší riziko přináší to, že se lidé stávají ve všech činnostech doma i v práci stále více závislými na počítačích, internetu a informatice a kybernetice obecně. Většina věcí kolem nás se již bez počítačů neobejde, ať jsou to hodinky nebo klimatizace. A to je velké nebezpečí. Zatímco hackeři jsou čím dál tím zručnější při nabourávání se do počítačových sítí, je čím dál těžší a dražší ty sítě ochránit. Takže spíše než vzpoura robotů nám hrozí to, že třeba někdo využije napojení ovládání tepla na počítačovou síť a upeče nás v nějaké budově. Druhá věc, které bychom se měli bát, je obrovská spotřeba energie. Ta největší datová centra se například stavějí u řek, aby se nemuselo tolik energie spotřebovat na chlazení. Dříve řeky pomáhaly mlít mouku, dnes chladí datová centra.

Michal Pěchouček

Narodil v roce 1972 v Kolíně. Vystudoval kybernetiku na Fakultě elektrotechnické ČVUT v Praze a umělou inteligenci na univerzitě v Edinburghu. Ve 37 letech byl jmenován řádným profesorem. Působí na katedře kybernetiky na ČVUT a je vedoucím Centra agentních technologií při ČVUT. V roce 2007 obdržel jím vedený tým hlavní cenu Inženýrské akademie ČR, v roce 2009 získal on sám Google Research Award a v roce 2010 spolu s kolegou Vladimírem Maříkem z ČVUT jednu z cen v rámci soutěže Česká hlava. V minulosti spolupracoval s agenturou NASA a v současnosti například s americkou armádou či americkým Úřadem pro řízení civilního letového provozu FAA.

Jako odborník na počítače tedy lidem doporučujete, aby je využívali co nejméně a nestali se na nich závislými.
Ano, to bych jim radil.

Jenže je to dnes vůbec možné? V některých případech už ani nemáme možnost se bez počítačů obejít.
Někde je už opravdu bohužel pozdě a cesta zpět nevede. Klasik říká, že počítače nám pomáhají řešit problémy, které bychom bez počítačů neměli (smích).

Co si vlastně máme pod pojmem umělá inteligence představit?
Umělá inteligence je jednak filozofická disciplína, kdy vědci zkoumají lidské uvažování tak, že vytvářejí počítačové modely mentálních procesů, ale jde také o technickou disciplínu, která se zabývá programováním inteligentních počítačových systémů, které by byly schopny řešit komplexní problémy. Inspirací je lidská inteligence, ale třeba i organizace ve včelím úlu.

Jak je vývoj daleko? Existuje už skutečná umělá inteligence, která by opravdu sama uvažovala a rozhodovala se, co udělá?
Rozvoj je pořád rychlejší. Například v Americe proběhla nedávno soutěž aut bez řidiče, která měla sama přejet Mohavskou poušť, a to je něco, co tu před deseti lety nebylo. Existují technologie, které umožní automobilu rozpoznávat značky nebo poznat, že se blíží k místu nehody, takže vůz automaticky zpomalí. Ale že by auta bez řidiče jezdila v běžném městském provozu, třeba po Praze, k tomu máme ještě hodně daleko.

V čem má lidská inteligence převahu nad tou umělou?
Velkou výhodou člověka je instinkt. Když zůstaneme u dopravy a aut, tak lidé například dokážou v některých případech poznat, že dojde k nehodě, dříve, než by to dokázal počítač. Ale nedělám si iluze. Je asi jen otázkou času, než bude instinkt překonán rychlostí výpočtů. Další věc, kterou dnes ještě počítače moc dobře nezvládají, je rozpoznávání obličejů. Vy třeba i na fotce staré dvacet let poznáte, že ta holčička na ní je vaše přítelkyně. A to je pro počítač hrozně těžké.

A určitě budou mít lidé nad počítači vždy převahu díky své tvořivosti.
Nepochybně. Ukazuje se to především na tom, že umělé inteligence sice řeší stále složitější a složitější problémy, ale jen proto, že jim tento úkol zadal člověk. Zatím se neukazuje, že by si počítač sám vybral nějaký úkol bez vůle člověka.

Čím se v rámci výzkumu umělé inteligence zabýváte vy a vaše pracoviště?
V současné době jsou to především bezpilotní letouny a letecký provoz jako takový. Zabýváme se tím, jak spolu mohou bezpilotní letouny spolupracovat, jak se mohou přizpůsobit změnám počasí nebo technickým problémům, aby se zmenšila závislost na člověku na zemi. Protože nyní je to tak, že na zemi je pilot, který bezpilotní letadlo řídí, což zabraňuje většímu rozšíření relativně levných bezpilotních letadel. Autopilot sice již řadu let existuje, ale dokáže jen sledovat trasu předem zadanou člověkem. Jenže když je třeba nutné zjistit, kam se šíří lesní požár, potřebuji, aby si bezpilotní letoun sám vybral trasu podle údajů z kamery. Dalším problémem, který řešíme, je zahuštění vzdušného prostoru. Řada letišť má nyní problémy, když potřebuje zvýšit kapacitu letového provozu, a my hledáme cestu, jak letovým agenturám pomoci účinněji provoz řídit. Používáme myšlenku takzvaného volného letu, kdy už neplatí, že je pro každé letadlo vymezen v určitém čase prostor, do něhož jiný letoun nesmí. Díky novým technologiím by se letadla při střetu jejich tras sama automaticky dohodla a vyhnula se možné srážce. Tím bychom ušetřili velkou část vzdušného prostoru. A část řízení letového provozu by se přenesla na umělou inteligenci, takže by lidé mohli s její pomocí kontrolovat v jednu chvíli daleko větší množství letadel než dnes. Na tom spolupracujeme s americkým Úřadem pro řízení civilního letového provozu FAA.

Vyvíjíte systémy pro bezpilotní letadla, která mohou pomáhat při záchranných pracích či sledování dopravy, ale spolupracujete také s americkou armádou. Jak se vyrovnáváte s tím, že výsledky vašeho výzkumu slouží také jako zbraně?
My všichni tady v laboratoři máme toto dilema dávno vyřešené. Podle nás slouží technologický pokrok v obranném průmyslu k tomu, aby se snížil počet civilních obětí a vůbec všech obětí válek. Dokonalejší technologie umožňuje přesněji zasáhnout cíl a díky tomu je válka méně brutální.

Bezpilotní letouny jsou ovšem jen část vašeho výzkumu, že?
Ano, pracujeme například na systému, který by dokázal vybrat takovou trasu pro lodě, aby se pokud možno vyhnuly plavidlům somálských pirátů. A vytváříme třeba i nástroje pro modelování dopravní situace, abychom mohli říci, jak se odrazí na provozu rozšíření MHD, budování cyklostezek apod.

A také stojíte za elitním vysokoškolským programem pro nejlepší informatiky.
Už jsem ve fázi, kdy se neženu jen za novými projekty a novými zkušenostmi, ale rád bych ty zkušenosti také předal mladší generaci. Proto jsem s kolegy odstartoval v roce 2009 program Otevřená informatika, který je zaměřen ne na masové vzdělávání v informatice, ale na malou skupinu dobře vybraných nejlepších studentů. Což je v naší zemi novinka. Většina technických univerzit nabere všechny zájemce o studium a pak je protřídí v prvním ročníku. My naopak pro náš program již při přijímacích zkouškách vybereme sto padesát nejlepších lidí, z nichž naprostá většina první ročník dokončí. Díky tomu mohou studenti hned navázat aktivní kontakt s experty, kteří pracují na výzkumných projektech s velkými společnostmi, jako je Toyota, Google či FOXCON, nebo se mohou potkat s lidmi, kteří pracují pro NASA či v Pentagonu. Nedělají pak matematiku pro matematiku, ale používají ji pro řešení konkrétních problémů v praxi, při práci na prestižních projektech. Snad se nám díky tomu podaří zastavit rapidní propad matematických znalostí a zájmu o matematiku v České republice. Doufáme, že se tak společnost dozví, že to k něčemu je a že se na tom dá postavit úspěšná kariéra. Že nemusíte být pouze programátorem ve velké nadnárodní firmě.

Čtěte dále

další zprávy