Do umělé inteligence zabudováváme lidské předsudky

Ilustrační foto.

Když si Amazon uvědomil, že jeho program na vyhledávání nových zaměstnanců vybavený umělou inteligencí (AI) dává přednost mužům, rychle ho odložil k ledu. V roce 2016 se chatovací robot z dílny Microsoftu změnil během pouhých 24 hodin na sexem posedlý, neonacistický stroj.

Tyto incidenty - společně s dalšími - hrály přímo do karet těm, kdo tvrdí, že v našem každodenním životě je příliš mnoho AI, napsal v listu Les Échos Charles Cuvelliez, který přednáší na Bruselské svobodné univerzitě a je ředitelem Bruselské inženýrské školy.

Ale někteří vědci se na věci dívají z jiné perspektivy: Pokud dělá AI takové chyby, je to proto, že tomu byla naučena. To znamená, že ji také můžeme naučit, aby se těmto chybám vyhnula. Jak? Tím, že najdeme všechny předsudky obsažené v údajích, které AI dostává při svém učení.

Tyto údaje vyplývají z našich vlastních předsudků, které existují už velmi dlouhou dobu. Je snadné je najít. Zkusme se zamyslet například nad tím, jak často se v textech vyskytují ošetřovatelky a zdravotní sestry v porovnání s jejich mužskými protějšky. Jak často se o lékařích mluví jako o mužích? Je snadné odhadnout, že o počítačových vědcích se bude často mluvit v mužském rodě.

Ale to není všechno. Ví například někdo, že poměr chyb při rozpoznávání tváří dosahuje až 35 procent u žen tmavé pleti, zatímco u mužů bílé pleti je to jen 0,8 procenta?

To vše je způsobeno objemem vstupních dat, která jsou k dispozici pro "učení" AI algoritmů. Právě dostupná data jsou Achillovou patou umělé inteligence. Například sociální sítě poskytují hojný a levný zdroj dat. Ovšem kvůli přítomnosti falešných zpráv, nenávistných výlevů a všeobecně zaujatých postojů vůči menšinám a ženám, nejsou pro AI vhodná.

Rovnost pohlaví

Experiment, který na twitteru provedl jistý výzkumník ze Swinburneské univerzity, odhalil, že lidé vyjadřují negativní pocity podstatně častěji proti ženám ve vysokých pozicích, než proti srovnatelně vysoce postaveným mužům.

Předsudky se ovšem najdou i na jiných místech. Napadlo vás někdy, proč kterákoli hlasová služba nebo zákaznická linka v call centru využívající robotické služby má uklidňující ženský hlas?

Studie prokázaly, že muži i ženy dávají přednost tomu, aby na ně mluvily ženské hlasy. Dodávají jim více jistoty, hrají na mateřskou strunu. Ovšem tyto preference mají své výjimky - mužské hlasy slyšíme radši, když potřebujeme poradit ohledně vozů nebo počítačů, a ženské ve všech mezilidských záležitostech.

Před časem výrobci inteligentních automatizovaných osobních asistentů s připojenými reproduktory upravili algoritmy tak, aby tito roboti byli méně vlídní a shovívaví vůči hrubým a urážlivým výpadům uživatelů, kteří si na nich občas vybijí svou frustraci. Smyslem tohoto kroku bylo zabránit výpadům lidí proti ženám na ulici, protože si je díky svým zkušenostem s automatizovanými asistenty příliš odlidští.

Umělá inteligence jako taková nemá stejné předsudky jako my. To my učíme stroje, aby byly neobjektivní, ovlivněné, předpojaté. Světové ekonomické fórum odhaduje, že potrvá do příštího století, než dosáhneme skutečné rovnosti pohlaví. A je možné, že v případě umělé inteligence budeme muset na rovnost pohlaví čekat ještě déle.

Chatovací robot Tay a jeho chování na twitteru:

Foto: pixabay.com/geralt

Autor: ČTK



Čtěte dále

Planeta Mars zachycená Hubblovým teleskopem.

Nový výzkum se zaměří na existenci blesků na Marsu

Vědci z Ústavu fyziky atmosféry Akademie věd ČR (AV ČR) budou měřit elektromagnetické pole a zkoumat existenci blesků na Marsu....

Americký astronaut při práci vně ISS (ilustrační foto).

Američtí astronauti vystoupili z ISS, mění akumulátory

Američtí astronauti Anne McClainová a Nick Hague vystoupili z Mezinárodní vesmírné stanice (ISS) do volného prostoru, aby zde...

Ilustrační foto.

Čeští vědci vytvořili přepínač DNA, může pomoci v boji s nemocemi

Čeští vědci vytvořili umělý přepínač DNA, který by do budoucna mohl pomoci třeba v boji s nemocemi. Na cestě k praktickému...

Ilustrační foto.

Nenechme se ovládnout ekologickým absolutismem

Frontální útok na zdravý rozum ze strany ekologistů a dalších pomatenců komentuje Petr Musil.

Ilustrační foto.

Na důchod nemyslí, v devadesáti sní o naklonování mamuta

Ani v úctyhodném důchodovém věku devadesáti let nepřestal japonský vědec Akira Iritani snít o naklonování prehistorického druhu...

Ilustrační foto.

Vědci uklízeli na Antarktidě, sesbírali šest tun odpadu

Účastníci jedné ze dvou letošních antarktických expedic Masarykovy univerzity měli za úkol především uklidit okolí stanice,...

Ilustrační foto.

V Plzni byl k vidění obří model všech planet

Plzeňská Techmania zažila v pátek 15. března úplně první Mezinárodní den hvězdáren a planetárií. Kdo dorazil do unikátního 3D...

Ilustrační foto.

Prestižní Abelovu cenu za matematiku získala poprvé žena

Prestižní Abelovu cenu za matematiku letos poprvé získala žena - americká matematička Karen Keskullaová Uhlenbecková. Oznámili to...

Sopka Popocatépetl.

Sopka Popocatépetl chrlila žhavé kameny až dva kilometry daleko

Sopka Popocatépetl, která leží asi 70 kilometrů od mexické metropole, znepokojila v pondělí obyvatele v okolních obcích svou...

Ilustrační foto.

Archeologové objevili ve Fulneku středověký hřbitov se 14 hroby

Při archeologických vykopávkách objevili archeologové ve Fulneku na Novojičínsku středověký hřbitov se 14 zachovalými hroby z 13....

Ilustrační foto.

Vědci: Kmenové buňky se obnovují i v kostech

Kmenové buňky se obnovují v růstových zónách kostí stejně jako v krvi či kůži. Objev této jejich funkce může do budoucna zlepšit...

Ilustrační foto.

Nad Kamčatkou v prosinci explodoval meteorit

Ve výši 25,6 kilometrů nad Beringovým mořem u pobřeží Kamčatky explodoval loni v prosinci meteorit. Síla výbuchu desetkrát...

Ilustrační foto.

V Argentině našli kosti největšího vyhynulého medvěda

V Argentině našli kosti největšího známého druhu medvěda, který žil ve starších čtvrtohorách a měřil ve vzpřímené poloze přes...

Ilustrační foto.

JAXA a Toyota vyvíjí měsíční vůz s přetlakovou kabinou

Japonská kosmická agentura JAXA a automobilka Toyota společně vyvíjejí průzkumné vozidlo na povrch Měsíce. Měsíční vůz s...

Ilustrační foto.

Live Science: Může nějaké zvíře přežít bez spánku?

Některá to dělají zavěšená hlavou dolů. Jiná jen na několik hodin. Další pod vrstvou bahna. Ale bez ohledu na preferovaný způsob...

Ilustrační foto.

Studenti ze stovky zemí chtějí přimět politiky k ochraně klimatu

Studenti z více než stovky zemí se v pátek pokusí přimět politiky k důslednější ochraně klimatu a snižování emisí.

Na palubě je tříčlenná posádka ve složení (zleva) Christina Hammocková Kochová, Alexej Ovčinin a Nick Hague.

Sojuz vynesl na oběžnou dráhu posádku. K ISS se dostane v noci

Z kosmodromu Bajkonur v Kazachstánu úspěšně odstartovala raketa Sojuz-FG, která má na Mezinárodní vesmírnou stanici dopravit...

 Albert Einstein.

Autor slavné teorie relativity by oslavil 140 let

Sláva vědce málokdy přesáhne jeho vlastní obor. Fyzikovi Albertu Einsteinovi, který se narodil 14. března 1879 v...

Britský astrofyzik Stephen Hawking.

Vědecký pokrok přivede lidstvo do záhuby, varoval Hawking

Britský astrofyzik Stephen Hawking, který zemřel loni 14. března ve věku 76 let, byl jedním z nejznámějším vědců současnosti....

Ilustrační foto.

Roboti na pracovním trhu

Konec účetních, obchodníků, personalistů, nebo operátorů. Tak vypadá budoucnost na pracovním trhu, kterou zásadně ovlivní masivně...

další zprávy

Titulní strana Standardní písmo Větší písmo

Tmavé zobrazení
Přepnout na plnou verzi