Do umělé inteligence zabudováváme lidské předsudky

Ilustrační foto.

Když si Amazon uvědomil, že jeho program na vyhledávání nových zaměstnanců vybavený umělou inteligencí (AI) dává přednost mužům, rychle ho odložil k ledu. V roce 2016 se chatovací robot z dílny Microsoftu změnil během pouhých 24 hodin na sexem posedlý, neonacistický stroj.

Tyto incidenty - společně s dalšími - hrály přímo do karet těm, kdo tvrdí, že v našem každodenním životě je příliš mnoho AI, napsal v listu Les Échos Charles Cuvelliez, který přednáší na Bruselské svobodné univerzitě a je ředitelem Bruselské inženýrské školy.

Ale někteří vědci se na věci dívají z jiné perspektivy: Pokud dělá AI takové chyby, je to proto, že tomu byla naučena. To znamená, že ji také můžeme naučit, aby se těmto chybám vyhnula. Jak? Tím, že najdeme všechny předsudky obsažené v údajích, které AI dostává při svém učení.

Tyto údaje vyplývají z našich vlastních předsudků, které existují už velmi dlouhou dobu. Je snadné je najít. Zkusme se zamyslet například nad tím, jak často se v textech vyskytují ošetřovatelky a zdravotní sestry v porovnání s jejich mužskými protějšky. Jak často se o lékařích mluví jako o mužích? Je snadné odhadnout, že o počítačových vědcích se bude často mluvit v mužském rodě.

Ale to není všechno. Ví například někdo, že poměr chyb při rozpoznávání tváří dosahuje až 35 procent u žen tmavé pleti, zatímco u mužů bílé pleti je to jen 0,8 procenta?

To vše je způsobeno objemem vstupních dat, která jsou k dispozici pro "učení" AI algoritmů. Právě dostupná data jsou Achillovou patou umělé inteligence. Například sociální sítě poskytují hojný a levný zdroj dat. Ovšem kvůli přítomnosti falešných zpráv, nenávistných výlevů a všeobecně zaujatých postojů vůči menšinám a ženám, nejsou pro AI vhodná.

Rovnost pohlaví

Experiment, který na twitteru provedl jistý výzkumník ze Swinburneské univerzity, odhalil, že lidé vyjadřují negativní pocity podstatně častěji proti ženám ve vysokých pozicích, než proti srovnatelně vysoce postaveným mužům.

Předsudky se ovšem najdou i na jiných místech. Napadlo vás někdy, proč kterákoli hlasová služba nebo zákaznická linka v call centru využívající robotické služby má uklidňující ženský hlas?

Studie prokázaly, že muži i ženy dávají přednost tomu, aby na ně mluvily ženské hlasy. Dodávají jim více jistoty, hrají na mateřskou strunu. Ovšem tyto preference mají své výjimky - mužské hlasy slyšíme radši, když potřebujeme poradit ohledně vozů nebo počítačů, a ženské ve všech mezilidských záležitostech.

Před časem výrobci inteligentních automatizovaných osobních asistentů s připojenými reproduktory upravili algoritmy tak, aby tito roboti byli méně vlídní a shovívaví vůči hrubým a urážlivým výpadům uživatelů, kteří si na nich občas vybijí svou frustraci. Smyslem tohoto kroku bylo zabránit výpadům lidí proti ženám na ulici, protože si je díky svým zkušenostem s automatizovanými asistenty příliš odlidští.

Umělá inteligence jako taková nemá stejné předsudky jako my. To my učíme stroje, aby byly neobjektivní, ovlivněné, předpojaté. Světové ekonomické fórum odhaduje, že potrvá do příštího století, než dosáhneme skutečné rovnosti pohlaví. A je možné, že v případě umělé inteligence budeme muset na rovnost pohlaví čekat ještě déle.

Chatovací robot Tay a jeho chování na twitteru:

Foto: pixabay.com/geralt

Autor: ČTK



Čtěte dále

Bývalý sovětský kosmonaut Alexej Leonov.

Zemřel první člověk, který vystoupil do volného kosmu

Zemřel bývalý sovětský kosmonaut Alexej Leonov, který 18. března 1965 jako první člověk vystoupil do otevřeného kosmu....

Etiopský premiér Abiy Ahmed.

Gréta ostrouhala. Nobelovu cenu dostal někdo jiný

Letošní Nobelovu cenu za mír získal etiopský premiér Abiy Ahmed, který se zasloužil o podpis mírové dohody mezi Etiopií a...

Ilustrační foto.

Středomoří se otepluje rychleji, než je světový průměr

V oblasti Středomoří roste průměrná teplota o 20 procent rychleji, než je světový průměr.

Letošní Nobelovu cenu za chemii získali Američan narozený v Německu John Goodenough.

Nobelova cena za chemii za vývoj lithium-iontových baterií

Letošní Nobelovu cenu za chemii získali Američan narozený v Německu John Goodenough, Brit Stanley Whittingham a Japonec Akira...

Nobelova cena (medaile).

Ve Stockholmu bude vyhlášena Nobelova cena za chemii

Vyhlašování Nobelových cen bude ve středu pokračovat ve Stockholmu oznámením držitele či držitelů letošního ocenění za chemii....

Astrofyzik Michel Mayor.

Nobelova cena za fyziku byla udělena za výzkum evoluce vesmíru

Letošní Nobelovu cenu za fyziku získali Američan kanadského původu James Peebles a Švýcaři Michel Mayor a Didier Queloz za svůj...

Pyramidy v Gíze.

Egyptští dělníci náhodou objevili 2200 let starý chrám

Egypští dělníci nedaleko města Sohág náhodou objevili 2200 let starý chrám pocházející z doby, kdy v Egyptě vládl rod...

Ilustrační foto.

Vesmírná mise: astronauti opravují vně vesmírné stanice

Dvojice amerických astronautů v neděli na Mezinárodní vesmírné stanici (ISS) vystoupila do volného kosmického prostoru, aby...

Ilustrační foto.

Vědci díky experimentu s králíky osvětlili původ ženského orgasmu

Ženský orgasmus je nejspíš pozůstatkem evolučně překonaného mechanismu, který u savců při sexuálním vyvrcholení spouštěl ovulaci,...

Ilustrační foto.

V Antarktidě se odtrhla kra. Je velká jako tři Prahy

V Antarktidě se minulý týden utrhla obří ledová kra o rozloze 1636 kilometrů čtverečních, což je zhruba trojnásobek území českého...

První jaderná ponorka byla do služby zařazena před 65 lety.

První jaderná ponorka byla do služby zařazena před 65 lety

Před 65 lety, 30. září 1954, byla poprvé v historii zařazena do služby jaderná ponorka. Jednalo se o americké plavidlo s názvem...

Elon Musk.

Musk ukázal loď Starship, s níž mají lidé létat na Měsíc a Mars

Soukromá americká společnost SpaceX Elona Muska v sobotu ukázala vesmírnou loď navrženou pro dopravu lidí a nákladu na Měsíc,...

Ilustrační foto.

Japonská nákladní loď Kónotori 8 přistála na ISS

Japonská nákladní vesmírná loď Kónotori 8 (HTV8) s více než pěti tunami zásob, přístrojů a zařízení pro vědecké experimenty...

Ilustrační foto.

Začíná Noc vědců. Veřejnost může zdarma navštívit až sto míst

Brány vědeckých institucí a vysokých škol se v pátek večer otevřou veřejnosti. Letošní ročník Noci vědců se koná na více než 100...

Zemřel kosmonaut Sigmund Jähn.

Německo truchlí. Zemřel kosmonaut Sigmund Jähn

Ve věku 82 let o víkendu zemřel první německý kosmonaut Sigmund Jähn. Informovalo o tom Německé středisko pro letectví a...

Američané plánují další cestu na Měsíc (vpravo) a později také na Mars.

Austrálie investuje do NASA. Pomůže v cestě na Mars

Austrálie investuje 101 milionů amerických dolarů na podporu snahy amerického Národního úřadu pro letectví a vesmír (NASA) vrátit...

Ilustrační foto.

Poslední den dinosaurů: ochladilo se a přežili jen savci

Vědci mají záznam nejhoršího dne v historii Země - rozhodně nejhoršího za posledních 66 milionů let - ve formě 130 metrů dlouhého...

Začala největší polární expedice, loď s vědci vyplula z Norska.

Začala největší polární expedice, loď s vědci vyplula z Norska

Z norského přístavu Tromsö vyplul v pátek německý ledoborec Polarstern (Polárka) s dosud největší polární vědeckou expedicí....

Ilustrační foto.

Zbytečné plýtvání uhlíkem, kritizují vědci leteckou společnost

Britský nízkonákladový dopravce easyJet čelí kritice ze strany vědců a environmentalistů. V příštím roce totiž otevře novou...

Ilustrační foto.

Šéf EPO: Česko přihlašuje víc vynálezů, má inovační potenciál

Rostoucí počet patentových přihlášek od českých vynálezců a podniků u Evropského patentového úřadu (EPO) v posledních letech...

další zprávy

Titulní strana Standardní písmo Větší písmo

Tmavé zobrazení
Přepnout na plnou verzi