Neříkejte AI všechno. Citlivá data si nechejte pro sebe

22.10. 18:30 | Autor:

Asistenci s drobnými úkony už dnes u pokročilé technologie vyhledává řada lidí. Data, která chatbotům nevědomky předávají, přitom mohou mít strategický význam pro firmu a její produkty.

V posledních letech se umělá inteligence (AI) stala běžnou součástí pracovního prostředí. Například programátorům pomáhá s řešením náročnějších úloh i běžných problémů. Tato technologie se může jevit jako skvělý pomocník. Její použití ale s sebou nese i závažná rizika, zejména pokud jde o ochranu citlivých dat. "Známý je případ firmy Samsung, která výslovně zakázala zaměstnancům používat v práci ChatGPT a další AI chatboty," zmiňuje jeden příklad za mnohé Barbora Brabcová z Iniciativy AI eticky.

Co se skutečně stalo?

V dubnu 2023 jmenovaná firma musela řešit ošemetnou situaci. Několik zaměstnanců Samsungu totiž nahrálo citlivý zdrojový kód do ChatGPT. Interní data společnosti tím pádem začala sloužit k dalšímu trénování tohoto jazykového modelu. V reakci na to Samsung zavedl striktní zákaz používání generativní AI v pracovním prostředí. "Zákazy ale nejsou tou správnou cestou," upozorňuje Barbora Brabcová.

Zmiňovaný incident odhalil zásadní slabinu v tom, jak firmy zacházejí se svými daty v interakci s moderními AI nástroji. Jazykové modely, jako právě ChatGPT, ukládají historii probíhajících konverzací, aby je mohly zužitkovat při svém dalším tréninku. Firma v ten moment fakticky ztrácí kontrolu nad svými citlivými informacemi. Nastavení jazykového modelu jde sice upravit tak, aby neukládal historii konverzací. Nejistota přesto zůstává. Nemůžeme totiž s jistotou vědět, jak dlouho data na serverech zůstávají a jak jsou dále využívána.

Neříkejte AI všechno. Citlivá data si nechejte pro sebe

Jak chránit citlivé informace?

Chatboti mohou zefektivnit řadu firemních procesů, jejich používání by ale mělo být vždy pečlivě zvažováno v kontextu bezpečnosti a etiky. Každá společnost si musí být vědoma potenciálních rizik a mít jasně nastavené postupy pro ochranu citlivých informací. Jen zodpovědné používání technologie zajistí, že AI zůstane dobrým sluhou, nikoliv zlým pánem.

Jak se podle Barbory Brabcové chovat při používání AI zodpovědně?

1. Nechte AI dělat to, co zvládne bez problémů - Pro běžné, opakující se úkoly je AI skvělá. Když ale přijde na citlivé informace, raději se spolehněte na své interní, zabezpečené systémy.

2. Zvažte pořízení vlastních AI nástrojů - Místo používání veřejných chatbotů si můžete nasadit vlastní, interní řešení, jako je například Azure OpenAI, kde máte nad daty plnou kontrolu.

3. Jasná pravidla pro všechny - Seznamte své zaměstnance se srozumitelnými pravidly zacházení s AI. Musí v nich být především stanoveno, kdy je v pořádku použít otevřenou AI a kdy už musí sáhnout po interních systémech - zejména pokud jde o důležitá data.