Chatovací AI ve veřejné správě: Ochrana osobních údajů rozhodne o úspěchu jejího nasazení
Generativní umělá inteligence může veřejné správě výrazně usnadnit každodenní práci, zrychlit komunikaci s občany i zefektivnit zpracování dokumentů.
Její využívání však naráží na jednu zásadní podmínku důslednou ochranu osobních údajů.
Právě správné nastavení práce s daty bude rozhodovat o tom, zda se AI stane bezpečným pomocníkem, nebo zdrojem právních a bezpečnostních rizik.
AI přináší nové možnosti i nové povinnosti
Chatovací systémy založené na generativní umělé inteligenci se rychle stávají běžnou součástí pracovního prostředí. Ve veřejné správě mohou pomoci například s přípravou textů, vyhledáváním informací, sumarizací dokumentů nebo komunikací s občany. S rostoucím využíváním těchto nástrojů ale zároveň roste význam správného nakládání s osobními údaji.
Základním pravidlem zůstává, že zaměstnanci veřejné správy nesmějí do běžně dostupných AI chatbotů bez odpovídajících záruk zadávat osobní ani jiné citlivé údaje. Jakmile jsou data vložena do externí cloudové služby, může organizace ztratit kontrolu nad jejich dalším zpracováním, což může být v rozporu s požadavky GDPR i interních bezpečnostních pravidel.
Odpovědnost zůstává na správci údajů
Článek upozorňuje, že odpovědnost za zákonné zpracování osobních údajů neleží na samotném AI nástroji, ale vždy na organizaci, která jej používá. Úřady proto musí před nasazením AI vyhodnotit účel zpracování, právní základ, možná rizika i technická a organizační opatření pro ochranu dat.
Součástí bezpečného využívání AI by měla být také interní pravidla určující, jaké údaje lze do jednotlivých systémů zadávat, jaké služby jsou pro zaměstnance schválené a jak budou výstupy umělé inteligence kontrolovány člověkem.
Anonymizace jako bezpečnější cesta
Jedním z nejúčinnějších způsobů, jak minimalizovat rizika, je anonymizace nebo pseudonymizace dat ještě před jejich vložením do AI systému. Pokud konkrétní osobní údaje nejsou pro splnění úkolu nezbytné, měly by být odstraněny nebo nahrazeny neutrálními identifikátory.
Takový postup výrazně snižuje riziko neoprávněného zpracování osobních údajů a zároveň umožňuje využít výhod generativní AI i při práci s dokumenty veřejné správy.
AI není jen technická otázka
Nasazení chatovacích AI nástrojů není pouze technologickým projektem. Vyžaduje propojení právních, bezpečnostních i organizačních opatření. Důležitou roli hraje školení zaměstnanců, jasně nastavené procesy i průběžné vyhodnocování rizik.
Veřejná správa tak stojí před úkolem využít potenciál umělé inteligence, aniž by byla ohrožena důvěra občanů nebo ochrana jejich osobních údajů. Právě důsledné dodržování pravidel ochrany dat se stává jedním z hlavních předpokladů bezpečného rozvoje AI ve veřejném sektoru.
Zdroj:
- Časopis Veřejná správa: Chatovací AI ve veřejné správě – Ochrana osobních údajů jako klíčová hranice
- Ilustrativní obrázek AI
K tématu:
- ÚOOÚ: 10 let GDPR – od revoluce v ochraně dat k éře umělé inteligence a nových výzev
- Desatero a Průvodce pro etické a odpovědné využívání AI ve veřejné správě
- ÚOOÚ: Doplnění k semináři AI podvody a vaše digitální stopa: jak chránit své údaje
- AI Act v praxi kulhá: Česká města tápou mezi regulací a realitou
- AI podvody a vaše digitální stopa: jak chránit své údaje
- Další články na téma AI / Umělá inteligence a na téma GDPR
