Obavy firem z používání generativní umělé inteligence

Podle studie společnosti Cisco firmy limitují využití GenAI zejména v obavách z úniku citlivých obchodních informací a zneužití osobních údajů. Více než čtvrtina z nich dokonce nasazení generativní umělé inteligence již úplně zakázala.

"Organizace vnímají GenAI jako zásadně odlišnou technologii s novými výzvami. Více než 90 % respondentů se domnívá, že GenAI vyžaduje nové techniky správy dat a rizik, protože na tom závisí zachování důvěry zákazníků. Ještě více to platí v éře umělé inteligence - 94 % respondentů se domnívá, že jejich zákazníci by u nich nenakupovali, pokud by nedostatečně chránili data," říká Milan Habrcetl, Cyber Security Specialist společnosti Cisco.

Podle studie Cisco 2024 Data Privacy Benchmark Study mezi hlavní obavy podniky zařadily ohrožení právních předpisů a práv duševního vlastnictví organizace (69 %) a riziko vyzrazení citlivých informací veřejnosti nebo konkurenci (68 %).

Většina dotázaných firem přitom zároveň přiznala, že kvůli těmto obavám GenAI kontroluje a její užívání limituje - 63 % respondentů zavedlo omezení pro zadávání dat, 61 % firem omezilo, které nástroje GenAI mohou zaměstnanci používat, a 27 % společností uvedlo, že jejich organizace prozatím aplikace GenAI zcela zakázala.

Současně už firmy ve výzkumu připustily, že jejich zaměstnanci do nástrojů GenAI zadávali problematická data, včetně informací o zaměstnancích (45 % dotázaných) nebo neveřejných informací o společnosti (48 % dotázaných).

Studie Cisco v 2024 Data Privacy Benchmark Study čerpala z odpovědí více než 2600 bezpečnostních expertů z firem ve 12 zemích celého světa.

Ochrana soukromí je dobrou investicí

Důležitost zabezpečení dat a ochrany soukromí je patrná z nárůstu výdajů organizací na ochranu soukromí. Za posledních pět let se výdaje firem na ochranu soukromí více než zdvojnásobily.

Vysoké procento (95 %) respondentů přitom uvedlo, že výdaje v oblasti ochrany soukromí začaly přinášet reálné ekonomické výsledky. Výnosy z podobných investic jsou podle dotazovaných 1,6krát vyšší než náklady.

Studie ovšem odhalila až propastný rozdíl mezi tím, jak si opatření k ochraně soukromí zákazníků vykládají firmy, a tím, co očekávají přímo spotřebitelé.

Např. pro spotřebitele je v oblasti ochrany jejich údajů imperativem transparentnost. Tedy přístup k jasným a srozumitelným informacím o tom, jak je s jejich daty nakládáno. Zákazníci se bojí hlavně toho, aby údaje, které poskytnou, nebyly dále prodávány pro marketingové účely.

Podniky naopak jako své hlavní priority uvedly dodržování zákonů o ochraně osobních údajů (25 %) a zamezení úniku dat (23 %).

Článek CISCO SYSTEMS (Czech Republic) s.r.o. ze dne úterý 13. února 2024

Další články od CISCO SYSTEMS (Czech Republic) s.r.o.