Umělá inteligence přináší otázky i v oblasti ochrany osobních údajů

Tématem současnosti je nástup generativní AI, zejména z hlediska možné manipulace se zdrojovými daty, které tyto systémy používají, dále v oblastech ochrany osobních údajů a autorských práv. Demokratické společnosti tak mohou být umělou inteligencí ovlivňovány v řadě oblastí při rozhodování osob, podnikatelů i veřejných institucí.

Obecné nařízení o ochraně osobních údajů (GDPR) je účinné již pět let. Přineslo do vztahů mezi správci, zpracovateli, subjekty osobních údajů a dozorovými orgány nové povinnosti a práva.

S nástupem generativní umělé inteligence se však otevírají další otázky, na které musí provozovatelé systémů umělé inteligence řádně odpovědět. Evropský parlament v současnosti projednává návrh Aktu o umělé inteligenci, který by měl tyto otázky pomoci řešit.

"Před rokem se dTest ve vztahu k ochraně osobních údajů zabýval rozhodnutím Evropského soudního dvora, kterým bylo spotřebitelským organizacím umožněno podávat zástupné žaloby i ve věcech týkajících se ochrany osobních údajů spotřebitelů. Bohužel, za rok jsme se u hromadných žalob posunuli spíše k horšímu, protože rizika pro spotřebitelské organizace spojená s těmito řízeními, pokud systém hromadného řízení projde legislativním procesem tak jak je navrhován, budou fungovat jako obrovská překážka podání jakékoliv hromadné žaloby. Hrozí tak situace, že do českého právního řádu přibude předem nefunkční systém hromadného řízení, který ani v oblasti ochrany osobních údajů spotřebitelům nic nepřinese. Stále máme výhrady k vymáhání práv spotřebitelů podle GDPR. Je ale nesporné, že po pěti letech účinnosti můžeme GDPR hodnotit pozitivně, protože je robustním nástrojem chránícím spotřebitele. Očekáváme totéž od Aktu o umělé inteligenci a v dTestu si zejména přejeme, aby v debatě o hromadných žalobách, které jsou potřebné pro zajištění vymahatelnosti práv spotřebitelů, vzali i naši zákonodárci tato práva vážně,“ říká Petr Šmelhaus, vedoucí právního oddělení spotřebitelské organizace dTest.

dTest se dlouhodobě snaží o posílení práv spotřebitelských organizací při ochraně osobních údajů spotřebitelů. Spotřebitel často stojí sám proti obrovským nadnárodním korporacím a jejich technicky i právně složitým výrobkům a službám.

Mezi odbornou veřejností je dobře známa stížnost dTestu na společnost Google ve věci zneužívání lokalizačních údajů fyzické osoby ze strany této společnosti.

Ani čtyři a půl roku od podání stížnosti nemáme v rukou rozhodnutí irského dozorového orgánu ve věci této stížnosti. Prokazuje se tím, že vymahatelnost práv spotřebitelů, nejenom v oblasti ochrany osobních údajů, je velmi komplikovaná.

Veřejná diskuse o regulaci umělé inteligence tak pozměnila i debatu o Aktu o umělé inteligenci, který je aktuálně projednáván v Evropském parlamentu.

Výbor pro občanské svobody (LIBE) a Výbor pro vnitřní trh a ochranu spotřebitelů (IMCO) Evropského parlamentu v oblasti ochrany osobních údajů navrhují ochranná opatření.

Jsou to např.:

Zakázat sociální scoring, pokud je používán soukromými subjekty, což znamená, že systém umělé inteligence nesmí vyhodnocovat důvěryhodnost jednotlivce na základě sociálního chování nebo preferencí, emocí, zdraví nebo inteligence

Stanovit vývojářům umělé inteligence povinnost identifikovat, snížit a zmírnit rizika pro zdraví, bezpečnost a základní práva před uvedením systému umělé inteligence