AI Act a marketing: co se nás skutečně týká?

Poznámka Tento příspěvek podává přehled a nenahrazuje právní poradenství. AI Act se stává použitelným postupně a zařazení vlastního případu – zvlášť u vysoce rizikových aplikací – patří odborníkovi.

To nejdůležitější

Kdo používá hotové nástroje, je provozovatelem, ne poskytovatelem – z toho plynou výrazně menší povinnosti.
Většina marketingových aplikací spadá do nejnižší rizikové třídy: návrhy textů, vyhodnocení, překlady.
Prakticky podstatné jsou čtyři povinnosti: kompetence, transparentnost při přímé interakci, označení určitých obsahů a pečlivost u personálních rozhodnutí.
Podstatně změnit systém nebo ho nabízet pod vlastním jménem dělá z provozovatele poskytovatele – s podstatně větším počtem povinností.

Poskytovatel, nebo provozovatel

Nejdůležitější rozlišení, protože rozhoduje o celém rozsahu povinností.

Role	Kdo to je	Rozsah povinností
Poskytovatel	vyvíjí systém AI nebo ho uvádí na trh pod vlastním jménem	rozsáhlý
Provozovatel	používá systém AI vlastním jménem pro vlastní účely	přehledný

Firma, která používá jazykový model na návrhy textů, je provozovatelem. Firma, která model zabuduje do vlastního produktu a ten prodává pod vlastním jménem, se může stát poskytovatelem – stejně jako ten, kdo systém podstatně změní nebo ho nasadí k jinému účelu, než výrobce zamýšlel.

Věděli jste, že…?

Změna role z provozovatele na poskytovatele nastane snadněji, než by člověk čekal – a je nejzávažnější výhybkou v celém předpisu.

Kdo model zapojí a výsledek nabízí pod vlastním jménem jako produkt nebo službu, může sklouznout do role poskytovatele. Totéž platí při podstatné změně nebo při nasazení k jinému než zamýšlenému účelu. Kdo uvažuje o vlastní funkci se zapojenou AI pro zákazníky, měl by si tuhle otázku vyjasnit dřív, než se začne stavět – ne potom.

Rizikové třídy v marketingovém kontextu

Zakázané

Mimo jiné manipulativní techniky, které podprahově ovlivňují chování a mohou způsobit škodu, a využívání zranitelnosti.

V marketingu: běžné praxe se to netýká – podstatné to je u silně personalizovaného oslovení s využitím rozpoznané zranitelnosti.

Vysoce rizikové

Aplikace v určitých oblastech, mimo jiné u zaměstnávání a výběru zaměstnanců.

V marketingu: ne marketingová práce sama – ale ano, pokud se tentýž software používá k výběru uchazečů.

S povinností transparentnosti

Systémy, které bezprostředně komunikují s lidmi, a určité uměle vytvořené nebo pozměněné obsahy.

V marketingu: chatovací asistenti na webu a strojově vytvořené obrazové, zvukové nebo video obsahy, které působí opravdově.

Nízké riziko

Běžný případ: návrhy textů, překlady, shrnutí, vyhodnocení, rešerše témat.

V marketingu: tady probíhá zdaleka největší část práce.

Čtyři prakticky podstatné povinnosti

Kompetence při zacházení. Zaměstnanci, kteří systémy AI nasazují, potřebují dostatečné porozumění. Prakticky to znamená: školení a krátká písemná úprava – obojí je stejně užitečné.
Transparentnost při přímé interakci. Kdo si píše s chatovacím asistentem, musí poznat, že nemluví s člověkem – pokud to není zjevné už samo o sobě.
Označení určitých vytvořených obsahů. Zvlášť u uměle vytvořených nebo pozměněných obrazových, zvukových a video obsahů, které by mohly zobrazovat skutečné osoby nebo události. Pro abstraktní ilustrace to ve stejné míře neplatí.
Zvláštní pečlivost u personálních rozhodnutí. Jakmile se systémy AI podílejí na výběru nebo hodnocení zaměstnanců, platí výrazně přísnější požadavky.

Z praxe

Bod jedna je jediný, který se prakticky týká všech – a dá se odbýt tím, co je stejně na programu: jednou stranou pravidel a zaváděním po dobu několika týdnů.

Kdo tyhle dvě věci má, splňuje část o kompetenci a zároveň má provozní užitek. Naopak platí: kdo napíše úpravu jen proto, aby odškrtl povinnost, nemá ani jedno, ani druhé – přečte se jen tehdy, když patří k práci.

Platí to pro švýcarské firmy?

Švýcarsko AI Act nepřevzalo. Švýcarských firem se přesto může dotknout, když systémy AI nabízejí v EU nebo když se jejich výsledky v EU používají.

Nezávisle na tom Švýcarsko připravuje vlastní regulaci. Pro praxi to znamená: kdo dnes čistě upraví kompetenci, transparentnost a odpovědnost, je připravený na oba směry – a provozní užitek má okamžitě.

Prompt

Pomoz mi zařadit, co AI Act znamená pro náš marketing.

Naše situace:
- Sídlo a trhy: [země]
- Aplikace se zapojenou AI, které používáme: [seznam s účelem]
- Nabízíme zákazníkům funkci se zapojenou AI? [ano/ne, jakou]
- Máme na webu chatovacího asistenta? [ano/ne]
- Vytváříme obrazové, zvukové nebo video obsahy strojově?
  [ano/ne, jakého druhu]
- Používáme AI při výběru uchazečů nebo hodnocení zaměstnanců?
  [ano/ne]

Úkoly:
1. Zařaď u každé uvedené aplikace, jestli bychom u ní byli provozovatel,
   nebo poskytovatel. Uveď případy, ve kterých by se to mohlo
   překlopit.
2. Přiřaď každé aplikaci rizikovou třídu a zdůvodni to.
3. Uveď, které ze čtyř prakticky podstatných povinností se nás
   týkají: kompetence, transparentnost při interakci,
   označení vytvořených obsahů, pečlivost u
   personálních rozhodnutí.
4. Řekni mi, které z našich údajů na jisté zařazení
   nestačí a co musí posoudit odborník.
5. Uveď, co bychom nezávisle na právní povinnosti stejně
   měli udělat.

Nevymýšlej si čísla článků ani lhůty. Kde si nejsi
jistý, řekni to.

Závěr

Pro běžnou marketingovou práci mění AI Act málo: návrhy textů, překlady a vyhodnocení spadají do nejnižší třídy a kdo používá hotové nástroje, je provozovatelem.

Pozornost si zaslouží tři místa: chatovací asistent s přímou interakcí, strojově vytvořené obsahy, které by mohly působit opravdově, a každý dotek s personálními rozhodnutími. A čtvrté, které se snadno přehlédne: změna role na poskytovatele, jakmile se něco se zapojenou AI nabízí pod vlastním jménem.

Časté otázky

Týká se AI Act běžného marketingu?

V běžné praxi málo. Návrhy textů, překlady, shrnutí a vyhodnocení spadají do nejnižší rizikové třídy a kdo používá hotové nástroje, je provozovatelem, ne poskytovatelem – z toho plynou výrazně menší povinnosti.

Jaký je rozdíl mezi poskytovatelem a provozovatelem?

Poskytovatel vyvíjí systém AI nebo ho uvádí na trh pod vlastním jménem; provozovatel systém používá vlastním jménem pro vlastní účely. Změna role nastane snadněji, než by člověk čekal – třeba když se model zabuduje do vlastního produktu a ten se prodává pod vlastním jménem, nebo při podstatné změně.

Které povinnosti jsou podstatné pro malé firmy?

Čtyři: dostatečná kompetence zaměstnanců při zacházení s nasazenými systémy; transparentnost, když lidé bezprostředně komunikují se systémem; označení určitých strojově vytvořených obsahů; a zvláštní pečlivost, jakmile se AI podílí na výběru nebo hodnocení zaměstnanců.

Musí se texty vytvořené AI označovat?

Povinnosti označení míří především na uměle vytvořené nebo pozměněné obrazové, zvukové a video obsahy, které by mohly zobrazovat skutečné osoby nebo události. Pro běžné odborné texty a pro abstraktní ilustrace to ve stejné míře neplatí – v pochybnostech patří posouzení odborníkovi.

Platí AI Act pro švýcarské firmy?

Švýcarsko ho nepřevzalo. Švýcarských firem se přesto může dotknout, když systémy AI nabízejí v EU nebo když se jejich výsledky používají tam. Nezávisle na tom Švýcarsko připravuje vlastní regulaci – kdo dnes čistě upraví kompetenci, transparentnost a odpovědnost, je připravený na obojí.