Meta stáhla spornou AI funkci na Instagramu. Co to říká o hranicích generativní AI

Meta ustoupila. Po vlně kritiky stáhla z Instagramu funkci, která umožňovala generativní AI pracovat s veřejným obsahem uživatelů, a sama přiznala, že projekt "minul cíl". Podle TechCrunch firma uvedla, že jejím záměrem bylo nabídnout užitečný kreativní nástroj a dát lidem kontrolu nad tím, zda může být jejich veřejný obsah takto použit. Reakce uživatelů ale byla dost silná na to, aby funkci raději vypnula úplně.

Pro nikoho, kdo sleduje nasazování AI ve velkých platformách, to není překvapení. Je to další díl vzorce, který se za poslední dva roky opakuje s železnou pravidelností. A právě proto stojí za to se u něj zastavit, protože stejné dilema dnes řeší i menší firmy v Česku, které chtějí generativní AI zapojit do svých produktů.

Co přesně Meta stáhla

Sporná funkce dovolovala systému odkazovat na veřejně sdílený obsah lidí a dále s ním pracovat v generativním režimu. Jinými slovy, veřejné příspěvky se mohly stát vstupem pro nástroj, který z nich tvořil něco nového. Meta to prezentovala jako kreativní pomůcku. Uživatelé to ale četli jinak, jako tiché rozšíření toho, co všechno smí platforma s jejich obsahem dělat, aniž by k tomu dali jasný a informovaný souhlas.

Rozdíl mezi "je to veřejné" a "smíte to libovolně použít" je přitom zásadní. Že něco zveřejním, ještě neznamená, že souhlasím s jakýmkoli dalším zpracováním. Tuhle hranici Meta podcenila a stažení funkce je vlastně přiznání, že komunikace i nastavení souhlasu byly špatně.

Proč se uživatelé ohradili

Jádrem problému nebyla technologie, ale důvěra. Lidé chtějí vědět, co se s jejich fotkami, texty a videi děje, a hlavně chtějí mít možnost říct ne. Když se nová schopnost objeví jako zapnutá ve výchozím stavu a uživatel ji musí aktivně hledat a vypínat, vnímá to jako nátlak, ne jako nabídku.

Meta navíc dlouhodobě čelí nedůvěře kvůli tomu, jak zachází s daty. Každý další krok, který vypadá jako zabírání většího prostoru, proto startuje z minusového bodu. Firemní newsroom, kde Meta zveřejňuje oficiální stanoviska, najdete na stránkách Meta Newsroom, a právě tón těchto oznámení bývá to, co rozhoduje, jestli uživatelé novinku přijmou, nebo se ohradí. V tomto případě zafungovala kritika rychleji než PR.

Vzorec, který se opakuje

Velké platformy nasazují AI funkce podle stále stejného schématu. Nejdřív tichý nebo poloviditelný start, často zapnutý ve výchozím nastavení. Pak vlna kritiky od uživatelů a médií. A nakonec ústup, oprava nastavení nebo úplné stažení. Tímhle si prošel Google, prošla si tím řada nástrojů pro trénink modelů na uživatelských datech a teď znovu Meta.

Poučení je jednoduché, a přesto ho firmy pořád ignorují. Rychlost nasazení není totéž co přijetí trhem. Technicky můžete funkci vypustit za týden, ale důvěru, kterou přitom ztratíte, budete získávat zpátky měsíce. Technologický server The Verge, který nasazování AI ve velkých platformách dlouhodobě mapuje, opakovaně ukazuje, že nejde o ojedinělé přešlapy, ale o systémový problém tempa proti souhlasu.

Co si z toho odnést pro firmy a tvůrce v Česku

Tohle není jen zpráva o americkém gigantovi. Je to praktická lekce pro každou firmu, která přemýšlí, jak do svého produktu dostat generativní AI. Platí několik věcí.

Za prvé, souhlas musí být aktivní a srozumitelný. Funkce, která pracuje s obsahem nebo daty uživatele, by neměla být zapnutá ve výchozím stavu. Opt in poráží opt out pokaždé, když jde o důvěru.

Za druhé, komunikujte dřív, než něco spustíte. Vysvětlete, co funkce dělá, co s daty dělá a co nedělá. Ticho si lidé vyloží tím nejhorším možným způsobem.

Za třetí, počítejte s tím, že v Evropě jsou pravidla přísnější. Nakládání s osobními údaji hlídá v Česku Úřad pro ochranu osobních údajů, a evropský regulační rámec pro umělou inteligenci klade na transparentnost výrazně vyšší nároky než trh ve Spojených státech. To, co v USA projde jako "stáhli jsme to po kritice", může v EU znamenat sankci.

Za čtvrté, berte zpětnou vazbu vážně a rychle. Meta udělala jednu věc správně, funkci stáhla, místo aby se zakopala. Rychlá náprava chybu nesmaže, ale zastaví další ztrátu důvěry.

Generativní AI je obrovská příležitost i pro malé české firmy, od e-shopů po agentury. Ale rozdíl mezi nástrojem, který lidé milují, a nástrojem, který je vyděsí, nebývá v kvalitě modelu. Bývá v tom, jestli uživatel cítí, že má kontrolu.

Časté otázky

Jakou funkci Meta na Instagramu stáhla?

Šlo o funkci, která umožňovala generativní AI pracovat s veřejně sdíleným obsahem uživatelů a tvořit z něj něco nového. Meta ji po kritice vypnula a uvedla, že záměr nástroje "minul cíl".

Znamená veřejný příspěvek automatický souhlas s jeho použitím pro AI?

Ne. Zveřejnění obsahu neznamená souhlas s jeho dalším zpracováním. Právě podceněná hranice mezi "veřejné" a "smíme s tím dělat cokoli" byla jádrem sporu.

Proč je to relevantní pro české firmy?

Ukazuje to, jak snadno ztratíte důvěru uživatelů špatně nastaveným souhlasem. V Evropě navíc platí přísnější pravidla pro osobní údaje, takže stejný postup jako v USA tu může vést k regulačnímu problému.

Jak správně nasadit AI funkci pracující s daty uživatelů?

Aktivní a srozumitelný souhlas, jasná komunikace před spuštěním, žádné zapínání ve výchozím stavu a rychlá reakce na zpětnou vazbu. Kontrola musí zůstat na straně uživatele.