Problémy s podobnými hračkami v minulosti vyvolaly vlnu kritiky.
Nedávné oznámení společnosti Mattel o spolupráci s OpenAI na budoucích produktových řadách s hračkami Barbie a Star Wars se dalo snadno předvídat. Teď, když je umělá inteligence v polévce, bylo jen otázkou času, kdy se dříve či později dostane i do panenek, ale rodiče a spotřebitelské skupiny rychle začali křičet.
Ačkoli prozatím není přesně známo, co Mattel s AI udělá a jaké projekty má v plánu, je těmto sdružením jasné, že by mohlo jít o velmi nebezpečné opatření pro děti. Společně s organizacemi, jako jsou Public Citizen a Fairplay, vyzývají k naprosté transparentnosti tváří v tvář tomu, co považují za „bezohledný sociální experiment“.
Mattel plans to add AI chatbots to its toys, but child experts and parents warn of serious risks to kids' privacy, mental health, and social development. https://t.co/BFXCR9V6bR pic.twitter.com/qcsF395y3z
— Morgan FreeAI (@M_FreeA1) June 25, 2025
Související článek
Integrace jazykových modelů do hraček může zmást děti, které ještě nerozlišují mezi realitou a fantazií. Kromě toho existuje riziko, že by umělá inteligence mohla nakonec shromažďovat citlivé údaje, které by prodávala třetím stranám, což by mohlo ohrozit soukromí dětí. Dalším problémem je, že tyto technologické interakce by mohly bránit sociálně-emocionálnímu vývoji dětí tím, že by omezovaly jejich interakce s ostatními dětmi. Halucinace, k nimž umělá inteligence někdy vede, mohou navíc vyústit ve škodlivé rady nebo skrytou reklamu.
Společnost Mattel ujišťuje, že vše bude provedeno co nejbezpečnějším způsobem a že v každém případě bude tento typ hračky určen pro děti starší 13 let, aby se předešlo těmto potenciálním problémům. Nedůvěra, kterou vyvolávají jazykové předlohy, a to, jak snadno si při srovnávání vzpomeneme na to, co se stalo s filmy, jako jsou Malí vojáci, však způsobila, že se klubko stále zvětšuje.
Této nedůvěře nepomáhá ani precedens Hello Barbie, připojené panenky, která se ukázala být děravou bezpečnostní dírou, skrze niž bylo možné nahrávat audiozáznamy a která skončila v rukou třetích stran: „Mattel se zřejmě nepoučil z neúspěchu své strašidelné sledovací panenky Hello Barbie před deseti lety a nyní stupňuje své hrozby pro soukromí, bezpečnost a pohodu dětí.“
Vedoucí pracovník společnosti Fairplay také poznamenal: „Kreativita dětí vzkvétá, když jsou jejich hračky a hry řízeny jejich vlastní představivostí, nikoli umělou inteligencí. A vzhledem k tomu, jak často AI halucinuje nebo dává škodlivé rady, není důvod se domnívat, že ochranná madla společností Mattel a OpenAI skutečně zajistí bezpečnost dětí“.
Mattel is teaming with OpenAI to add smarts to toys like Barbie and Hot Wheels expect hands free voice ops from your childhood icons soonhttps://t.co/utHQyFqnNW
— Modern Brief (@ModernBrief) June 14, 2025
Je důležité poznamenat, že používání umělé inteligence v hračkách není novým fenoménem. Již v roce 2015 vyvolala Hello Barbie, výrobek společnosti Mattel, kontroverzi kvůli svým schopnostem zaznamenávat a přenášet data. Takové hračky vyvolávají obavy o soukromí a bezpečnost údajů dětí. Kromě toho jsou etické důsledky používání umělé inteligence ve výrobcích určených dětem neustálým předmětem diskusí. Společnosti musí transparentně informovat o způsobu shromažďování, ukládání a využívání údajů a musí zajistit, aby hračky byly pro děti bezpečné.
V konečném důsledku představuje zavedení umělé inteligence do hraček příležitost i výzvu. Přestože tato technologie může nabídnout interaktivní a vzdělávací zážitky, je také nezbytné řešit obavy týkající se soukromí, bezpečnosti a dopadu na vývoj dětí. Rodiče, spotřebitelské organizace a společnosti musí spolupracovat, aby zajistily, že chytré hračky budou pro děti bezpečné a přínosné.