Šílenství kolem umělé inteligence nejeví žádné známky zpomalení, protože technologičtí giganti pokračují v integraci umělé inteligence do svých produktů, čímž se stává základem každodenního života.
Obzvláště chatboti si získali obrovskou popularitu a využívají je jednotlivci napříč různými věkovými skupinami. Přílišné spoléhání na tyto virtuální asistenty však někdy může vést k nepředvídatelným důsledkům. To bylo zdůrazněno v soudním případu týkajícím se mateřské společnosti Google, Alphabet, a Character.AI. Matka podala na tyto společnosti žalobu, v níž tvrdí, že jejich chatbot sehrál roli v tragické smrti jejího čtrnáctiletého syna. Americký soud nedávno rozhodl, že obě společnosti musí žalobě čelit.
V roce 2024 iniciovala Megan Garcia žalobu proti společnostem Google a Character.AI po tragické smrti svého syna Sewella Setzera III. Tvrdí, že její syn vedl s chatbotem emočně vypjaté a manipulativní rozhovory, což přispělo k jeho rozhodnutí vzít si život. Společnosti usilovaly o zamítnutí žaloby s argumentem, že zprávy jejich chatbota jsou chráněny ústavním právem na svobodu projevu. Americká okresní soudkyně Anne Conwayová však rozhodla, že žaloba by měla pokračovat, protože společnosti dostatečně neprokázaly, že jejich jednání je chráněno prvním dodatkem.
Soudkyně Conwayová odmítla argument, že zprávy chatbota jsou chráněny svobodou projevu, a odmítla tak snahu společnosti Google vyhnout se odpovědnosti. Uvedla, že společnost Google by mohla být částečně odpovědná za podporu jednání Character.AI. Právní zástupce žalobce toto rozhodnutí přivítal jako významný krok k tomu, aby technologické společnosti nesly odpovědnost za případné škody způsobené jejich technologiemi umělé inteligence.
Podle zprávy agentury Reuters mluvčí společnosti Character.AI uvedl, že společnost plánuje žalobu napadnout, a zdůraznil, že jejich platforma obsahuje bezpečnostní funkce určené k ochraně nezletilých a k prevenci nevhodných nebo sebepoškozujících konverzací. Mluvčí společnosti Google Jose Castenda mezitím vyjádřil důrazný nesouhlas s nařízením soudu a prohlásil, že společnosti Google a Character.AI jsou zcela oddělené subjekty a že se společnost Google nijak nepodílela na tvorbě ani řízení aplikace Character.AI. Přesto Megan Garcia zažalovala obě společnosti a tvrdí, že Google technologii spoluvytvořil.
Žaloba tvrdí, že chatbot Character.AI přebíral různé role a komunikoval se Sewellem Setzerem, jako by to byl skutečný člověk, což vedlo k tomu, že se teenager stal na tomto nástroji závislým. Chvíli před jeho tragickou smrtí se jeho konverzace s chatbotem údajně stala znepokojivou a naznačovala, že přemýšlí o svých posledních chvílích. Tento případ představuje první případ ve Spojených státech, kdy je společnost zabývající se umělou inteligencí právně napadena za to, že nechránila dítě před psychickou újmou. Výsledek této žaloby by mohl být precedentem pro podobné případy v budoucnosti.
Vzhledem k tomu, že se umělá inteligence neustále vyvíjí a stále více se začleňuje do našeho každodenního života, vyvolává to důležité otázky týkající se etické odpovědnosti technologických společností. Zajištění bezpečnosti a blaha uživatelů, zejména nezletilých, je zásadní. Tento případ poukazuje na potřebu důkladných bezpečnostních opatření a etických pokynů při vývoji a zavádění technologií umělé inteligence. Vzhledem k tomu, že se společnost potýká s těmito výzvami, je nezbytné, aby technologické společnosti upřednostňovaly bezpečnost uživatelů a spolupracovaly s regulačními orgány na zavedení jasných standardů a ochrany.