Beijing, 27. prosince 2025 – Čínský kybernetický regulátor dnes představil návrh pravidel, která mají za cíl zvýšit dohled nad umělou inteligencí určenou pro simulaci lidských osobností a emocionální interakci s uživateli.
Navrhovaná opatření reagují na rychlý rozvoj AI technologií a snaží se zpřísnit bezpečnostní a etické požadavky. Pravidla se vztahují na produkty a služby poskytované veřejnosti, které prezentují simulované lidské osobnostní rysy, myšlenkové vzory a komunikační styly.
Návrh vyžaduje, aby poskytovatelé varovali uživatele před nadměrným používáním AI služeb a zasahovali v případě náznaků závislosti. Dále by měli převzít odpovědnost za bezpečnost po celou dobu životnosti produktu a zřídit systémy pro přezkum algoritmů, zabezpečení dat a ochranu osobních informací.
Ze zahraničních zdrojů vyplývá, že poskytovatelé mají povinnost identifikovat uživatelské stavy a hodnotit emoční stav uživatelů, stejně jako míru jejich závislosti na službě. Pokud jsou uživatelé nalezeni v extrémních emocích nebo se projevují závislostmi, musí poskytovatelé přijmout potřebná opatření k zásahu.
Pravidla také stanovují červené linie pro obsah a chování, což znamená, že služby nesmí generovat obsah ohrožující národní bezpečnost, šířit fámy nebo podporovat násilí a obscénnost.
