← 資訊首页 | 货源大厅

AI情感操控与网络沉迷同列:上海点名七类未成年人心理风险

2026-10-02 · 来源:{'name': 'IT之家资讯·中继', 'url': 'https://www.ithome.com/1/009/357.htm'}

AI情感操控与网络沉迷同列:上海点名七类未成年人心理风险

哔哩哔哩、小红书、拼多多等17家平台被要求将治理重心从事后处置转向源头预防

AI 换脸、虚拟人设催生的情感操控,被正式列入平台治理的风险清单。9 月 30 日,上海市委网信办召开未成年人网络保护专题指导会,要求属地平台重点防范七类涉未成年人心理健康风险,AI 技术衍生的新型侵害与网络沉迷、网络欺凌并列上榜。

哔哩哔哩、小红书、拼多多、喜马拉雅、SOUL、阅文集团、米哈游等 17 家重点平台参会。这场会议聚焦压实网站平台主体责任,深入推进未成年人网络保护专项行动,并把加强心理健康工作作为当前重点,会上还通报了专项行动期间涉未成年人违法违规和不良信息的典型案例。

七类风险覆盖从内容到社交的多个维度:网络沉迷成瘾引发作息失调、注意力下降与厌学逃避;网络欺凌造成长期心理创伤;容貌身材焦虑扩散滋生自卑心理;自残自杀类消极有害信息传播需严防未成年人模仿;线上社交过度挤占现实交往,导致社交能力弱化并易被极端对立信息误导;不良价值观传播则影响价值判断、诱发行为偏差。其中,AI 换脸与虚拟人设带来的情感操控被单独归为“AI 技术衍生新型侵害风险”,是这份清单中最具新技术特征的一项。

会议要求各平台在持续清理危害未成年人身心健康有害信息的基础上,深挖风险产生的内在成因,从算法调控、迭代升级未成年人模式、优化防护举报渠道、提升高危内容识别处置能力、规范 AI 功能应用管理、从严管控不良营销行为、扩大优质正向内容供给等关键环节入手,推动治理工作从事后处置向源头预防转变。

上海市委网信办明确,下一步将加大常态化巡查、抽检和执法力度,会同有关部门对问题突出的平台依法从严处置,同时统筹协调多方资源,提升未成年人网络素养,培育文明上网行为习惯。


萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅