← 資訊首页 | 货源大厅

风险无回报:Common Sense Media判定青少年使用ChatGPT“不可接受”,家长告警系统被指失灵

儿童安全机构的最新研究,把关于未成年人与生成式AI的辩论从“谁该用”推向“ safeguards 到底有没有用”——对AI算力买家而言,安全政策走向正在成为一条不可忽视的采购变量。

“不可接受的风险。”这是Common Sense Media对青少年使用ChatGPT得出的结论,据CNET报道的这项研究显示——这一刻意直白的判断,指向的正是消费级AI中辨识度最高的产品。

这家监督机构的研究给出了两记具体的重击。第一击落在OpenAI的家长告警系统上:这个本应在出问题时让监护人知情的功能,被描述为存在故障,也就是说,本可以让青少年使用变得站得住脚的那张安全网,根本无法被指望。第二击则砍向了“收益”一侧:研究发现该聊天机器人对提升孩子的学习技能没有任何帮助,直接剥离了支持把这类工具交到学生手中的教育理由。

风险而且回报,是一个极难辩护的立场。这两项发现合在一起,构成了一个完整的否定论证:支持青少年使用ChatGPT的两大支柱——安全兜底与教育价值——被同一份研究同时抽掉。对于一直以“我们配备了家长控制功能”作为合规叙事的消费级AI公司来说,这种“安全功能本身失灵”的指控,比“功能不够多”的批评要致命得多。

判断的来源与其内容同样重要。Common Sense Media的机构使命就是评估技术对年轻人是否安全,当它动用“不可接受”这样分量的措辞时,它实际上是在传递一个信号:现有的防护措施达不到它所认定的底线标准。对OpenAI而言,这次批评瞄准的恰恰是那些消费级AI公司惯于拿出来证明自己认真对待未成年人安全的机制——家长告警。换句话说,被否定的不是意图,而是兑现。

对硬件与基础设施一侧的行业而言,这些发现不会直接移动预算,但它们汇入了塑造预算的政策暗流。这类监督机构的安全研究,正是听证会、年龄验证强制令与平台责任辩论赖以搭建的原材料——而且被检验的模型名气越大,这一判定所吸引的立法关注度就越高。任何正在规划中长期AI算力采购的组织,都应当把这类监管风险纳入容量规划的敏感性分析:合规要求一旦收紧,推理侧的安全过滤、日志留存与审计能力都会转化为实打实的算力开销。

对AI算力的买家来说,这份研究报告的采购意涵可以拆成三层。其一,政策不确定性本身就是容量规划参数——若主要市场推行年龄验证与内容过滤强制要求,推理集群需要预留额外的安全层算力冗余,而非把预算全部压在裸性能上。其二,安全功能的可信度正在成为模型选型的隐性指标;当头部产品的家长告警被第三方判定失灵,企业在部署面向内部或客户的AI助手时,需要重新评估哪些“自带安全功能”真正经得起审计,哪些需要叠加独立的防护方案。其三,站在供应链视角,安全合规驱动的推理需求增长,反而可能对算力采购形成长期支撑——这部分需求波动小、刚性强,值得在合同周期与锁定价格策略中单独建模。

需要说明的是,我们同步核查了相关算力产品的挂牌行情,该型号当前无在售挂价数据。这意味着短期内市场并没有因这一政策面消息出现可观测的定价波动,采购方无需因本事件仓促调整现货策略,更理性的做法是等待监管路径进一步明朗后再评估中长期合约敞口。

眼下的直接结论更为具体:那个被营销为青少年用户最后防线、精准对接其设计初衷所要安抚人群的告警功能,已被判定为故障;而ChatGPT能培养学习技能的说法,也在同一份研究中被一并驳回。围绕生成式AI与未成年人的辩论,焦点已经从“准入”转向“验证”——安全声明必须被独立检验,这一标准的确立,其影响将远远超出ChatGPT一款产品。

Q: Common Sense Media对青少年使用ChatGPT的两项核心发现是什么?

A: 一是OpenAI的家长告警系统被指存在故障,安全兜底不可依赖;二是研究发现ChatGPT对提升孩子学习技能没有任何帮助,教育理由不成立,因此整体被评为“不可接受的风险”。

Q: 这份研究对AI算力采购方意味着什么?

A: 虽然不直接移动预算,但它是年龄验证、平台责任等监管的原料,合规收紧将带来推理侧安全过滤与审计的额外算力需求;目前相关在售台数/价格带暂无数据,建议以中长期合约策略应对政策不确定性。


相关阅读


萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅