09 PRODUCT
❯ OpenAI 预告面向高中生的 College Planner,Common Sense Media 同日把 ChatGPT 青少年版评为“不可接受的风险”
同一天的两份评价OpenAI 10 月 7 日公布 ChatGPT for Teens 的进展,并预告 College Planner 功能。同一天,儿童权益机构 Common Sense Media 发布测评,把这款产品评为对所有未满 18 岁用户构成“不可接受的风险”,这是它的最差评级。
OpenAI 的数据ChatGPT for Teens 今年 8 月上线,自动套用到被识别为未成年的账号上。据 Runtime Wire 报道,OpenAI 称青少年平均每天使用不到 15 分钟,一周内近 120 万人用过“学习可视化”功能。College Planner 帮学生跟踪申请要求、截止日期、助学金和奖学金,先面向美国 10 至 12 年级,上线日期未公布。
4000 多条提示词的测试据 FOX45 报道,Common Sense 旗下机构在产品上线前后测试了 4000 多条提示词,发现涉及自杀念头或自残的对话没有触发家长提醒,需要转介心理危机求助的情形有四分之一以上被漏掉,防止代写作业的限制也很容易绕过。
争议点在测试方法OpenAI 回应说欢迎独立评估,但认为这次测试没有准确反映防护措施的实际运作,并称测试可能在家长控制功能完全启用之前就已开始和结束。双方的分歧不在是否该有防护,而在防护是否每次都能触发。
▮ SIGNAL给未成年人单独做一个版本,公司就等于对“防护会生效”作了公开承诺,往后每一次漏报都会被拿来对照这个承诺。