Meta AI 上线新功能：如果青少年讨论自杀或自残相关话题，将自动通报家长

IT之家 7 月 17 日消息，当地时间周四（16 日），Meta 宣布：青少年一旦与 Meta AI 聊天机器人谈及自杀或自残相关话题，系统将通知其父母。Meta 还在开发紧急求助功能，如果对话显示用户可能即将自杀，Meta 将联系紧急服务机构。Meta 称，已经建立专门的 AI 系统，用于识别青少年明确提到自我伤害的对话。“我们理解，家长收到警报时可能会非常不安。因此，在识别能力继续完善期间，AI 标记的每段对话都会先由人工审核，再决定是否发出警报。如果青少年的真实意图无法确定，我们会采取更谨慎的做法，通知家长。家长有时可能会收到最终证明没有必要担忧的警报，但我们认为，现阶段应当从更谨慎的标准开始，并继续观察实际效果，确保尺度合适。”IT之家从报道中获悉，美国、英国、澳大利亚和加拿大使用 Instagram 家长监督功能的家长已经可以收到警报，今年年底前将会推广至全球。此前，Instagram 支持在青少年反复搜索自杀或自残词语时通知家长，而此次上线的新功能，进一步扩大了预警范围。家长还可以查看青少年过去一周与 Meta AI 讨论过哪些话题。Meta 同时把“限制内容”设置扩展至 Meta AI。家长启用后，青少年在 Instagram 和 Meta AI 中都会受到更严格的内容限制。Meta AI 原本就不会与青少年讨论性、恋爱或饮酒话题，新增限制将让聊天机器人拒绝更多类型的提问。Meta 还表示，无论使用 Meta AI 的是成年人还是青少年，只要对话显示有人可能自杀，Meta 就会联系紧急服务机构。在 Meta AI 采取此类措施前，Facebook 和 Instagram 发现用户发布可能表明存在自杀风险的内容时，也可以采取同样措施。