OpenAI：若青少年因使用 ChatGPT 网暴他人而被封号，系统将告知家长

IT之家 7 月 21 日消息，据外媒 Engadget 当地时间 18 日报道，OpenAI 将进一步扩大 ChatGPT 家长通知功能。若青少年因违反暴力威胁或网络暴力行为政策而被封号，已完成账号关联的父母和监护人将收到提醒。OpenAI 去年推出家长控制功能，允许父母关联未成年子女的 ChatGPT 账号，设定禁用时段、减少敏感内容，并在系统发现子女可能有自残倾向时收到警示。通知范围扩大后，系统发现青少年可能危害他人时，也会提醒家长。OpenAI 公布的界面示例显示，家长会先收到一则有关子女账号“重要更新”的通知。点击“了解更多”后，页面将说明账号因违反“暴力行为”使用政策而被停用。新功能由 OpenAI 与网络暴力监测和应对机构 Moonshot 共同开发。Moonshot 创始人维迪娅 · 拉马林甘表示：“出现严重风险时及时通知父母，并让他们进一步了解情况，是帮助家庭尽早介入和寻求援助的关键第一步。要让年轻人更安全地使用 ChatGPT，未来还需要配合更多保护措施。”2025 年加拿大不列颠哥伦比亚省坦布勒岭发生大规模枪击案，调查发现嫌疑人曾使用 ChatGPT，OpenAI 随后承诺强化安全机制。有报道称，OpenAI 虽然封禁了枪手的账号，却没有向执法部门发出警报，加拿大当局因此传唤 OpenAI，CEO 奥尔特曼之后也为疏漏道歉。OpenAI 还在家长控制页面加入“学习模式”开关。开启后，ChatGPT 不会立即给出完整答案，而会先提供提示，引导学生思考和学习。青少年若长时间使用 ChatGPT，也会更频繁地看到休息提醒，以便养成更健康的数字设备使用习惯。