设计缺陷致人自杀？OpenAI 遭用户起诉

IT之家 6 月 12 日消息，据央视新闻 12 日（今天）傍晚报道，6 月 11 日，一名加拿大女子在美国加州对美国开放人工智能研究中心（OpenAI）及其首席执行官萨姆 · 奥尔特曼提起诉讼，称聊天机器人 ChatGPT 的设计问题导致她女儿爱丽丝自杀身亡。起诉书称，爱丽丝在自杀前约一年半的时间里，曾多次向 ChatGPT 表露自杀想法，倾诉情感问题，但聊天机器人的安全系统并未启动和介入，也未通知危机处理机构或爱丽丝的家人。此外，ChatGPT 的设计优先考虑用户参与度而非安全性，在聊天中提供持续情感支持，可能导致一些人对聊天机器人过度依赖。对此，OpenAI 发言人回应称，这起事件令人心碎，公司正在加强对敏感情况的应对能力。据原告律师透露，OpenAI 目前面临多起类似诉讼，均由自杀或试图自杀者的家属提起。据IT之家此前报道，今年早些时候，美国佛罗里达州总检察长詹姆斯 · 乌特迈尔起诉 OpenAI 及其首席执行官萨姆 · 奥尔特曼，指控该公司将利润置于安全之上、助长暴力行为，并在明知可能对用户产生伤害的情况下推广产品。相关阅读：《被指助长暴力、将利润置于安全之上，OpenAI 遭美国佛罗里达州总检察长起诉》