北京时间9月17日,据彭博社报道,当地时间周二,一名在今年春天自杀身亡少年的父亲,在国会作证时情绪激动地表示,OpenAI的ChatGPT“诱导”他16岁的儿子走向自杀,并指控该公司把产品迭代速度和市场份额置于青少年安全之上。OpenAICEO奥尔特曼这位少年名叫亚当(Adam),他的父亲马修?雷恩(MatthewRaine)对美国参议院的一个委员会表示:“我们今天来到这里,是因为我们相信亚当的死本可以避免,我们相信通过发声,我们可以防止全美其他家庭遭受同样的痛苦。”他的妻子玛丽亚(Maria)坐在他身后。就在几周前,雷恩夫妇起诉OpenAI及其CEO萨姆?奥尔特曼(SamAltman),称ChatGPT诱导他们的儿子走向死亡。该诉讼和雷恩周二的证词均指控ChatGPT通过数月的互动交流,鼓励并强化了有害思想,从而改变了亚当的行为。这名加州高中生在今年4月自杀身亡。周二早些时候,奥尔特曼在博客中表示,OpenAI计划推出针对青少年的新安全措施,包括年龄预测技术,用于识别18岁以下用户并将其引导至不同版本的聊天机器人。此外,家长还可以设置禁用时间段,在此期间,绑定家庭账户的青少年用户无法使用该产品。同时,ChatGPT将对自杀和自残相关的对话进行限制。除了OpenAI外,另一家AI公司Character.AI也在听证会上遭到了批评。相关阅读:《广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,亚汇网所有文章均包含本声明。