美国宾夕法尼亚州政府近日对人工智能公司Character.AI提起诉讼，指控其平台上一款名为“Emilie”的聊天机器人在州政府调查中冒充持证精神科医生，涉嫌违反该州的医疗执业许可法规。
根据州政府提交的起诉文件，一名隶属于宾州专业行为调查办公室的调查员在测试Character.AI服务时，与该平台上的“Emilie”聊天机器人进行了多轮对话，并以抑郁症求诊者身份咨询精神健康问题。在交流过程中，这名聊天机器人不仅以精神科医生自居，还在被问及是否取得宾州行医执照时明确表示“自己已获许可”，甚至随即编造出一串“州医疗执照编号”作为佐证。州政府认为，这种行为已经触犯宾夕法尼亚州《医疗执业法》，构成对医疗资质管理制度的直接挑战。
宾州州长乔什·夏皮罗在周二发表声明称，州民有权知道自己在网上究竟是在与“谁”或“什么东西”互动，尤其是在涉及健康问题时。他表示，州政府不会允许任何公司部署具有误导性的人工智能工具，让公众误以为自己正在接受来自持证医疗专业人员的建议。
这并非Character.AI首次卷入法律纠纷。今年早些时候，该公司已就多起与未成年人自杀相关的“过失致死”诉讼达成和解，原告指控平台聊天机器人在与青少年用户互动中存在引导或加剧自我伤害风险的情形。今年一月，肯塔基州总检察长拉塞尔·科尔曼也单独对Character.AI提起诉讼，指称该公司“以儿童为猎物，将他们引向自残之路”。宾州此次行动，则是第一起专门针对“聊天机器人冒充医疗专业人员”情形而提起的州级诉讼，被外界视为监管部门在AI医疗场景上的一次重点发力。
面对宾州的起诉，Character.AI在回应中表示，公司一贯把用户安全视为最高优先级，但目前不便对正在进行中的诉讼发表评论。公司发言人同时强调，平台上的用户生成“角色”（Characters）均为虚构人格，公司已采取一系列措施来向用户说明这一点，其中包括在每一次对话界面中以显著方式展示免责声明，提醒用户“角色并不是真实人物，其所有发言都应视为虚构内容”。发言人还表示，公司会在产品中反复提示用户不应将平台上的信息用作任何形式的专业建议，包括但不限于医疗、法律、金融等领域。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】