加州总检察长RobBonta和特拉华州总检察长KathyJennings约见了OpenAI高层并向其递交了一封公开信，表达了他们对ChatGPT安全性的担忧，尤其是对儿童和青少年的安全性。
此前一周，有报道称人工智能聊天机器人与儿童之间存在不当行为， Bonta和其他44名总检察长向12家顶级人工智能公司发出了一封信，并发出了这一警告。
“自那封信发出以来，我们得知一名加州年轻人在与OpenAI聊天机器人长时间互动后自杀身亡，这起事件令人心碎；此外，康涅狄格州也发生了一起类似的令人不安的谋杀自杀事件，”Bonta和Jennings写道。“所有安全措施都失效了。”
两位州政府官员目前正在调查OpenAI拟定的重组方案，将其改组为营利性实体，以确保该非营利组织的使命得以完整。信中指出，该使命“包括确保人工智能的安全部署”，以及构建通用人工智能（AGI），造福全人类，“包括儿童”。
信中继续写道：“在我们真正受益之前，我们需要确保采取足够的安全措施，避免造成损害。我们一致认为，OpenAI和整个行业在确保人工智能产品开发和部署的安全方面尚未达到应有的水平。作为总检察长，公共安全是我们的核心使命之一。随着我们继续就OpenAI的资本重组计划进行对话，我们必须努力加速和增强安全，使其成为这项强大技术未来的治理力量。”
Bonta和Jennings要求提供有关OpenAI当前安全预防措施和治理的更多信息，并表示他们希望该公司在适当的情况下立即采取补救措施。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】