OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。
“要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发提供指引，”OpenAI表示。
OpenAI称，其首席执行官SamAltman计划周三在联合国安理会就AI和国际安全问题发表讲话。
美国财政部长贝森特上周末表示，美国提出建立一套通报机制，涵盖具有国家安全影响的AI事件。
OpenAI在博客文章中强调，各国应共同制定相互补充的国家和国际标准，用于开发能力最强的AI模型。OpenAI建议，可以通过多个国家现有的AI安全机构推进这项工作，包括美国商务部下属的AI标准与创新中心（CAISI），该机构协助测试AI模型并制定相关指引。
OpenAI还呼吁制定标准，以应对AI日益增强的自主工作能力，并指出不应追求“完全自主”的递归自我改进——即AI最终能够在无需任何人为干预的情况下修改自身代码或提升其能力——“除非且直到能够确保安全”。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】