由联合国设立的首个人工智能独立科学专家小组发布初步评估报告指出，人工智能（AI）的迅猛发展为全球国家和民众带来巨大潜在利益，但同时也伴随重大风险。这一报告将于7月6日至7日在日内瓦举行的首届联合国全球人工智能治理对话会上提交给各国政府，作为全球范围内关于人工智能的首份独立科学评估，完整综合版预计将在明年发布。
报告由40名来自世界各区域的顶尖科学家和专家共同撰写，他们以个人身份参与，为期三年的任期不受任何政府、机构或公司的直接约束，旨在向决策者提供独立的科学证据。报告指出，在人工智能能力快速演进的背景下，政策制定者亟需可靠的科学依据来制定监管框架，但当前科学界对部分高自治系统的理解仍然滞后，社会和政府的适应能力亦明显不足，用于约束这类高度自治人工智能的有效工具依旧有限。
专家小组联合主席约书亚·本吉奥（YoshuaBengio）在报告中强调，关于人工智能出现“欺骗性行为”的科学证据正在增加。他指出，伴随系统能力进一步提升，科学研究无法保证人工智能不会带来灾难性危害——这种危害既可能源于系统自身的行为，也可能源于具有恶意动机的使用者。报告总结称，“人工智能的潜在益处是巨大的”，但同时警告，如果在大规模快速部署过程中缺乏充分约束和审慎规划，技术所带来的负面效果亦不容忽视。
报告指出，人工智能的快速推广正在深刻改变社会、经济与环境系统，也对用户心理健康构成挑战。在积极面，人工智能应用已在教育、医疗、科学研究和工业生产等多个领域展现出提升效率和创造新价值的能力。但在消极面，报告警告人工智能可能被用作破坏性工具，或通过操控信息与情绪而削弱公共信任、社会凝聚力和民主deliberation（审议讨论）。
根据这份初步评估，全球超过十亿人每周使用对话式人工智能，但不同国家和行业的应用水平高度不均衡，发展中国家在接入与使用方面普遍落后。在算力集中度方面，报告列举的数据称，在全球排名前500位的人工智能超级计算机构成中，美国约占75%的算力，中国约占15%，凸显当前人工智能基础设施在少数经济体高度集中。
报告同时关注到语言层面的严重不平衡。全球现有超过7000种语言，但现行主流人工智能模型在训练中仅覆盖其中极少部分。对于许多语言而言，机器翻译质量问题突出，错误不仅影响日常沟通，还可能在医疗诊断和治疗决策等对人身安全高度敏感的场景中造成严重后果。
专家小组指出，人工智能扩散带来的风险已开始在多个领域显性化。其中包括对人权、社会制度以及自然环境的潜在负面影响，例如人工智能生成的儿童性虐待材料以及利用深度伪造技术实施的性暴力内容在网络上的传播频率不断提高。报告认为，相关现象暴露出在内容监管、刑事司法与跨国合作方面的明显短板，亟需在技术和制度层面同步强化应对。
在信息环境方面，报告警告人工智能显著降低了大规模制作和精准定向传播“说服性内容”的门槛。这种趋势可能导致信息完整性被逐步侵蚀，进而削弱公众对媒体和机构的信任，破坏社会凝聚力，并干扰民主程序中依赖事实与理性辩论的审议机制。专家们认为，面对这种变化，传统的信息安全和媒体监管框架已显现不足，需要更新治理思路并强化国际协调。
报告还指出，大多数国家——包括部分发达经济体在内——缺乏对最新、最强大人工智能模型进行技术评估的能力，也难以有实质性技术参与来影响这些系统的全球治理。这种技术能力与资源的鸿沟，进一步加剧了在人工智能安全标准制定和风险防控方面的国际不平等。专家小组呼吁，通过多边合作机制和能力建设项目，帮助更广泛的国家提升评估与监管能力，从而在全球治理中形成更具代表性的声音。
本次初步报告将在联合国全球人工智能治理对话上作为核心参考文件，供各国政府和相关国际组织讨论未来监管框架与合作路径。专家小组表示，计划在未来一年继续收集和评估最新科研成果以及实际应用案例，为拟定的综合版报告提供更为详尽、系统的证据基础，以支持各方在风险防控与技术创新之间寻求更稳妥的平衡。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】