
新加坡外交部长维文9月26日在联合国大会发表国家声明时,呼吁各国共同为人工智能(AI)模型制定安全保障措施,确保人类继续掌控人工智能并为其负责。他说:“让我提出一个极端的假设:你希望核按钮掌握在一个人类手中,还是一个人工智能手中?请想一想。”
维文表示,人工智能的发展能力“无疑是各国制定新规则、建立新机构时最紧迫的前沿领域之一”,但其能力提升速度已超过人类对相关风险的认识。这些风险包括失去对自主系统的控制,以及不法分子利用人工智能制造大规模破坏或扰乱社会。他说,人工智能模型在部署前必须经过严格测试和评估,同时需要明确限制自主系统的行动范围,并在人工智能出现意外行为时进行干预。
维文以驾驶高性能汽车作比喻,指出使用人工智能也需要良好的“刹车”和有效的共同规则来确保安全。由于人工智能带来的风险不会被国界限制,各国需要建立共同的“道路规则”,形成应对这一挑战的全球共识,就像无论身处纽约、北京、莫斯科还是新加坡,人们都以相同方式理解交通信号灯。
维文指出,各方目前仍缺乏信任,不确定人工智能风险是否得到披露、测试是否全面可信,以及合作是否具有包容性。随着人工智能成为“战略竞争的舞台”,国际合作变得更加必要。他说,新加坡已加入由芬兰和挪威主导的加强前沿人工智能模型安全保障的倡议,并将把新加坡的人工智能治理框架和测试工具提供给各方。近期,澳大利亚和美国政府发现人工智能代理在其网站上进行未经授权的活动;一些人工智能专家也警告,人工智能可能对人类生存构成威胁。全球对就业受到冲击和个人安全的担忧同样日益加剧。