近日,以“智联世界 元生无界”为主题的2022世界人工智能大会在沪举办。人工智能似乎已经成为无远弗届、无所不能的泛在赋能技术，人工智能治理建设成为会议的重要议题。随后于9月15日闭幕的2022全球人工智能峰会更以“人工智能促进人类福祉”为主题，通过了《利雅得人工智能行动宣言》，强调防止人工智能被不道德地应用。发展可靠、可信、安全的人工智能已成为全球的共识。
原文 ：《发展安全的人工智能已成全球共识》
作者 | 本报记者 田林
图片 | 网络
中国人工智能创新水平不断提升
首次亮相世界人工智能大会的元宇宙当仁不让地成为“主角”：一众个性鲜明的数字人虚拟偶像以不同的方式欢迎参会来宾，机器人现场制作自选口味的咖啡。与此同时，消费者可以选择在不同的场景下制作和享用它，在森林里、在海边……元宇宙正在从想象变为现实。
如同信号弹，元宇宙激活各行业敏锐的触觉，很多企业争相布局新赛道。《消费元宇宙开启下一个消费时代》白皮书显示，截至2022年3月，全国“元宇宙”概念相关企业共计1532 家，其中2021年新成立的企业711家。普华永道预计，2030年元宇宙市场规模将达到1.5万亿美元；摩根士丹利预计，未来元宇宙潜在市场空间将超8万亿美元。元宇宙可以带动万亿级软件产业集群和数字经济创新发展，这已经成为业界人士的共识。上海更是国内首个将元宇宙写入“十四五”规划的城市，将其明确为四大“新赛道”之一，并着手培育发展相关产业。今年6月推出特色产业园区，7月发布《上海市培育“元宇宙”新赛道行动方案》。目前，在张江科学城内，一条以元宇宙生态为核心，“算、端、创、用”协同推进的“张江数链”已悄然形成。
全球人工智能发展呈现中美两国引领、主要国家激烈竞争的总体格局。在此次世界人工智能大会治理论坛上，中国科学技术信息研究所研制的《2021全球人工智能创新指数报告》显示，中国人工智能创新水平已经进入世界第一梯队，创新指数连续两年排名第二；总得分上，与美国的分差进一步缩减。中国科学技术信息研究所所长赵志耘表示，中国人工智能发展迅速，综合实力不断提升，表现为开源项目影响力明显提升。2021年，中国的人工智能开源代码量达到158项，相比2020年的139项有所增长。全球TOP500超算中心数量连年保持首位。
人工智能加速赋能实体经济。华为打造5G智慧煤矿，在晋能控股集团塔山煤矿，智能巡检机器人往来探视；腾讯与富驰高科合作AI质检项目，一年能为企业节省人力成本数千万元；果农可以通过网商银行“大山雀”卫星遥感风控技术，解析卫星图片并预测产量，从而很快获得贷款；微创图迈腔镜手术机器人连接横跨近5000公里的新疆克州和江苏南京，顺利完成了三例泌尿外科超远程手术，实现了迄今为止世界上最远距离的5G远程机器人手术……
上海期智研究院院长、图灵奖得主姚期智在本届人工智能大会接受采访时表示：“为了人工智能将来的发展，我们必须在基础研究上做大量工作。建设人工智能创新高地，就是要在制高点议题上，取得话语权。在关键技术上，中国即便现阶段相对不足，也要尽力追赶，争取早日进入世界前列。在新兴理论与技术方向，大家都在同一起跑线上，应该争取先机，和全球并跑。”
人工智能技术发展面临全方位挑战
人工智能已渗透我们日常生活的方方面面，其强大力量正在不断地改变与塑造着社会。我们在享受其便利的同时，也身不由己地被卷入技术的操控之中。人工智能技术的达摩克利斯之剑已隐现于我们的头顶。
我们在使用技术的同时，技术也在改变我们自身。我们习惯了GPS定位，方位感就可能退化；习惯了使用搜索引擎，记忆力就可能下降；习惯了信息的推送，视野和思维会越来越狭窄……法国哲学家贝尔纳·斯蒂格勒对此一针见血：“这种智能一旦变成了人工的，也会产生一种人工愚蠢：由此生成的人工制品，也就是药，就会导致退化和自毁。”对此，德国波恩大学教授马库斯·加布里尔认为，人工智能时代真正的危险是人类对于自我的误解和人类自由的丧失——逃避自我理解的难题，把自己的生活完全出让给一种订置状态。正如北京大学教授陈嘉映所强调：“我们更应该关心我们已有的东西，更恰当地理解我们已有的东西。比如，通过对人工智能的了解，更恰当地理解人类自己的智能。”也就是说，如果不对人工智能保持反思与警醒，人类会变得越来越适应机器，人性会越来越机器化。
人工智能给现实世界带来的安全挑战不容忽视，小至社会，大至国家关系。面对世界各主要经济体在人工智能领域竞争激烈的局面，华东师范大学教授潘斌在接受本报记者采访时表示：“基于算法垄断、数字特权与代码霸权的优势国家可能会无视求同存异、和睦共生的原则，反以人工智能为工具寻求支配地位与霸权统治，建立一个新的数字化殖民地与数字化帝国，这是人工智能所造就的新帝国主义，或者说人工智能进一步揭示了全球不平等问题。”中国社会科学院研究员赵汀阳抱持同样的看法，他撰文指出，技术的本质是能力，能力越大，其博弈均衡点就对技术掌权者越有利……给定人性不变，文明的人工智能化就非常可能导致文明的重新野蛮化。在这里，“野蛮化”是指社会关系恶化为强权，即真理的丛林状态。可见，不加规约的人工智能技术可能导致人类不平等的加剧。
伴随人工智能技术的增强，AIGC（人工智能自动生成内容）、自动驾驶事故频发、人脸识别泄露隐私安全、虚拟人引起职场焦虑、算法歧视、大数据杀熟、深度伪造……人工智能引发的科技伦理问题已引起全球关注，这也是人工智能行业目前面临的挑战。中国信息通信研究院院长余晓晖认为，人工智能产业进入了技术兑现、技术红利的关键阶段。若要实现全面推广，还面临着泛化能力、鲁棒性、安全性、准确性等方面不足，这也是当前释放人工智能潜力最大的痛点和难点之一。
面对当下人工智能产业面临的诸多问题与挑战，国家新一代人工智能治理专业委员会主任薛澜曾表示，如果人工智能的治理跟不上，不仅会给社会带来各种风险，而且会在一定程度上限制AI本身的发展。当前人工智能治理面临的最大挑战是我们没有相对成熟的系统来规制其潜在风险。
创造人工智能技术良性的未来
在人工智能的算力时代，无论是世界人工智能大会上展示的穿上就可以让摄像头视而不见的 “隐身衣”，还是在AISC首届人工智能安全大赛中亮相的只要贴在面部或者眼镜上就可以解锁人脸识别的“神奇贴纸”，都生动展示了深度学习算法的风险。欧洲立法强调，必须把AI的可解释性作为一个非常重要的标准，来衡量一些企业、机构、平台所提供的AI服务是否合理合法。
中国科学院院士、清华大学人工智能研究院院长张钹在机器人大会上指出，纯粹靠数据学习生成的人工智能不可解释，处于不可控状态，为了避免危险，需要发展安全、可靠、可信的智能机器人。我们提出的第三代人工智能就是要解决第二代人工智能算法不安全、不可靠、不可信、不可控的问题。第一代人工智能主要靠知识驱动，第二代人工智能主要靠数据驱动，这两个方法都有片面性，必须把这两个方法加起来，才有可能发展安全的、可靠、可信的智能机器人。
今年以来，新加坡、欧盟、美国、中国等的监管机构和第三方机构纷纷发布AI治理测试工具箱、技术监管沙箱，推进AI治理的落地实施。据不完全统计，目前全球已经发布了100多个人工智能伦理治理相关文件，各国政府、国际组织、学术界和产业界四方力量高度关注人工智能治理问题。
目前，我国虽尚未出台国家层面的人工智能专门立法或伦理指导意见，但9月6日深圳通过了《深圳经济特区人工智能产业促进条例》，上海也正在制定本市的人工智能产业促进条例。这两部地方性立法都将伦理原则内置于其中，创设了伦理委员会，引入了伦理风险评估、伦理审查、伦理安全标准管理、伦理指引和伦理教育等制度，追求向善的创新、以人为本的发展。
中国社会科学院研究员段伟文主张通过剖析算法认知过程与认知生态系统，对算法展开伦理与政治的审视。他在接受采访时表示，要打破技术解决主义与无摩擦的技术的隐蔽组合策略。一方面，面对智能科技的社会伦理风险，在寻求技术解决方案的同时，应立足技术社会系统等更为广阔的维度，追问和消除社会不公、认知权利不对称等深层次的肇因。另一方面，要充分揭示算法认知中经常运用的“无摩擦技术”和“技术无意识”等设计策略，使算法认知以及使其得以运作的力量得到应有的揭示，从而促进公众对科技的社会价值的理解，提升其对科技未来的想象力，使整个社会拥有面向深度智能化时代的生存智慧。
人工智能正在将人类带入智能时代，社会治理面临新的挑战。中国科学技术大学机器人实验室主任陈小平强调，随着人工智能技术应用越发广泛，人类社会进入了一个本质上全新的时代，传统的社会治理模式不再完全有效，必须发展新的社会治理模式。上海交通大学文科资深教授季卫东认为，在人工智能治理中，过分强调法治会对人工智能产业的发展、人工智能技术的探索造成一定限制，应平衡经济利益与治理的关系，在发展产业的同时保障权利、实现公平，不应顾此失彼。与经济利益相对的是现在比较缺乏的人工智能治理，为解决现实问题应特别强调个人权利、信息安全、隐私等，在我们评价维度中表现为公平正义及对政府行为的法律制约。
当前，我国以制造业为代表的实体经济正处于转型升级的关键节点，亟需通过人工智能赋能来突破传统生产方式的瓶颈、催生新兴产业、重构商业模式，以智能化转型为实体经济注入新动能。未来的人工智能必须是可控而有益的，我们不仅要用科技为人工智能装上价值“校准器”，同时，要拓展理论视野，创新智能时代的社会治理模式，构造人与智能机器协同演化、共同成长的社会生态系统，形成智能时代人机和谐的新型文明社会。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1823期第1版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
拓展阅读
治国理政 | 人工智能时代，推动数据治理
访谈 | 顾适：人工智能的悲剧是一个“猫语问题”