学术瞭望

　　建立国家级的智慧社会安全试验区，秉轴持钧，以一持万，全面深入地检测、评估人工智能产品的综合风险，杜绝有安全隐患的产品进入社会。

　　由于人工智能风险的系统性与复杂性等特点，厂商在制造过程中仅能排除部分技术风险，推广上市前的应用试验是发现系统性安全风险并排除风险的关键环节，是人工智能安全风险管控的重要手段。安全试验的质量高低直接影响着安全风险的管控效果。建议国家在安全可控的范围内，从规模性、综合性、配套性三个方面入手建立若干智慧社会安全试验区，由国家来统一管理试验的内容、方式与标准，任何人工智能产品需通过试验区的安全运转试验后方能获得国家许可投入市场。

　　试验区的规模性，是指只有具备相当规模的试验区才能较好地反映真实世界的复杂性与不确定性，包括有一定的人口与经济规模、恰当分布的人口与经济结构、多样性的人文与地理环境、四季分明的气候、各类生产与生活场景、较丰富的交通种类等。试验区的综合性，是指协调政府、部队、企业、行业组织、民众等各方力量，组建由技术、管理、经济、法律、教育、社会、人口、军事等领域专家构成的专家组从各个角度对试验区内人工智能进行综合试验与观察研讨。试验区的配套性，是指在现实场景中开展试验需要体制机制等多方面的配套性支持，包括法律、法规等制度的允许，政府特殊治理方式的授权，参与企业、居民的配合，政府、企业与保险公司的综合经济保障，试验区安全出现问题后的处置机制，等等。 毛子骏 黄膺旭