中国江苏网讯 如何保证人工智能的安全可控？什么是可信人工智能？12月3日，第二届江苏省人工智能大会开幕式在南京举行，会议聚集了省内外人工智能届的最强“智慧大脑”，省内外人工智能技术领域知名科学家瞄准人工智能技术和产业发展，分享最新技术、产品、应用和解决方案。

　　中国科学院院士何积丰教授带来主旨报告《可信人工智能》，他介绍，“可信”是计算机领域的一个概念，“可信”主要强调的是计算机系统和其处理过程的可预测性、可验证性。近年来，“可信”的概念也被引入到人工智能领域，许多国家或组织在制定人工智能发展指南时，都强调了“可信”的重要性。

　　在何积丰看来，人工智能的安全发展面临着“内忧外患”，对内要处理数据偏差、系统失误等情况，对外则要应对黑客攻击、场景受限等问题。他解释说，人工智能系统与传统的软件系统有很大区别，这使得其安全发展面临一系列新挑战。

　　例如，科学家训练人工智能算法时会设置奖励函数，以帮助算法学得更好。但在实践中，人工智能也闹出了不少笑话：一个机械手被要求把木块挪到桌子的指定地点，于是机械手学会了挪桌子；让程序学习检测皮肤癌，程序却发现恶性皮肤病变的照片里往往放着一把尺子，便以尺子来作为判断标准。

　　“奖励函数选择合理性在哪里？什么情况下可以扩展人工智能的功能和使用范围？怎么实现安全监管？”何积丰说，奖励函数的错误解读，就是人工智能“内忧”问题中的一个典型。“传统软件里面有目标系统，系统的可能行为一般是能够进行描述的。换句话说，用户有明确的要求，系统应该给我完成什么任务？但是机器学习的目标系统行为与样本选择有关，没办法验证，也没办法进行有效的分析。”

　　欧洲科学院外籍院士、南京大学人工智能学院院长周志华教授作主席报告《机器学习展望》，他为人工智能提出了“学件”的概念。“学件”类同于计算机的硬件、软件。人工智能最基本的支撑是机器学习，涉及算法复杂、数据隐私杂多。那怎么在技术分享的同时保护信息安全，这时候“学件”应运而生。“‘学件’只分享模型，不再分享数据，从根源上保护了信息的安全。提供的是模型和使用说明，使用者结合需求进行二次加工，就变成了自己的应用。”

　　对于“学件”的必要性，周志华举了“一把刀”的例子。“一把刀的制作厂商，不可能从头去打铁，而是把心思用到后面的环节。现在人工智能是搜集数据、管理数据以及算法训练模型全部都要从头开始，‘学件’正是解决了前方的许多技术难点，人工智能将和其他产业一样，只需要做自己最关注的事情。同时改进后的模型，更能够适应环境的变化。”周志华耐心的解释道。

　　对于“学件”的市场需求，周志华很有信心。“我们希望通过10—15年的研究，能够将‘学件’走向市场化。当信息安全，会有更多人愿意分享，从而会有专门的厂商做‘学件’。如果一款‘学件’被更多的用户用，用在更多的领域，这个‘学件’就会拥有更高的定价，‘学件’市场也会成为新的产业。”这一展望，已经在慢慢变为现实。据了解，这一概念在工业界很受欢迎，已经有许多公司“动起来”，为人工智能制起“净菜盘”。

　　会上，省人工智能产业发展联盟揭牌，并启动了“征图杯”校园机器视觉算法大赛和首届人工智能掼蛋算法大赛。不仅有大咖的前沿分享，各种AI“黑科技”来袭，一批优秀人工智能产品亮相大会。2018年江苏省人工智能学会开展首届《江苏省优秀人工智能产品》评选活动，活动评选出30项十佳优秀人工智能产品并编印《江苏省优秀人工智能产品及应用汇编》，受到业界广泛关注。今年，省人工智能学会继续组织开展第二届江苏省优秀人工智能产品和示范项目评选活动，入选的优秀产品在第二届江苏省人工智能大会颁奖晚会上公布并颁发获奖证书。此次评选活动对贯彻落实《江苏省新一代人工智能产业发展实施意见》，打造江苏省优秀人工智能产品“金名片”，推动人工智能高质量发展具有重要作用。此外，本次大会还将成为省内外人工智能园区、企业洞察先进技术、展现自身实力、招揽优秀人才、开放招商引智的契机，大会举办的3场同期活动包括校企人才对接、优秀AI产品展和颁奖晚会。秉承“智聚江苏脉动全球”的宗旨，本届大会将助力推动江苏加快成为国际一流、国内领先的人工智能科技创新中心和产业创新高地。

　　记者张宣