ChinaSoft 论坛巡礼 | 可信AI软件系统工程技术

nbsp; +

+

论坛巡礼

本文特别介绍将于11月25日举办的【可信AI软件系统工程】技术论坛。

论坛名称：可信AI软件系统工程技术

时间: 2022年11月25日下午13:30-17:30

论坛简介：

       当前，人工智能技术飞速发展，深刻地改变着人们的生产生活方式。据IDC 相关数据显示，2021年全球人工智能产业规模为3619亿美元，预计在2022年同比增长19.6%，达到4328亿美元，预计在2023年将超过5000亿美元。然而，随着人工智能应用的深入渗透，其带来的数据隐私、决策偏见、算法歧视、安全鲁棒等问题挑战着人们对人工智能的信任。因此，发展可信AI软件工程技术，推动AI可解释性、公平性、安全性、鲁棒性、隐私，是工业界和学术界的必由之路。本次论坛将邀请来自企业的业界专家以及来自高校的研究学者共同围绕这一话题进行专题报告和讨论，分享工业界和学术界研究与实践的最新发展，共同探讨未来的技术发展趋势。

日程安排

Schedule

彭鑫

复旦大学计算机科学技术学院副院长、教授、博士生导师。CCF软件工程专委会副主任、开源发展委员会常务委员，《Journalof Software: Evolution and Process》联合主编，《ACM Transactions on SoftwareEngineering and Methodology》等多个期刊编委。2016年获得NASAC青年软件创新奖。

   主要研究方向包括软件智能化开发与运维、人机物融合泛在计算、机器人软件工程等。研究工作获得ICSM 2011最佳论文奖、ACM SIGSOFT杰出论文奖（ASE 2018/2021、ICPC 2022）、IEEE TCSE杰出论文奖（ICSME 2018/2019/2020）、IEEE Transactions on Software Engineering年度最佳论文奖（2018）。

陈振宇

南京大学软件学院教授、博导

    主要从事智能软件工程的研究。慕测科技创始人、IEEE国际软件测试大赛发起人，江苏省计算机学会产业工委执行主任，苏宁易购独立董事。中国计算机学会杰出讲者，国家一流本科课程《软件测试》负责人。曾主持国家重点研发计划课题和国家自然科学基金重点项目各1项。部分研究成果已经在中船重工、航天科工、中国电科、国家电网、百度、阿里、腾讯、华为等知名企业转化，研究成果获2012年度江苏省科学技术奖一等奖、2015年湖北省科技进步奖一等奖、2017年CCFNASAC-东软青年软件创新奖、2021年中国电子学会科技进步奖一等奖和2021年江苏省教学成果奖特等奖。

潘青华

科大讯飞研究院副院长，AI工程院院长

    长期从事语音识别算法和深度学习框架及AI平台研发工作。先后获得2015北京市科技进步一等奖、2019年二十一届中国专利银奖，2021年二十二届中国专利金奖，先后主导科大讯飞语音识别引擎产品研发、语音转写技术孵化和讯飞听见实时转写产品落地、讯飞深度学习训练平台和私有化AI平台架构和研发工作，提出多项人工智能软件的创新架构和方案，在语音识别、深度学习等领域有经验丰富工程实践经验。

报告题目：

人工智能技术及应用发展趋势

报告摘要：

    近10年来，人工智能技术在深度学习算法基础上不断突破，既让人与机器的交互更高效更自然，也对社会生产生活的各行各业产生深刻影响，人工智能技术和应用还将持续快速发展，同时也面临很多挑战，其中包括算法的可解释性、鲁棒性、隐私保护等可信人工智能相关问题，本报告重点围绕科大讯飞在人工智能技术和应用中的实践、对可信人工智能的认识、对未来人工智能技术和应用趋势的判断，以及解决以上挑战的主要思路——构建 数据贯穿、人机协同、知识融入 的复杂智能系统方案。

陈恺

中国科学院信息工程研究所研究员，中国科学院大学教授/博士生导师，信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。

    主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、NDSS、ICSE、ASE等发表论文100余篇；曾主持国家自然科学基金（重点项目）等国家、部委课题40余项。担任S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家高层次人才计划领军人才、中国科学院青年科学家奖、CCF-IEEE CS青年科学家奖、北京市“杰出青年”基金、北京市智源青年科学家、CCF杰出演讲者、中国科学院青年创新促进会（优秀会员）等。

报告题目：

开放环境下的人工智能安全

报告摘要：

    报告将介绍开放环境下的人工智能安全问题，包括真实物理世界中的对抗样本、模型的精细化修复等问题。具体将介绍移动平台下的真实神经网络模型，目前学术界常用的模型和数据集多为MNIST、CIFAR-10等，在真实世界中的模型是否会有区别告中将详细介绍。针对这类问题，与传统修复方法不同，我们提出了“神经网络手术刀”，可定位出引发错误的神经元进行修复，将传统模型修复的“大手术”转变为“微创手术”。

马兴军

复旦大学青年研究员、博士生导师。墨尔本大学博士、墨尔本大学博士后、曾任职迪肯大学助理教授。国家级海外青年人才基金获得者，上海市领军人才获得者。

   主要研究领域为可信机器学习，重点关注机器学习算法与模型的安全性、鲁棒性、可解释性、隐私性、公平性和版权保护等。在国际会议，如NeurIPS、ICML、ICLR、S&P、CVPR、ICCV、AAAI等，发表学术论文30余篇，在个人数据保护方面的工作获得国际知名媒体MIT Technology Review的报道。曾获得SISAP’21最佳论文和SSDBM’21最佳论文第二名。现担任国际会议NeurIPS、ICML、ICLR、CVPR等程序委员会委员和国际期刊NC、TPAMI、TIP等审稿人。

报告题目：

DeepJudge: A Testing Framework for Copyright Protection of Deep Learning Models

报告摘要：

    深度学习模型的训练往往耗资巨大，需要大量的数据和计算资源。因此，如何有效的确保AI模型的版权不受侵犯变的极其重要。在这次讲座中，我将介绍几个我们在在这个方向上的一些探索，同时跟大家分享一下“什么样的版权保护方法更有前景”。我们的探索涵盖了图像和语音模型，通过使用一些列测试指标来验证一个“嫌疑模型”是否是“所有者模型”的简单复制，包括微调、剪枝、模型窃取、迁移学习（修改模型最后一层，然后微调）等。基于这些探索，我们深入的讨论和比较“侵入式”保护方法（如模型水印）和“非侵入式”保护方法（如模型指纹和相似度测试）的优缺点，并希望这些讨论可以帮助我们思考如何构建有效的深度学习模型版权保护方法。

冯洋

南京大学计算机科学与技术助理研究员

    研究方向为软件质量保障，具体研究课题包括复杂智能软件系统的质量保障技术，基于程序设计语言的软件质量保障等。近年来在软件工程领域的ICSE、FSE、ASE、ISSTA、TSE、TOSEM等CCF-A类期刊与会议发表学术论文20余篇，并于2022年ASE大会获ACM优秀论文奖。申请发明专利多项，部分专利成果已经在百度、阿里、华为等知名软件公司转化；担任多个期刊审稿人及国际会议程序委员会成员。

报告题目：

基于数据多样性分析的智能软件测试充分性度量

报告摘要：

    软件的测试充分性一直是评价与保障软件质量的关键性指标。然而，由于智能软件系统中的感知，决策等关键模块通常采用数据驱动的开发范式，其依赖于大量神经元及连接对海量数据信息进行学习，从而形成逻辑决策功能。该特性使得智能软件系统在各类功能上具有较好的性能，但却对其的测试充分性评估带来了较大的挑战。本报告主要介绍了一种面向智能软件的新型测试充分性评估指标。我们探索了一种与传统结构性神经元覆盖技术完全不同的方案。我们从数据多样性分析原理出发，将高维度的深度神经网络输出空间进行投影与划分，进而形成对智能软件输出域的可量化覆盖。该指标的运算无需对大量深度神经网络模型中的隐藏层进行插桩提取，从而具有较好的运算性能与可用性。我们在多个应用任务上对该指标进行了评估对比，发现该指标能够有效地评估智能软件测试集的多样性，并能够有效指导智能软件测试集的选择与用例生成等任务。

来源：pengxin_ce