6月16日,以“数治安全 智理未来”为主题的2020西湖论剑·网络安全线上峰会(以下简称“峰会”)成功召开。会上,中国科学院院士冯登国就大数据环境下隐私保护与风险管控等问题进行系统化阐述。他认为:对于大数据环境下的隐私保护问题,只有相对隐私,没有绝对隐私。
冯登国,现任北京信息科学技术研究院院长,兼任西安电子科技大学网络与信息安全学院名誉院长,中国科学院软件所客座研究员、博士生导师,师从中国现代密码学宗师肖国镇教授。2019年11月22日,当选中国科学院院士。2000年至2012年曾担任信息安全国家重点实验室主任,国家计算机网络入侵防范中心主任,国家信息化专家咨询委员会委员。主要从事信息与网络安全方面的研究与开发工作。
01隐私保护面临的三个技术挑战
大数据时代,数据的高度共享与有效利用,和用户隐私保护、数据有效控制等安全需求之间存在着天然的矛盾。冯登国认为对隐私信息滥用等问题的根治,除了法规、政策的监管,还需要有可信赖的技术手段支持。
冯登国院士提出,隐私保护面临的三个技术挑战,分别是:用户身份匿名保护难,敏感信息保护难,和隐私信息安全管控难。
在大数据场景下,攻击者可以通过链接多个数据源发起身份重识别攻击,冯登国认为这将导致用户身份匿名保护更加困难。“由于用户日常活动具有较强规律性,攻击者可通过用户轨迹、行为分析等逆向分析出匿名用户的真实身份。”他说。
02差分隐私已经到了实用化的程度
为了应对这一挑战,冯登国提出可以用差分隐私的方法来解决。他解释道,差分隐私保护分为集中式和本地式。
如何精确生成私人地图?利用差分隐私将每个数据点微移一点(如红点)
在前一种模式(指集中式)中,用户数据被采集后集中进行随机化处理,即使攻击者已掌握除了攻击目标之外的其他信息,仍无法获得该攻击目标的确切信息。
在后一种模式(指本地式)中,用户数据会在本地随机化处理后再被采集,拥有任何背景知识的攻击者无法根据扰动后的单个用户数据来推测用户的原始数据。
冯登国介绍,2014年,谷歌在chrome浏览器中采用了本地差分隐私算法来收集用户的行为数据。2016年,苹果宣布开始在ios系统中对行为统计数据应用本地差分隐私算法。
相关知识
2016年6月,苹果公司在全球开发者大会上,首次提出了差分隐私技术(differential privacy),其作用能够通过密码学算法对用户的数据进行“加密”上传到苹果服务器。苹果可以通过这些“加密”过的数据计算出用户群体的行为模式,但是对每个用户个体的数据无法解析。
他表示,“这些都表明本地差分隐私技术已经到了实用化的程度“,但与此同时,他也提到,虽然本地差分隐私保护方法实现了数据的安全采集,但算法可用性仍有很大提升空间。
03机器学习的隐私保护方法及应对安全管控难的挑战
此外,在目前的大数据场景下,因为数据挖掘与深度学习等人工智能的方法被广泛利用,用户的敏感信息很容易被推测。比如,通过共同好友、弱链接来发现用户之间隐藏的社交联系;再比如,还可以通过用以往轨迹分析甚至是社交关系,来推测出用户可能出现的位置,透露用户的隐私等。
冯登国提出,针对机器学习的隐私保护方法,目前主要有两种,一种是支持差分隐私的机器学习算法,另一种就是同态加密的机器学习机制。
最后,关于隐私信息安全管控难的挑战,他还提出了密文检索与密文计算技术,和基于风险分析的访问控制技术。
关于西湖论剑·网络安全大会
6月16日,以“数治安全 智理未来”为主题的2020西湖论剑·网络安全线上峰会(以下简称“峰会”)成功召开,峰会将设立主论坛、分论坛、以及虚拟展厅等多个环节,共话网络安全最新议题,共推数字世界新时代。浙江省委常委、宣传部部长朱国贤出席峰会并讲话,浙江省委宣传部副部长、省委网信办主任朱重烈出席峰会并担任开幕主持。峰会将开展近70场专题报告,共话网络安全最新议题,共推数字世界新时代。
峰会上,中国工程院院士、之江实验室人工智能首席科学家潘云鹤,中国工程院院士、之江实验室网络安全首席科学家邬江兴,中国工程院院士陈纯,中国科学院院士冯登国分别就金融科技智能化、网络信息基础设施内生安全、时序大数据实时智能处理技术及网络安全应用、大数据环境下隐私保护与风险管控等问题进行系统化阐述。
据悉,峰会内容涵盖新基建、5g、区块链、工业互联网数据安全、金融科技安全、网络安全生态建设、网络信息安全服务等热点话题,并围绕人机交互、人工智能、智慧城市、量子计算和5g发展趋势展开深入探讨。
2020西湖论剑·网络安全线上峰会由浙江省互联网信息办公室、浙江省经济和信息化厅、浙江省公安厅、浙江省通信管理局、杭州市人民政府主办,之江实验室、浙江省网络空间安全协会、浙江省计算机信息系统安全协会、杭州安恒信息技术股份有限公司承办,杭州市公安局、杭州市滨江区人民政府等联合承办。
西湖论剑·网络安全大会自2012年创办以来,已成功举办了八届,目前已经成为中国网络安全大会的金名片。立足推动网络安全行业有序健康发展,共同分享成果观点、共同促进技术创新、共同参与网络治理、共同推进网络强国建设,其核心价值正逐步落地全国、赋能数字中国建设。