• 移动端
    访问手机端
    官微
    访问官微

    搜索
    取消
    温馨提示:
    敬爱的用户,您的浏览器版本过低,会导致页面浏览异常,建议您升级浏览器版本或更换其他浏览器打开。

    李闯:苹果照片审查中的神奇密码学 及在金融领域应用的探讨

    李闯 来源:中国电子银行网 2021-08-23 16:00:14 苹果 密码学 李闯
    李闯     来源:中国电子银行网     2021-08-23 16:00:14

    核心提示本文从技术的角度分析苹果公司对隐私保护的保证,介绍其中的关键技术原理,并探讨我国金融领域相似创新的可能。

    作者:中国金融认证中心(CFCA)技术专家 李闯

    美国苹果于8月5号表示,将在iOS 15中添加新功能检测手机上iCloud 和iMessages照片中的儿童性虐待内容,并防止儿童收到色情图片。此举得到了儿童保护组织的赞扬,也引发不利于隐私保护的争议。本文从技术的角度分析苹果公司对隐私保护的保证,介绍其中的关键技术原理,并探讨我国金融领域相似创新的可能。

    1 如何审查照片同时保护隐私

    首先回答人们关心的问题:苹果公司一直以个人隐私捍卫者自居,也被很多人认为是业界的典范,那么审查照片时怎么能保证个人隐私不受侵犯呢?这在技术上主要有两个关键点:NeuralHash和PSI(隐私集合求交),NeuralHash技术将手机上的每张照片转换为hash数据,然后由PSI技术查询hash数据是否包含在服务器上的违法图片数据库中。NeuralHash保证了查询的仅仅是不可逆的hash数据,不会泄露照片的任何的信息,而PSI保证了如果你的手机中没有违法图片,服务器端连照片的hash数据都无法知道。

    普通用户没有交集,此时PSI技术保证了服务器无法得知任何信息

    可以简单通俗的理解为,如果审查照片的功能是必须的,那么苹果确实已经在技术上做到了最大的努力保护个人隐私,使用了机器学习和密码学中非常前沿的技术,在一定程度上也可以做到自证清白,普通用户无须担心照片信息泄露或者给自家孩子拍摄的照片触发误报问题。至于审查本身的法律社会伦理,有技术保证就可以随便审查吗?技术保证弱一些可以审查吗?这些问题不在本文探讨范围内。

    2 神奇的PSI密码技术

    这不是两个神经病,这可能是两个密码学专家

    可能对于很多人来说Hash数据不泄露信息容易理解,但是查询时连hash数据本身都不透露给对方怎么可能实现呢?而这正是密码学的神奇之处,也是近年来火热的多方安全计算领域中的一个密码协议— Private Set Intersection私密集合求交,简称PSI。要理解这个技术,不妨假设一个更加简单的场景:国际刑警怀疑一家即将起飞的飞机上有恐怖分子,但航空公司不希望透露所有乘客名单给国际警方,警方也不可能将恐怖分子名单给航空公司,此时他们就需要PSI技术,经过协议操作后,国际刑警可获得信息“飞机上有无恐怖分子,是谁?”并无法获得其他乘客信息,而航空公司无法获得任何信息。

    PSI协议的关键是需要一个叠加加密可以满足交换律的加密算法,不妨设为ENC(),国际刑警为客户端c,航空公司为服务器端s,那么对于明文m的叠加加密,加密顺序无关,c和s代表各自的密钥,即:。所以对于此叠加加密结果,使用自己密钥解密会得到使用对方密钥的加密结果。协议的简略操作过程如下:

    1、国际刑警将怀疑的恐怖分子名单逐一加密即发送给航空公司;

    2、航空公司返回叠加加密即,同时还返回乘客名单的逐一加密结果即

    3、国际刑警对叠加加密进行解密得到,此时只需要对比中是否有重合,即可判断出有无恐怖分子,如果有也可以发现是谁。

    可以看出,在以上操作步骤中,国际刑警只能获取恐怖分子名单和乘客名单交集部分的信息,而航空公司无法得到有效信息,完美的实现了反恐任务同时保护了警方的机密信息和乘客隐私。

    在苹果照片审查的PSI密码协议应用中,苹果服务器扮演的就是国际刑警的角色,用户的手机则是航空公司的角色,违法照片就是“恐怖分子”,当然了,苹果照片审查的实际场景要复杂的多,其中还涉及到了门限密码、交集阈值、模糊阈值、用户凭证等复杂的密码技术,限于篇幅以后有机会笔者再详细介绍,感兴趣的读者可参考苹果官方介绍论文《The Apple PSI System》https://www.apple.com/child-safety/pdf/Apple_PSI_System_Security_Protocol_and_Analysis.pdf 值得一提的是,苹果本次照片审查PSI系统的设计者之一是大名鼎鼎的Dan Boneh教授--基于椭圆曲线双线性对标识密码算法的发明者,我国的SM9算法也是基于他的发明基础上设计的。

    2.1 NeuralHash技术

    为了方便读者理解,我们也简单介绍一下NeuralHash技术,其作用是将照片转换为96bit长度的hash数据,数据转换为hash后不可恢复,那为什么不直接使用常见的md5、sha1、sha256这些算法呢?这是因为手机上的图片经常会经过压缩、调色、裁剪等处理,对于人类的眼睛来说处理后的照片仍然是同一张,但照片数据已经改变,传统的hash算法对于这些照片将得到不一样的hash数据。

    一张照片调色后NeuralHash相同,不同图片NeuralHash不同

    苹果的NeuralHash是使用深度的人工神经网络 (MobilenetV3) 训练的模型,其对于同一张照片的压缩、调色、裁剪后的各种版本都将生成一样的hash数据, 苹果对这项技术很有信心,表示其只有万亿分之一的误报率,目前已经有爱好者将其逆向出来,有大量的测试表明其表现可能不如苹果宣称的那么好,不过苹果认为系统中有多处容错设计和人工审核,用户不必担心。

    3 如何应用在金融领域内

    据笔者所知,苹果的照片审查应该是工业界第一次大规模的应用PSI密码技术,不得不佩服其对前沿技术的热心和勇气,而在我国工业界,基本上前沿密码学的落地以金融领域为主,如果国产SM系列的密码算法和相关协议,目前已经在金融领域系统中普及,是非常成功的案例。其实PSI在金融领域也有很多应用场景,下面抛砖引玉举几个具体案例,欢迎大家共同研究讨论。

    1、银行同业的名单查询:比如怀疑高价值的VIP用户中有欺诈、洗钱嫌疑,高价值资产重复抵押,统一用户短时间重复贷款等场景中,既可以对嫌疑的资产名单、用户名单使用PSI协议查询,这样互为竞争对手的银行不透露自身的商业机密和客户隐私,找出不合规、高风险的资产或用户,尤其适合在中国常见区块链形式“联盟链”中的名单信息查询。

    PSI技术可以让银行在竞争对手间查询名单,不泄露商业机密和个人隐私

    2、第三方名单查询服务:很多金融业务中常常涉及到名单查询服务,如电信欺诈黑名单、征信名单查询、授信资产查询等,有些时候银行可能需要查询名单却不希望数据的服务商获知查询内容,数据服务商也不希望银行获得所有名单数据,此时使用PSI技术的第三方数据服务就有了用武之地。

    PSI技术可以让银行查询第三方数据服务,不泄露查询内容

    3、反电信欺诈:除了上述第二点中银行可以在转账交易时查询收款人黑名单进行交易反欺诈判断,如果由电信运营商、IM服务商或者政府主导的“全民反诈App”参与进来,可以在不侵犯用户个人隐私的情况下判断用户是否和诈骗嫌疑人发生联系,筛出用户近期的高风险联系活动,同时用户不需要暴露正常的联系信息。

    总的来说,PSI是一个可以不泄露集合内容即可查询集合交集的密码技术,尤其适用于名单查询类业务,在金融、医疗、国际合作等领域有很多适用的场景,值得一提的是在当下疫情形势中,PSI非常适合处理高风险地行程、密接人分析这些任务。然而比较遗憾的是在我国这类技术还没有得到较好的应用,希望本次苹果照片审查的技术架构能给我们带来一些启示和促进,加快前沿密码技术的创新和落地进程。

    责任编辑:王超

    免责声明:

    中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。

    为你推荐

    猜你喜欢

    收藏成功

    确定