ICS 33.050 CCS M 30 团体标 准 T/TAF 137—2022 基于差分隐私的用户个人信息保护技术要求 Technical requirements for Differential Privacy -based user personal information protection 2022-11-25发布 2022-11-25实施 电信终端产业协会 发布 T/TAF 137—2022 I 目 次 前言 ................................ ................................ ..................... II 引言 ................................ ................................ .................... III 1 范围 ................................ ................................ ..................... 1 2 规范性引用文件 ................................ ................................ ........... 1 3 术语和定义 ................................ ................................ ............... 1 4 缩略语 ................................ ................................ ................... 2 5 概述 ................................ ................................ ..................... 2 6 差分隐私能力要求 ................................ ................................ ......... 5 7 差分隐私保护分级 ................................ ................................ ......... 8 8 差分隐私保护效果评定 ................................ ................................ ..... 9 附录A（资料性）应用场景 ................................ ................................ .. 10 附录B（资料性）测试方法 ................................ ................................ .. 11 附录C（资料性）差分隐私算法安全验证信息清单 ................................ .............. 13 参考文献 ................................ ................................ .................. 15 T/TAF 137—2022 II 前 言 本文件按照 GB/T 1.1 —2020《标准化工作导则 第1部分：标准化文件的结构和起草规则》的规定 起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本文件由电信终端产业协会提出并归口。 本文件起草单位： 阿里巴巴 (中国)有限公司、 中国信息通信研究院、 蚂蚁科技集团股份有限公 司、 OPPO广东移动通信有限公司 、小米通讯技术有限公司 、北京快手科技有限公司 、北京三快在线科技有 限公司。 本文件主要起草人 ：黄天宁、 彭立、傅山、王嘉义、刘陶、 李世奇、刘巍然、冯翰文、昌文婷、 白晓媛、彭晋 、王俊、孟丹、付艳艳 、顾泽宇、 落红卫、王昕、黄坤。 T/TAF 137—2022 III 引 言 随着移动通信技术和人工智能技术的快速发展，移动互联网应用和 AI产品正逐渐渗透到人们的生 活当中，互联网数据引发的隐私泄漏、安全威胁等一系列个人信息安全问题成为各方关注的重点。同 时，《个人信息保护法》已于 2021年11月正式实施，对数据处理者的对个人数据的保护能力提出了 新的要求。近年来，为了让数据能够在最大化发挥价值的同时，防止个人信息的泄漏，信息安全从业 者从多种角度进行了多种探索。从目前发展现状和趋势来看，以差分隐私为代表的隐私计算技术成为 了实现这一突破的关键。世界经济论坛 2019年9月发布的白皮书认为，以差分隐私技术为代表的隐私 计算技术将成为释放行业新价值的突破口。 如何解决数据统计查询、数据采集等场景中的用户隐私泄露问题，同时保证数据的可用性，成为 了广大终端厂商、数据服务提供商以及互联网企业的重要工作。为解决这些问题，差分隐私技术应运 而生。该技术提供了一种严格、可证明的隐私保护手段，且其保护强度不依赖于攻击者所掌握的背景 知识。由于这些特点，差分隐私一经提出便得到了学术界和工业界的广泛认可和应用。 差分隐私是一种可以在保护个人数据本身不对外泄漏的前提下实现数据处理的个人信息保护技术。 差分隐私通过在数据中加入噪声，使得数据分析者很难判定某个个体数据是否存在于数据集中，从而 保护个人数据隐私。近几年，伴随着技术的不断成熟，国内外差分隐私产业化应用的步伐明显加快， 诸多数据安全企业、金融风控企业、电信企业等也纷纷拥抱差分隐私技术。作为缓解个人隐私泄露问 题、实现数据价值流通的关键技术，差分隐私技术未来的发展前景非常广阔。为了进一步地推动差分 隐私技术和产业发展，开展基于差分隐私的用户个人信息保护标准制定十分必要且急迫。 目前行业中尚未有从用户个人信息保护出发针对差分隐私技术的要求与测试评估方法，缺乏统一 的标准。基于上述考虑，提出本标准，旨在对使用了差分隐私技术进行用户个人信息保护提出技 术要 求，进一步促进产业的健康稳定发展。 T/TAF 137—2022 1 基于差分隐私的用户个人信息保护技术要求 1 范围 本文件规范了基于差分隐私的用户个人信息保护技术要求，包括差分隐私系统技术架构、差分隐 私能力要求、差分隐私保护分级 、差分隐私保护效果评定 。 本文件适用于应用在移动智能终端的差分隐私技术，也适用于评估机构基于本 文件开展差分隐私 产品保护个人信息的评估工作。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文 件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适 用于本文件。 GB/T 25069-2022 信息安全技术 术语 GB/T 35273 -2020 信息安全技术 个人信息安全规范 3 术语和定义 下列术语和定义适用于本文件。 3.1 差分隐私 differenti al privacy 一种个人信息的数据保护技术，通过随机响应或对原始数据加入噪声的方式，使得对数据集的计 算处理结果对于具体某个记录的变化是不敏感的，单个记录在或不在数据集中，对计算结果的影响微 乎其微，并能保护个人信息不被泄露。 注：差分隐私保护重在提供可度量的数据隐私保护方法。 3.2 隐私预算 privacy budget 衡量差分隐私保护效果的参数，在一定程度上给出了隐私保护效果的度量。 注：隐私预算越小，对数据的隐私保护程度越强，但是数据的可用性越差；隐私预算越大，数据的可用性越好， 但是隐私保护能力越差。 3.3 本地差分隐私 local differential privacy 不依赖于可信第三方，直接在终端进行数据的隐私化处理，处理后的数据满足差分隐私保护要求。 T/TAF 137—2022 2 3.4 中心化差分隐私 centralized differential privacy 将原始终端数据集中到一个可信第三方 ,由第三方对数据进行处理，处理后的数据满足差分隐私保 护要求。 3.5 编码器 encoder 智能终端上对原始个人信息进行编码、加噪等处理的组件。 3.6 数据管理器 data curator 对从智能终端接收到的数据进行解密、存储、聚合等操作，并根据查询请求进行数据处理和添加 噪声，对查询进行隐私预算管理，最终发布满足差分隐私要求结果的组件。 3.7 数据信道 data channel 实现数据在终端（编码器）、数据管理器和查询处理器之间流转的组件。 3.8 查询处理器 query processor 发起数据查询请求并接受结果的实体。 3.9 数据采集者 data collector 在过程中负责采集数据的实体，可以为数据管理