【重磅】你的企业真的会“负责任”的使用人脸识别技术吗？ 暨WEF《负责任地限制人脸识别使用的框架》中译本发布

文/ 林鑫 王捷

编辑/王捷 资深出海法律顾问

WEF《负责任地限制人脸识别使用的框架》中译本由网络法实务圈 * 出海互联网法律观察 公益翻译小组出品。

出海企业敲黑板啦——你真的会“负责任”的使用人脸识别技术吗？

一、人脸识别技术背景知多D

1、国内人脸识别技术背景

人脸识别技术作为一项技术被深层应用并融合于各类技术中，随着近10年我国互联网爆发式发展增长，人脸识别技术会不断在已有的业务软件体系上做“加持”，目前它并不独立进行应用（独立的设计应用层），例如客户的人脸密码解锁就是在原本的密码层上进一步加密。目前国内人脸识别技术基本集中于安防与智能手机开发应用，企业于风险层面及属于控制者也属于制造者。

2、WEF《负责任地限制人脸识别使用的框架》

2020年3月2日，世界经济论坛简称“WEF”，颁布了《人脸识别用例的责任限制框架——流程管理》（A Frameworkfor Responsible Limits on Facial Recognition Use Case：FlowManagement）。该白皮书指出人脸识别逐渐作为当今最强大的生物识别技术之一，人们对该技术于伦理道德以及隐私方面的担忧开始增加，故势必需要监管，而人脸识别依托大量数据底层的计算，最终又以终端用户以及产品、服务的方式体现，因此实践中如何确保负责任地使用人脸识别技术并给予确切的指导尤为关键。该白皮书从企业组织如何负责任地使用人脸识别监管框架和流程管理政策试点展开分析，提出了相关重要行动原则。

二、监管框架的设计思路是怎么样的？

监管框架主要围绕四个步骤进行设计:

1. 定义：通过起草一套行动原则来定义什么构成对面部识别负责任的使用（下文会提及具体的行动原则）。

2. 设计：通过设计一套最佳实践来支持这些原则的应用，以支持产品团队开发“由设计负责”的系统。

3. 评估问卷：通过一份拟定的评估问卷来评估人脸识别系统负责任的程度，是否符合要求，其中描述了每个使用案例（use case）应该遵守的行动原则。

4.  验证：通过可信任的第三方设计审核框架来验证是否符合行动原则。

通过上面的四个步骤，在帮助企业反映流程管理使用案例负责任的系统设计的同时，也帮助确保系统的设计者和用户可以有效地遵循这些原则。同时，使用这些案例可以进一步检验人脸识别框架的合理性和相关风险。使用案例的具体应用场景包括：准入系统、公共场所的安全和安保、市场营销和客户服务以及医疗保健服务。

三、监管框架包括哪些行动原则？

  框架原则很大程度上参考了GDPR，根据其原则为基础最大限度地确保人脸识别在限度范围内减少使用风险，其具有以下主要几项原则：

• 避免偏见和歧视原则；

• 人脸识别系统的合理化使用原则；

• 隐私在产品中的设计方向原则；

• 问责原则；

• 风险评估及审核；

• 系统准确性性能的标准；

• 信息知情原则；

• 明确通知同意原则；

• 可识别性和儿童权利；

• 替代选择和人为干预； 

  
  

四、中国企业出海如何有效适用？

WEF（世界经济论坛）旨在研究和探讨世界经济领域存在的问题，促进国际经济合作与交流，致力于通过公私合作改善世界状况。

因此，本白皮书也旨在建立一种指导人脸识别系统设计和使用的指导方针，除了终端用户在适用人脸识别系统时，预防潜在网络攻击方面也应重视。

那么，对于将人脸识别技术加持的终端产品与企业在出海时，应该怎么把框架提及的行动原则应用到实际行动中呢？

根据白皮书的内容，建议出海企业应对其人脸识别系统：

1. 进行全面的风险评估：包括对产品隐私性设计、出口目的地的歧视和偏见、产品信息的知情原则、黑客和网络攻击漏洞、决策透明度以及对当地公民民主自由权利侵犯的可能性。

2. 充分参与内部审查问责和第三方审计：在产品设计时就进行内部审查的介入，对于任何人脸识别重大责任的决策，都应需要进行人工全流程的监督；

3. 人为介入以解决异常和意外错误：在全自动系统中，应始终遵守替代选择和人工干预原则，系统中应时常设置人脸识别替代方案，以保证能在紧急情况突发时及时切换。

4. 保障用户权利，限制政府权限：终端用户应具备拥有访问其生物数据的权限，同时限制政府及公共部门访问的权利。在任何情况下，当数据主体注册使用人脸识别服务时，他们都应有权决定相关数据保留的期限。

5. 向政策试点的监管机构报告：对人脸识别应用进行部署的组织应当与其管辖范围内的监管机构取得联系并报告。

6.  遵守当地国家的监管规定：人脸识别的使用场景必须确保遵循相关国家和地区的法律，例如，非常建议有意向开展人工智能监管政策试点的机构提前通知相关数据保护部门等。

【特别鸣谢】：

再次衷心感谢出海互联网法律观察公益翻译组的每位成员的辛勤劳动——（按照姓名拼音，排名不分先后）

林 鑫  网络数据中心公司 法律顾问 系统集成网络、数据中心、大数据与人工智能等通信研究法律合规方向

卢菱梓  广东海洋大学 法政学院

沈 燚  上海财经大学 法学院

王湄怡  广东海洋大学 法政学院

王晓慧  执业律师 电子认证与法律服务解决方案方向

王 捷  浙江垦丁律师事务所 个人信息与数据安全合规/资深出海法律顾问（广州）

魏 彤 浙江垦丁律师事务所 数据合规顾问（北京）

姚聪慧  某上海德资律师事务所律师 知识产权与食品合规方向 

我们欢迎更多的朋友加入公益志愿者行列，共同检索、解读及整理前沿的海外互联网法律信息，更好地打造职业品牌影响力——（入群请务必备注姓名+地区+工作职务+特长）

以下为WEF《负责任地限制人脸识别使用的框架》中译本部分内容截图：

更多出海互联网实务交流信息，欢迎扫码入群

更多出海法律观察信息，请关注公众号——

出海互联网法律观察

更多网络法实务交流信息，请关注公众号——

网络法实务圈

需要获得WEF《负责任地限制人脸识别使用的框架》中译本，请关注公众号并在后台留言“负责任人脸识别”。

需要获得WEF《负责任地限制人脸识别使用的框架》英语原版全文的朋友，请关注公众号并在后台留言“WEF Framework”。