“当今世界以人工智能、大数据为代表的现代信息技术与人类生产和生活高度融合，全球数据爆发式增长、海量聚集，大数据发展日新月异，对经济社会发展产生了深远的影响。与此同时，以人工智能、大数据为代表的新型数据安全风险日益凸显，特别是侵害消费者隐私和侵害消费者利益的事件以及网络诈骗，网络黑产、灰产出现了新的情况，给公民的财产和信息安全带来了严重威胁。”在近日举行的２０１９中国互联网ＡＩ隐私保护论坛上，中国信息通信研究院副院长、中国互联网协会副秘书长何桂立说。 

如何找寻ＡＩ时代隐私保护、政府监管、商业诉求的平衡点已经成为学界和业界迫切需要探讨的问题。

ＡＩ新产品新业态层出不穷　隐私保护提上日程 

近年来，随着大数据、边缘计算、深度学习等ＡＩ各相关领域技术的巨大进步，人工智能产业的应用迎来了新的机遇，自动驾驶、智能服务机器人、智能安防等人工智能新产品新业态层出不穷。 

人工智能注定不是一场零和游戏，开放共融将成为大势所趋。在此过程中，高度依赖于海量用户数据的训练分析式人工智能算法，也加大了用户个人信息泄露的风险。 

鉴于此，２０１７年６月１日起施行的《中华人民共和国网络安全法》在法律层面规定了个人信息保护的基本原则；今年５月，国家互联网信息办公室发布《数据安全管理办法（征求意见稿）》，７月，工业和信息化部印发《电信和互联网行业提升网络数据安全保护能力专项行动方案》。 

中国保密协会隐私保护专委会副主任杜跃进表示，由于产品和服务是全球化的，企业不仅需要遵从与用户数据隐私相关的各国的法律法规，还将面临着技术架构、本地化运营等多项挑战。 

中国网络安全审查技术与认证中心体系与服务认证部主任张剑认为，数据本身有控制者、使用者、加工者和处置者，这些往往不在一个主体上。“数据安全最核心的精神是如何为社会负责、为用户负责。”    

据悉，在此次论坛上，中国信息通信研究院联合中国互联网协会、电信终端产业协会、小米、ＯＰＰＯ、ｖｉｖｏ、华为、联想、中兴、魅族、努比亚、三星等，在来自终端厂商、互联网企业、安全企业、科研院所共４００余人的见证下共同发布了移动智能设备标识公共服务平台，旨在解决移动互联网环境下涉及个人隐私的设备标识滥用问题，在商业价值和隐私保护合规中找到平衡。 

移动安全联盟秘书长杨正军表示，ＡＩｏＴ时代，共建智能设备标识体系意义重大。就补充设备标识体系的意义而言，在商业价值方面，新的标识体系将帮助公司提升识别精准度，降低伪造设备标识带来的损失；在合规价值方面，满足各国隐私相关法律、法规、标准要求，如ＧＤＰＲ、信安标委相关国家标准等法规和标准；在社会价值方面，可用于网信、质检、海关、工商等部门打击灰黑产、走私、山寨等违法行为。 

下一步，中国信通院将推进更多的设备生产厂商支持移动智能终端补充设备标识体系，移动安全联盟将每个设备厂商的商业化标识接口进行统一集成，开放给互联网公司进行技术输出，确保互联网商业营销正常有序。 

“除了对个人数据和重要数据的保护，数据质量、数据完整性都可能对数据算法以及数据学习的模型造成影响。人工智能算法不可避免地要体现设计者与执行者的利益和价值取向。由于算法的不透明和难以理解，有时候很难看出其中的歧视和不公。其实，人工智能也会面临算法歧视问题，尤其是机器学习下的算法歧视。比如在安防、信用征信以及社会招聘过程中都会存在这样的问题。”德勤中国科技风险及网络安全领导合伙人薛梓源表示。比如，２０１４年微软的小冰被微信封杀２４天之后机器就会爆出粗口，同时聊天机器人也带来了大数据的杀熟现象。 

为此，德勤建议，人工智能的发展，要保证数据安全、算法透明，加强ＡＩ培训，确保人工智能发展要有稳健的风险管理机制、多样性测试和审核的流程，并及时对产品产生的错误算法、伦理问题、算法和产权问题、算法和责任问题等进行测试和规范。 

挺过“黑暗”人工智能产业“黎明”将至 

正如设备标识的使用，在监管层面还是在商业化层面均是不可或缺的部分一样，对于绝大多数从事人工智能的企业来说，许多问题都游离于进退两难的边缘。一边是用户对ＡＩ的发展要以牺牲自身隐私为代价的担心；一边又是企业由隐私监管高压下带来的商业化受挫和技术创新方面的冲击。 

百度安全总经理马杰认为，“现在的时刻是最糟糕的时刻，就像黎明前黑暗的时刻。由于用户和厂家之间没有建立起信任，才导致了黑色产业链的产生。尽管ＡＩ存在着一定的数据安全问题，我相信只要给产业留出一定的时间，黎明就会到来。”马杰说。 

同时，马杰也坦言，在前期规范的过程中，如果没有统一的治理方法，市场上将会出现劣币驱逐良币的现象。 

维沃移动通信有限公司ＣＳＯ／首席安全专家鲁京辉则表现得比较冷静，他表示，对于从业者而言，应该从两个方面着手：一是如何真正认识数据的价值，并在有效的利用数据价值的基础上去保护用户的隐私。二是在企业承担责任的同时，社会层面上要形成一个机制保障和文化氛围，不要让劣币驱逐良币的现象出现。 

鲁京辉表示，隐私保护应该是一个技术＋管理＋流程＋法规＋落地完整的生态。“数据本身是无罪的，有罪的是使用数据的这些控制者、处理者。企业在做数据合规性的过程中不可避免地会感觉到镇痛，但我们更愿意以积极的态度去面对。”鲁京辉说。 

如何平衡商业与用户隐私的关系？作为第三方监管者的何桂立从三方面提出了自己的建议：一是深耕终端设备领域，在５Ｇ＋ＡＩ的大背景下，面向泛智能终端，集中攻关突破技术难点，推进隐私保护安全防护能力；二是建设服务平台，促进新一代人工智能产业发展，平衡隐私保护和商业化的冲突，为中小企业发展提供更多的公共服务；三是促进产业交流，积极推动国内外政产学研用各界的交流合作，提升我国隐私保护在学术、政策、产业等方面的全球影响力。

摘自《中国高新技术产业导报》