中国科学报
作者很懒,什么都没留下

14

文章/篇

11.7万

阅读/次

拜访信息

为了给您提供更快更好的服务,在获取作者联系方式前,想对您有个简单了解. 邀请您填写如下信息

提交成功

非常感谢您的配合,我们的作者会尽快通过您的微信,
请耐心等待~

微信号

15701235851

人工智能和隐私安全不可兼得?

中国科学报
2019-06-21 · 17:04
[ 亿欧导读 ] 在人们越来越看重个人隐私和信息安全的当下,人工智能技术是把双刃剑。如何让人工智能在保障用户隐私安全的轨道上有序发展,正成为国内外共同关注的焦点和难点。
,人工智能,隐私安全,人脸识别,区块链,大数据

文章来源于:中国科学报

【编者按】人工智能的技术已被普遍认可,但如何让人工智能更好地保障个人隐私和信息安全成为世界各国关注的焦点。事实上,人工智能和隐私安全真的不可兼得吗?

本文转自中国科学报,经亿欧转载,仅供行业人士参考。


在人们越来越看重个人隐私和信息安全的当下,人工智能技术是把双刃剑。如何让人工智能在保障用户隐私安全的轨道上有序发展,正成为国内外共同关注的焦点和难点。

5月16日,美国旧金山市政府通过《停止秘密监察条例》法案,禁止旧金山的政府机构使用人脸识别技术,并将"靠人脸识别技术获得某些信息"列为违法行为。这无疑是一种隐私保护的措施,但也引起诸多争议。

国内某著名计算机视觉创业公司一位要求匿名的副总裁在接受《中国科学报》采访时反问:"旧金山已经不再是一座能让人感到安全的城市,人脸识别作为提高安全系数的基础工具,反而禁止使用,不知道什么技术手段可以保证安全?"

人工智能和隐私安全不可兼得?

有意思的是,最近亚马逊公司的股东以压倒性多数票,否决了该公司停止向政府机构出售其人脸识别技术的一项提议,只有2.4%的股东投票赞成这项禁令。

"这两件事情放在一起看非常有意思。"上述副总裁说,这说明围绕个人隐私、群体安全问题,对于人脸识别技术的使用需要一个平衡。"这个平衡,就是一个好的规则规范——不仅要去规范人脸识别技术企业,还要去规范使用这些技术的机构。"

实际上,人脸识别技术所创造的价值是被认可的。该副总裁认为,假使只是因为不确定使用人脸识别技术能够带来什么后果就直接禁用,那么这只能是一种短视或者短期行为。

"在满足某些条件的情况下,这种技术当然是可以应用的。"他说道,"作为发明和使用新技术的人,都要去认真思考这些问题,并且一起努力促使新规范的形成,而不是直接禁止掉。"

随着大数据的使用、算力的提高和算法的突破,人工智能正变得无处不在。由此带来的问题是,人们一方面享受人工智能带来的"红利",另一方面则面临隐私被当做"资源"过度和非法使用的困境。如何应对人们隐私"裸奔"的挑战变得越发严峻。

技术手段:区块链技术被派上场

以"人工智能+医疗"为例,人工智能技术在医疗健康领域的应用潜力巨大,但也面临着数据的问题——用以训练人工智能模型的大量医学数据,可能是图像、基因组、电子健康记录等这些非常敏感的信息。

基于医院的数据进行训练的人工智能算法有望获得诊断、预防疾病和甚至治疗疾病的能力。但在许多国家,由于法律原因,医疗记录无法轻易共享并提供给算法。这使得利用人工智能在医学图像或数据中发现疾病的研究通常只能涉及相对较小的数据集,极大地制约了技术应用前景。

美国加州大学伯克利分校一家创业公司"绿洲实验室"(Oasis Labs),致力于探索利用云计算和区块链等技术确保用于研究的医疗数据等信息不被泄露或滥用。目前,斯坦福大学医学院已经批准绿洲实验室与相关的研究人员一道在该院开展实验,测试他们的技术对解决上述两难问题是否有效果。

绿洲实验室首先将患者的个人数据存储在一款合作设计的安全芯片上,并保存在云端。外部人员——希望以数据集训练算法的工程师们,可以在该系统(安全芯片+云端)下,利用数据运行算法并输出结果。该系统也会在接收到数据访问请求时,触发基于区块链的软件上的智能合约系统,智能合约不仅会记录数据的使用方式,还能检查机器学习计算是否被正确执行。

绿洲实验室联合创始人兼加州大学伯克利分校教授Dawn Song介绍说,该技术还可以推及人工智能在其他领域的应用,例如财务记录、个人购买习惯或网页浏览数据。不过他表示,在探索其他领域之前,他们的计划是先推动此技术在医疗领域的应用。

尽管绿洲实验室的技术探索展现出了潜力,但美国弗吉尼亚大学专门研究机器学习与安全问题的专家埃文斯仍持保守态度。他指出,在安全硬件中存储数据也有失败的风险。一旦硬件制造方遭遇攻击,它所处理的数据就会面临风险。并且,现在也没有证据证明,区块链一定就是可靠的技术。

立法约束:让合规应用有章可循

在没有好的技术措施解决问题之前,使用法规法律保护隐私和个人信息安全,是全球通用的做法。

2018年5月,欧盟颁布的被称为"史上最严"的《通用数据保护条例》(GDPR),就对企业获取及使用数据的方式进行了严格的限定。GDPR要求经营者告知并获得客户同意才可记录用户搜索等记录,且不能使用模糊、冗长的语言政策来获取用户数据使用许可等。并且,GDPR对违法企业的惩处力度也是空前的。

中国科学院自动化研究所研究员曾毅认为,GDPR值得我国借鉴。虽然GDPR在实施初期,遭到很多企业质疑且难以推行,但随着企业接受并按要求落实,他们将得到更多用户的认可和信任。

曾毅告诉《中国科学报》,如果人工智能系统不能尽力确保个人数据的安全性,不但无法赢得用户信赖,而且将触犯相关法律。人工智能的研发者、服务提供者、使用者都应充分了解有关个人数据安全的行业共识、规范、管理办法、法律,以促进人工智能的健康发展。

"加快立法的同时,还应考虑我国国情,保护人工智能的发展'土壤'。"国内智能设备体系安全服务提供商同余科技创始人袁开国对《中国科学报》举例说,比如要明确数据的所有权属于用户,企业不能非法使用、兜售用户数据;但如果企业是为了更好地服务用户,在经过用户授权允许下,可以对用户数据进行深层次分析,明确数据的使用权。

"隐私保护是对公民基本人权的保护,也影响着国民经济的发展。"中国社会科学院哲学研究所研究员、北京协和医学院生命伦理学研究中心学术委员会主任邱仁宗在接受《中国科学报》采访时表示,随着技术的发展,人们的各种信息可以被轻易获取。

"我反对这种未经授权的'人肉搜索'。"邱仁宗表示,应该认真研究GDPR,开展由人工智能专家、伦理学家、公众代表、监管人员参与的个人数据保护研讨会,尽快制定我国的专门法律法规。

本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

广告

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部