欢迎关注“创事记”的微信订阅号：sinachuangshiji 文/心缘 编辑 | 漠影 来源：智东西
AI这把双刃剑，向善还是向恶？
2020年已经完结撒花，这一年，人工智能（AI）领域可谓是一波未平一波又起，始终占据着人们关注的话题中心。
无论是美国限制AI软件出口禁令生效，还是各种争议不休的数据乱象、AI算法偏见和AI应用泛滥等问题，都在持续牵扯着人们因疫情折磨已然脆弱不堪的神经。
自然换脸、去马赛克、预测大选、下棋无敌……当AI开始展露过人的能力，如何保证科技至善而不会向恶蔓延？当AI持续深入更多产业和生活，如何保证算法不会被数据偏差所左右？
回顾2020年AI圈十大热议焦点，或许能为AI接下来的发展方向提供些许的借鉴意义。
01、
限制AI出口：中美新规均限制AI技术出口
人工智能“出息”了！2020年才一开年，特朗普政府就颁布新规，要限制人工智能软件的出口，而在去年，出口管制还主要是半导体等关键领域的软硬件技术才享有的封锁“待遇”。
新规规定，从美国出口特定类型地理空间影像软件的公司必须申请许可，才能出口至海外。无论智能化传感器、无人机以及其他自动化设备的目标识别软件，都将受到管制。  ▲美国新规限制地理空间图像AI软件出口
8月28日，中国商务部、科技部调整发布了最新版的《中国禁止出口限制出口技术目录》，新增语音合成技术、人工智能交互界面技术、语音评测技术、智能阅卷技术、基于数据分析的个性化信息推送服务技术等AI相关技术条款。
也就是说，这些技术凡涉及向境外转移，均需到省级商务主管部门申请技术出口许可，获得批准后方可出口。  ▲《中国禁止出口限制出口技术目录》部分调整内容
02、
数据黑产：泄露损害大，售卖不值钱
2020年7月17日，在延迟123天播出的央视315晚会上，曝光了关于手机插件（SDK）违规手机用户信息的数据采集乱象，其中涉事企业名单中不乏以AI技术为主的公司。
最可气的是，在自己眼里珍贵重要的人脸数据，在网络黑市上被售卖时却相当不值钱。央视10月报道称，在某些网络交易平台上，只花2元钱就能买到上千张人脸照片，而且全都是真人照。
从手机号、身份证号、家庭住址等文本信息到指纹、人脸等生物特征信息，在日渐以数据为中心的时代，个人信息成为不法分子的牟利来源。
都说需经同意才能采集数据，可是多少家机构在收集数据时，真正公开透明、反复确认过被采集者的意愿呢？
03、
人脸识别滥用：谁来保护我的脸？
远距离高清摄像头，能在你毫无察觉地情况下，悄无声息地采集完成你的人脸信息。这种便捷又高效的采集方式，致使刷脸应用愈发盛行。
注册App刷脸、买单刷脸、看房刷脸、打车刷脸、倒垃圾刷脸，连取厕纸都安装上了人脸识别装置……这年头，刷脸带来了方便，也带来了无处不在的安全风险。
《人脸识别应用公众调研报告（2020）》显示，使用人脸识别的三成受访者已经因为人脸信息泄露、滥用而遭受到隐私或财产损失。
类似案例屡见不鲜。2020年9月，广西南宁十几名业主因刷脸认证漏洞，被黑中介过户房产骗了超千万元；为了避免被售楼部采集人脸信息，购房者被迫“戴着头盔去看房”。
刷脸固然方便，但如果方便无法抵消危险，那损失由谁来买单？
04、
AI换脸：活在真假混淆的世界
随着AI深度合成和深度伪造技术门槛降低，AI换脸技术逐渐深入大众生活。
今年有几部电视剧通过AI换脸技术怒刷一波存在感，不过换脸效果却品质不一。
比如电视剧《三千鸦杀》中的女二使用AI换脸技术后，时而表情僵硬，时而面部扭曲，效果一言难尽。相比之下，电视剧《了不起的儿科医生》用的AI换脸技术明显更加走心，演员仝卓的脸被换得几乎没有违和感。
除了电视剧外，换脸技术也正离登陆电影大荧幕越来越近。今年6月，迪士尼展示了首个百万像素逼真换脸技术，使得换脸技术有希望用于对高清有强新需求的大制作电影和电视节目。
11月，国外视频网站上的一部《Step Brother》电影短片将史泰龙和施瓦辛格这两位好莱坞顶级功夫巨星的脸，换到了两名小众演员的脸上。
12月，圣诞节这天，英国Channel 4电视频道用AI换脸技术制造了以假乱真的恶搞版女王圣诞致辞，全程高能吐槽。
▲英国Channel 4制作了恶搞版女王圣诞致辞
AI换脸日益逼真，技术门槛越来越低，带给影视内容应用更高效率、更低制作成本等好处，但随之而来的造假、造谣、欺诈等问题，真假混淆使得人们却愈发缺失安全感。
在今年美国大选期间，换脸技术还成了政客互相攻击的武器。比如特朗普今年4月在推特上转发了一个伪造拜登吐舌头的视频，当晚视频播放量超过1000万次。随后特朗普在5月又转发了用自己脸替换科幻电影《独立日》中总统托马斯·怀特摩尔、发表“我们要为我们的生存而战”演讲的视频。
 ▲特朗普推特转发拜登换脸恶搞视频
不过，将从2021年1月1日起施行的《民法典》第1019条明确指出，任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权。
也就是说，明年再想用AI换脸技术制作鬼畜视频或传播不实讯息，需先掂量掂量能不能过法律这一关。
05、
AI去马赛克：敏感信息还能守住吗？
随着AI技术进步，修图越变越省力了，省力到甚至能把打了马赛克的文字和图片还原。
今年12月，一个名为Depix的Github项目爆火，上线三天star数高达6.9k，它能从修复肉眼无法识别的被打码文字，基本恢复原文信息。  ▲Depix项目修复马赛克文字
更早的时候，在今年6月，杜克大学推出的AI算法PULSE能将低分辨率的人脸图像放大64倍，把原本模糊的人脸重新变得清晰可见。
 ▲PULSE算法并不能将糊图恢复成真实面貌
不过好在这个技术不算真“还原”，因为恢复的人像建立在想象的基础上，大多从模糊人像生成的清晰图像是一张全新的虚拟面孔，甚至会将有色人种还原成白色人种。
这些技术可以为侦查提供高效的工具，但如果为思想不端者所用，任何想通过“打码”保护的敏感信息都将不再安全。
06、
AI偏见：歧视从数据进入算法
人脸识别不仅作为身份识别工具，还被一些研究学者用于看面相。比如在今年6月，学术出版商《Springer Nature》原本计划发表一篇通过AI看人脸来推断一个人是否会犯罪的论文，但这遭到了1700名研究人员的联名发公开信抵制。
论文称其技术没有种族偏见，根据照片中人脸特征预测是否为罪犯的准确性达到了80%。不过对于这种说法，其他AI研究者并不买账。公开信的组织者之一Audrey Beard表示：“根本无法开发出不存在种族偏见的犯罪预测系统，因为刑事司法数据本身就是存在种族偏见的。”
 ▲《Springer Nature》推特回应：不会发表该论文
种族偏见长期是美国产学界的敏感话题。如果数据集本身存在偏见，那么用这一数据集训练出的AI算法很难做到客观。在这一背景下，美国关于AI偏见的热点事件层出不穷。
今年6月，IBM宣布不再提供任何人脸识别服务和人脸分析软件，也不再继续研发相关技术，理由是“反对将技术用于种族歧视和大规模监视”；7月，因为关于AI偏见能不能完全归因于数据偏差的激烈争论，2018年图灵奖得主、深度学习先驱Yann LeCun被气得宣布退出推特。
 ▲Yann LeCun宣布退出推特
最新热点聚焦于谷歌，12月初，谷歌AI伦理学家Timnit Gebru在推特上发消息称自己遭解雇，而解雇原因竟是因为她撰写了一篇指出大型语言模型存在偏见的论文。
因AI偏见与伦理本身就是热点话题，加上Timnit Gebru是一位黑人女性，此事关注度一路上涨。随后谷歌CEO桑达尔·皮查伊（Sundar Pichai）在面向全体员工的内部邮件中向Timnit Gebru致歉，并承诺将对解雇一事进行展开详细调查。
 ▲谷歌AI伦理学家Timnit Gebru
种种事例一再说明，当前的AI算法并不完美，甚至可能使歧视和偏见长期化、永久化。
07、
AI爱秃头：足球联赛惊现“人工智障”
AI兴起几年了，但AI的“智障”行为依然不时出现在各种场合中，为人们不断贡献饭后笑料。
今年10月24日举行的苏格兰足球冠军联赛，大概是转播观众看得最不爽的球赛之一了。罪魁祸首就是严重犯蠢的AI摄像机，执着地将一位裁判的光头误认成足球，并且全场追拍，导致观众无法通过实时转播完整观赛，还错过了最重要、最精彩的射门进分画面。  ▲AI摄像机跑偏，执着追踪一位裁判的光头
网友们调侃说，这再次证明了AI的确存在偏见，相比足球，它更偏爱秃头。
08、
AI预测大选：几家欢喜几家愁
和往年一样，每到能发挥“预言家”能力的时候，AI必不缺席。在今年的“热门大戏”美国总统大选前期，多家公司及研究团队用AI预测选举结果。
总统大选尘埃落定后，几家欢喜几家忧。意大利的NLP公司Expert.ai根据往年选举数据和相关数百万社交网络内容，较准确地预测了大选结果。
加州群体智能公司Unanimous.ai通过收集人群比如大宗商品投资者的预测和决策来做判断，从9月的一次调查准确地预测了8个摇摆州的结果。
而此前正确预测20多次选举和公投的Advanced Symbolics Inc。的系统Polly却遭遇滑铁卢，预测拜登会以372：166大胜并拿下佛罗里达州，但实际上特朗普赢得了佛罗里达州的支持，拜登虽赢了，却是以306：232险胜。
09、
AI找对象：政府用AI拯救低迷生育率
今年12月初，据日本《读卖新闻》报道，为了提高结婚率、生育率，日本政府计划在下一财年拨款20亿日元（约合1.3亿人民币）推进用AI帮助人们寻找婚配对象的计划。
AI婚配系统将在日本的25个县实施，基于参加者提供的年龄、学历、年薪、兴趣、收入条件、价值观等信息，用AI算法分析后推荐出合适人选。
实际效果还不错，比如埼玉县2019年结婚的38组新人中，有21对新人都是通过AI婚配系统的推荐而成为情侣。
日本政府对于导入和使用AI婚配系统的县，还提供2/3的必要经费补助，而通过政府资助的婚配支援事业，个人仅需花费约1-2万日元（约合500-1000人民币）。
当然啦，AI婚配系统主要依据用户提供信息来提供判断，虽然在大多数情况下能节约找对象的时间，却也存在遇到虚假数据的风险。
10、
AI作弊：13岁韩国围棋天才少女用AI舞弊
今年11月，13岁韩国围棋天才少女、韩国现役最年轻职业棋手金恩持，因用AI在比赛中作弊，被韩国棋院处以“资格停止一年”的惩戒处分。
 ▲金恩持下棋
在今年9月29日的一场线上比赛中，身为二段的金恩持战胜了韩国顶级棋手李英九九段，被质疑使用AI的可能性后，韩国棋院、韩国国家队邀请AI专家研究分析了相关棋谱，发现金恩持的棋谱与AI程序的推荐吻合率达到92%。
事后，金恩持承认使用AI的事实。而这不是韩国棋手首次因为AI作弊而受处罚，今年1月，一位棋手参加比赛时用大衣纽扣里的微型摄像机将比赛实况发给同伙，然后通过微型耳机接收同伙发来的AI分析结果进行作弊，结果被当场抓获，今年7月被判决一年有期徒刑。
这不免令人感到唏嘘。科技进步是为了人类能更好的进步，而不该被用作投机取巧的工具。
别只顾赢比赛，丢了竞技精神和人品。
结语：一念向善，一念向恶
从这十大AI领域的热议焦点，可以看到，信息安全是一场硬仗，在AI走向普及的道路上，信息安全战役是一场持久战，算法安全性、数据透明性、法规约束等都是必然要攻克的课题。
在接下来的一年，AI将在更多应用场景中发挥独特的价值，科技进步必将为人所用，而这把“双刃剑”会向善还是向恶，是会温暖人心还是化作伤人利器，选择权终究掌握在人类的手中。
http://finance.sina.com.cn/tech/csj/2021-01-02/doc-iiznctke9835500.shtml
| 
发表于 2021-1-2 22:01:20
