成电讲坛

　　10月25日，“成电故事·银杏黄”讲座邀请到电子科技大学大数据研究中心周涛主任，为成电学子带来主题为“大数据的社会责任与伦理挑战”的精彩讲座。

　　周涛教授首先展示了一组数据，在2018年全世界数据总存储量为20ZB，短短2年后就已翻倍，超过了40ZB。他提出，面对如此庞大的数据，不可避免会出现数据过载的问题。在浩瀚的信息海洋中，我们普通人分辨甄别数据的能力有限，所以需要依赖大量信息中介。在这样一个信息如此丰富的大数据时代，我们面对信息中介是处于相对弱势的，变成了嗷嗷待哺的婴儿。周涛教授由此引出探讨的关键问题：大数据和人工智能的发展可能会对我们经济社会带来哪些冲击以及应当如何应对。

　　首先是中立性的问题。周涛教授说，大数据和人工智能作为算法，技术上应该是中立的。其实不然，大数据和人工智能的结合，能让计算机快速学会和放大人类社会中存在的歧视和不平等。他举了两个例子来说明：第一是招聘中的性别歧视，2016年，卡耐基梅隆大学与谷歌合作做了一个个性化推荐系统，根据谷歌搜索记录给用户推送可能更感兴趣的职位、发送问卷反馈提高推荐精确度等，结果发现该系统会快速发现、放大性别歧视。主要表现在以下方面：第一，因为最后拿到高等职位的女性比较少，于是推给女性的高等职位越来越少；第二，系统将女性就业多的文秘岗位只推荐给女性、男性就业多的卡车司机岗位只推荐给男性，长此以往导致性别的职业隔离越来越严重。另一方面是人脸识别精确度差异。周涛教授展示了一张表，通过统计Microsoft、Face++、IBM这些人脸识别算法，发现这三种算法的识别精确率都是：白人男性>白人女性>黑人男性>黑人女性。在现实社会中我们需要消除歧视，但是因为计算机并没有人文性，它不太容易知道哪些是需要在现实社会中避免的歧视，所以就会扩大歧视。

　　接着周涛教授谈及关于导向性的问题，先举例了意图猜测这一技术。近年沉迷快手、抖音等应用的现象越来越严重，这些令人上瘾的应用通过分析用户的浏览、游戏记录、行为等，为我们推送感兴趣的内容来保证我们继续使用这些app。但是这一技术也能用到好的地方，周涛教授介绍了我校和香港科技大学合作的一项针对慕课课程等网课的项目，研究员发现只有不到20%的人能完成4、5个小时的网上课程，于是选了几百门课程分析用户活跃时间，通过布置个性化作业等，最终使完成课程比例提升到30%左右。

　　周涛教授随后又提出社交媒体使我们处在信息茧房中。其一，互联网使我们很容易与自己兴趣相投的人交朋友，于是一群相似的人一起讨论，观点就像回音一样不断共振，更容易极化观点、影响信息多样性。其二，信息平台自动过滤掉后台分析认为用户不感兴趣的内容，使我们接受到的信息越发受限，像一个个气泡一样将我们罩住，屏蔽了外界的更多样信息。这些原因造成和我们观点相似、兴趣相近的东西不断增强，使我们视野受限、包容性降低。

　　紧接着周涛教授带我们探讨第三个问题：边界问题。一些技术现在还没有造成很大影响，但是有可能给社会经济基础带来很大冲突，这就给我们带来要不要继续研究的思考。周涛教授举了发展迅速的测谎技术、代孕技术、图像PS技术，说明当一些技术突破我们的能力后，人类无法适应技术的变化速度，就会给社会带来很大冲击。

　　周涛教授提出第四个问题：未来自动化的加强将使得我们判断责权方面出现挑战。周涛教授认为当l4、 l5的人工智能成为现实，伦理问题将更为复杂，AI将剥夺我们自我判断的能力、混淆伦理。手术机器人、特斯拉等自动化设备若出了问题，我们无法判断是否有人写了恶意代码，也无法判断程序员有意还是无意失误。

　　接着周涛教授谈及隐私问题，我们目前处在无法保护自己隐私的环境，因此，首先我们的重要信息一定不能放在网上；第二，我们发布在社交平台上的非隐私数据也可被计算机推算判断一些隐私问题；第三，数据所有权不代表能开放数据。

　　最后，周涛教授提出一种假设：在未来有没有可能顺着数据化的进程人类出现分化，有少数人掌握大量AI等资源、能源，称为Homo deus；另外部分人称为Homo useless。借此周涛教授向我们这代人提出两个挑战：一是长生，二是创造非生命形态的智能，希望我们这代人未来能解决这两个问题。

　　在采访交流阶段，一位研究联邦学习中对数据的隐私保护问题的同学向周涛教授提问：“国内对隐私问题关注度不是很高，跟隐私相关的机器学习技术应用场景的落地还比较初步，请问相关技术之后的发展会怎么样？”周涛教授回答道，联邦学习关键在于如何在数据不可见的情况下，不能相互拿到数据又能来做联邦学习，其应用场景有许多，比如在金融界建立银行用户的风控模型，医疗行业医院间共同学习病症。而隐私计算又有超算技术加持、今年投资火热、正好处在重视阶段，因此前景良好。

　　本次讲坛从当前信息丰富的大数据时代出发，周涛教授将大数据和人工智能的发展可能带来的挑战以及我们应当如何应对娓娓道来，相信这场讲座一定会让同学们拓展视野，从中获得新的思考与感悟。

　　相关链接：

　　周涛，电子科技大学教授，主要从事统计物理与复杂性方面的研究。在Physics Reports、PNAS、Nature Communications等国际SCI期刊发表300余篇学术论文，引用20000余次，H指数为69。2009年获教育部自然科学一等奖，2011年获第十二届中国青年科技奖，2014年起历年入选Elesvier最具国际影响力中国科学家名单（物理天文类）。2015年当选第十二届中华全国青联常务委员，并担任科学技术界别工作委员会副主任。2015年当选全国十大科技创新人物。2017年获全国创新争先奖。2018年起任四川省政协常委。