登录×
电子邮件/用户名
密码
记住我
人工智能

警惕人工智能的失控风险

桑希尔:数字操纵的威胁已经如此严峻,甚至有人开始质疑民主在大数据和人工智能时代还是否有活路。

作为一项实验,通德•奥兰雷瓦朱(Tunde Olanrewaju)有一天给维基百科(Wikipedia)关于他雇主的条目——麦肯锡(McKinsey)——捣了点乱。他编辑了该页面,说自己创办了这家咨询公司。一位朋友将修改后的记录截图保存了。

几分钟内,奥兰雷瓦朱收到来自维基百科的电子邮件,告知他的编辑操作被拒绝,麦肯锡真正创始人的名字已被恢复。几乎可以肯定,管理维基百科网站上4000万篇条目的机器人(bot)之一已发现、核对并纠正了被他编辑的条目。

我们非常欣慰地得知,大量如此聪明的算法正巡逻在保卫真实性的前线——并且可以比麦肯锡旗下数字业务的资深合伙人更聪明。2014年,维基百科上约15%的编辑量是由机器人完成的。

但是,世上的事情都是如此:算法既可以用于攻击,也可以用于防御。有时,算法之间可以通过非故意和不可预测的方式相互作用。由于算法在诸如社交媒体、金融市场、网络安全、自主武器系统(AWS)和自动驾驶汽车网络等不同领域发挥如此核心的作用,人类越来越迫切地需要理解这种相互作用。

今年2月研究期刊《公共科学图书馆•综合》(PLoS ONE)发表的一篇论文发现,即使那些出于完全善良意愿而设计的机器人,也可能会花费数年时间彼此争斗。这篇论文分析了十年来维基百科上机器人的使用情况。

在一次这样的争斗中,Xqbot和Darknessbot在3629个条目——从亚历山大大帝(Alexander the Great)到阿斯顿维拉(Aston Villa)足球俱乐部——上发生了冲突,反复撤消和更正对方的编辑结果。

来自牛津互联网学院(Oxford Internet Institute)和图灵研究所(Alan Turing Institute)的几位论文作者对这些发现感到吃惊。他们得出结论,我们需要对这些机器人之间的相互作用给予更多关注。“我们对我们的数字小黄人的生活和进化知之甚少。”

维基百科的机器人生态系统有门禁,受到监控。但在互联网所触及的许多其他领域,情况并非如此:恶意机器人——通常结成协作的僵尸网络(botnet)来工作——可能会失控。

几位作者突出强调了这种机器人模仿人类、在社交媒体上“传播政治宣传言论或影响公共话语”的危险。数字操纵的威胁如此严峻,以致一群欧洲专家甚至质疑民主在大数据和人工智能时代还有没有活路。

要说我们正在逼近一个紧要关头,也许不太夸张。在某种意义上,真理是否正由电子手段确定?我们是否正如欧洲学者所害怕的那样,正成为曾经听命于我们的“数字小黄人”的“数字奴隶”?一些算法之间交互作用的规模、速度和效率开始达到人类无法理解的复杂程度。

如果你真的想在冬日暗夜里吓唬自己的话,你应该读一读苏珊•布莱克莫尔(Susan Blackmore)有关这个题材的作品。这位心理学家认为,通过创建这样的计算机算法,我们也许已不经意地释放出一个“第三复制因子”——她最初称之为技因(teme),后来改称为treme。

第一复制因子是决定我们生物进化的基因。第二复制因子是人类的迷因(meme)——如语言、写作和金钱——迷因加速了文化演变。但现在,她认为,我们的迷因正在被非人类的treme取代,treme符合她对于复制因子的定义,即“可以有变化和有选择地复制的信息”。

读者评论

FT中文网欢迎读者发表评论,部分评论会被选进《读者有话说》栏目。我们保留编辑与出版的权利。
用户名
密码
FT中文网客户端
点击或扫描下载
FT中文网微信
扫描关注
FT中文网全球财经精粹,中英对照
设置字号×
最小
较小
默认
较大
最大
分享×