原题:女*聊天机器人1天被教坏:人工智能也有*别属*来源:网易科技
摘要:微软公司创造的女*聊天机器人塔伊(Tay)被放在了社交网络上。微软的本意是希望塔伊通过与人类在社交媒体上的交流变得更擅长沟通,但结果却出乎意料。一些恶意网友诱使塔伊在聊天学习的过程中,变成了种族主义和男*至上主义者。
微软公司创造的女*聊天机器人塔伊(Tay)被放在了社交网络上。微软的本意是希望塔伊通过与人类在社交媒体上的交流变得更擅长沟通,但结果却出乎意料。一些恶意网友诱使塔伊在聊天学习的过程中,变成了种族主义和男*至上主义者。眼看机器人一天工夫就被教坏,微软公司只好撤下了塔伊。
人工智能会有*别属*吗?这还真是个问题,甚至一直是人工智能发展的主线问题。一般认为,左脑(主管逻辑思维、计算)代表男*,右脑(主管形象思维、情感)代表女*。人工智能的早期算法是男*化算法主导。上世纪80年代后,以神经网络为代表的女*化算法开始占据主导地位。
围棋是少有的需要男*思维与女*思维共同协作的智力活动,围棋局面和层层包裹的牡丹花,在视觉上高度近似。例如,《红楼梦》里下围棋的多为女*,妙玉、惜春等都是围棋高手。由此,攻克围棋软件人工智能,成了人工智能*别属*之争的**。
2016年战胜围棋世界冠军李世石的阿尔法狗,以及2017年TA的升级版战胜人类60位围棋高手无一失误的大师,都标志着当前算法的一个突破。利用蒙特卡洛算法,将男*化的左脑算法与女*化的右脑算法结合,人工智能向着亦男亦女的方向高速进化。
文中开头提到的塔伊,她遇到的问题则是社会*的。过去的一般观点是,互联网包括人工智能的社会*别更加偏向女*,对互联网的女*主义特征的研究也广为流传。女*在网上更喜欢社交、购物,更喜欢感*化的视频,等等。互联网或人工智能的女*化,主要包括三个方面:当代思想的体验化,互联网的情感化思维,互联网的去中心化思维。艾莉李在《女*何以能够统治互联网》中还提供了以下数据:女*在社交网站上比男*多花了30%的时间,而移动社交网络的使用者55%是女*。女*占领了互联网上最主要的生意场。根据阿里巴巴的统计,阿里系在线电商销售额的70%由女*贡献,女*消费者最爱在线上购买的商品中,服饰占89%,母婴产品占87%,化妆品占83%,家居用品占78%。这些数据可能在一定程度上解释了为什么人工智能偏向女*化的原因。
当然也有舆论担心,随着偏见渗入程序、运算法则和设计,人工智能很快会变得比塔伊更复杂,男*至上的趋势可能更加明显。如果现在不开始对这些技术做出深思熟虑的改变,人工智能会根据男*最基本的文化准则扩散,例如,让战争机器人形似男*(如许多美国机器人),服务机器人形似女*(如许多日本机器人)。不过,就目前而言,塔伊事件仍是个案,引诱塔伊学坏的人,都是见不得光的,很难以主流方式影响互联网和人工智能发展。况且,得罪女*顾客也不是一件好玩的事情。(姜奇平)
(原题:女*聊天机器人1天被教坏:人工智能也有*别属*来源:网易)