来源：http://goo.gl/P6rQzZ
译者：爱范儿
网页图文版：http://goo.gl/aMUZXh
Riot Games 的《英雄联盟》是一款备受欢迎的网络游戏，在全球拥有数量庞大的玩家群
体，对于Riot Games 来说，对抗游戏中的恶意言论是一个巨大的挑战，多年以来，Riot
Games 试验了各种各样的技术，包括人工智能技术，对玩家的言行进行监控和引导，取得
了相当不错的效果。
在Technologyreview 网站的采访中，公司社交系统的首席设计师Jeffrey Lin 说，他们
的系统已经辨识出了数百万的恶意言论，而且，被指认使用辱骂言辞的玩家中，92% 的人
不再犯同样的错误，他认为，Riot 的系统不仅能用于在线游戏，而且也能用于其它类型
的在线社区。
数年前，公司就推出了名为Tribunal 的管理系统，玩家的恶意言论被确认后，编入一个
“档案”中，玩家们查看“档案”，投票表决那些行为是可以接受的，整体来说，这个系
统是非常精确的，Jeffrey Lin说，玩家社区98% 的决策与Riot 的内部决策是一致的。
只是这是一件非常耗费人力的事情，很快的，Jeffrey Lin 和团队发现了恶意言论的模式
，为了优化流程，他们决定使用人工智能技术，“在区分消极言论和积极言论方面，这是
一种非常成功的做法，《英雄联盟》支持的官方语言有15 种。” 他说到。同时，新系统
比起以往的效率更高了，以前，在确认了恶意言论后，玩家会在一周内得到回应，现在，
这个时间缩减为5 分钟。
公司的新系统还大大改善了玩家的“从良率”，在游戏中，如果一个玩家曾经受到某种惩
罚，然后，在一段特定时间里不再受到同样惩罚，他就被认为是“从良”了。
“在惩罚的时候，当我们加入更好的反馈，给出玩家的交谈记录等证据，他们的从良率从
50%上升到了65%”Jeffrey Lin 说，“当机器学习系统提供了更快的反馈，并配上证据，
玩家的从良率上升到了前所未有的92%。”
Jeffrey Lin 认为，他们的经验能够用于更广阔的领域，对此，哈佛大学波克曼中心的研
究员Justin Reich 表示了赞同，他说，从Riot Games 的经验中，我们可以得出一个重要
结论：辱骂行为不一定来自恶人，而是来自心情糟糕的普通人，因此，在对抗恶意言论的
时候，我们不能只针对那些恶意的Troller，而是需要考虑，在网络的匿名状态下，人类
会暴露出自己最糟糕的一面，不过，恶意言论并非难以根治的痼疾，通过技术、实验和社
区参与，我们能够解决这个问题。
“我们在《英雄联盟》上面对的挑战，任何的游戏、平台、社区和论坛上都可以看到，因
此，我们认为，在线社区已经到了一个急需转变的时刻。” Lin 说，“因此，我们乐意
把数据和经验分享给更多的业界人士，我们希望，其它的公司能够看看这些结论，并且意
识到，网络上的恶意言论并非不可解决的问题。”