从雀圣到股神,微软只差「最后一英里」

摘要

创造出最强麻将 AI 的微软亚研院团队,竟然没有一个真正的麻将高手。

2019 年 8 月 29 日,微软全球执行副总裁沈向洋在世界人工智能大会的主论坛上宣布,微软亚洲研究院(以?#24405;?#31216;亚研院)创造出了世界上最强的麻将 AI,Suphx(超级凤凰)。

今年 6 月,Suphx 成为首个在国?#25163;?#21517;的专业麻将平台「天凤?#32929;?#33635;升十段的 AI 系统。沈向洋表示,这是目前 AI 系统在麻将领域取得的最好成绩,其实力已经超过了该平台公开房间顶级人类选手的平均水平。

沈向洋在 WAIC 主会场演讲 | WAIC

「天凤」是一家创办于 2006 年的在线麻将对战平台,规则完善,且有着专业的段位升级系统。目前平台上在全球?#27573;?#20869;已有近 33 万名麻将玩家,其中有很多专业选手。「天凤」对战平台分为「特?#25103;俊?#21644;「凤凰房」两种竞技房间。前者对四段以上所有玩家免费开放,最高段位为十段,后者则仅对七段以上的人类付费玩家开放,最高段位为十一段「天凤位」,但该房间目前暂不允许 AI 参与。自 2006 年平台上线以来,达到十段的选手约有 180 位,现役仅有十几位。而在「凤凰房」,达到四人麻将「天凤位」的高手仅有 13 人。

自从今年 3 月登陆日本「天凤」麻将平台以来,Suphx 已经在公开房间「特?#25103;俊?#19982;人类选手进行了超过 5000 场对战。除此以外,据亚研院副院长刘铁岩表示,自 2017 年年中亚研院启动这一项目以来,Suphx 已经完成了约 2000 万场自我博弈。

虽然目前 Suphx 还不曾与天凤位的选手对战过,但很多天凤位的高手已经在关注 Suphx 在特?#25103;?#30340;比赛,其中号称天凤位第一人的朝仓康心在社交媒体上表示,他认为 Suphx 可能?#20154;?#36824;要强大。

天凤平台「特?#25103;俊?#31283;定段位对比 | 亚研院博客


游戏 AI 的下一步

自从 2016 年 AlphaGo 击败李世乭以来,人工智能在游戏领域的应用就一直饱受关注,且随着科技巨头们对人工智能的不断加码,越来越多的棋类游戏和电子竞技游戏成为了 AI 能力的试验田。

根据游戏信息暴露的程度,AI 研究者大多把游戏分为两大类,一是完美信息游戏(Perfect-Information Games),即所有游戏参与者都能随时访问所有关于游戏(以及对手)的状态和可能?#26377;?#30340;信息;二是不完美信息游戏(Imperfect-Information Games),?#20174;?#25103;参与者不能掌握所有信息,且各个对局者所掌握的信息不对称。

完美信息游戏的典型代表有双陆棋、国际跳棋、国际象棋和围棋等,其中复杂程度最高的是围棋。2017 年 AlphaGo 两次迭代后的版本 AlphaZero 通过深度强化学习成功解决了包括围棋在内的多个完美信息游戏。在此之后学术界研究的热点开始转向不完美信息游戏和多人对战的电竞游戏。

围棋、德州扑克、桥牌和麻将的信息集数目和信息集平均大小对比 | 亚研院博客

扑克、麻将、桥牌,还有包括星际争霸 2 和 Dota2 等地图不完全公开的电子游戏,?#38469;?#20110;不完美信息游戏。2017 年到 2019 年,卡内基梅隆大学(CMU)发布的 Libratus 和与 Facebook AI 合作发布的 Pluribus 分别击败了两?#23435;?#38480;注德州扑克和六人不限注扑克的人类顶级玩家,由此正式开启了 AI 学界对不完美信息游戏的征程。

与此同时,包括开发了 AlphaGo 的 DeepMind,埃隆·马斯克参与创办的 OpenAI,Facebook 人工智能实验室 FAIR 以及国内的腾讯 AI Labs 都开?#32423;?#26143;际争霸 2、Dota2、王者荣耀等 RTS 和 MOBA 类电子游戏进行游戏 AI 的开发。其中 DeepMind 联合暴雪开发的星际争霸 2 游戏 AI AlphaStar 在 2019 年 1 月战胜了顶尖的人类玩家,OpenAI Five 也在 2019 年 4 月战胜了 Dota2 刚刚蝉联世界冠军的战队 OG 俱乐部。

AlphaStar | 亚研院博客

2017 年 4 月,国?#25163;?#21147;运动联盟宣布,竞技麻将成为继围棋、象棋、国际象棋、桥牌和国际跳棋之后的第六项国际正式智力运动项目。因为麻将本身对比其他棋类游戏在隐藏信息和?#35759;?#19978;给 AI 研究带来的挑战,麻将 AI 的开发也一直是游戏 AI 领域较难攻克的一个领域。


麻将的特殊性

微软本身是一家全球顶级的游戏公司,旗下也有着《帝国时代》等经典即时战略类游戏,但这次亚研院却选择了更为传统的全民类棋牌游戏麻将。对于这次亚研院对游戏的选择,刘铁岩对极客公园表示,亚研院对其他电子游戏也有关注,但在内部,他们玩笑称「即时战略类游戏更『游戏』,而棋牌类游戏更『AI』」,意?#38469;?#21363;时战略类电子游戏对选手有着控制键鼠等设备的「游戏?#23567;?#35201;求,受到手速、?#20174;?#36895;度等方面的影响,「当我?#21069;?#19968;些不必要的人和机器的差别抹掉,体现出的更多是智慧、智能的作用」。因此亚研院选择在棋牌类游戏里寻求 AI 上的突破。

Suphx 大三元胡牌 | 亚研院博客

而在棋牌类游戏里,麻将也有着一些特殊性。

首先,麻将对战中存在着巨大的状态空间。136 张麻将牌的排列组合可能性?#23545;?#39640;于 52 张的德州扑克,且在同一个玩家两次出牌之间,夹杂了其他 3 个玩家的出牌和自?#22909;?#30340;?#30528;疲?#21487;能出现的不同局面数目非常巨大。更大的变数是,在麻将中,4 位玩家的出?#25169;?#24207;是不固定的,?#25105;?#19968;位玩家的「吃碰杠」都可能使出?#25169;?#24207;突然改变,导致游戏树不规则且动态变化。这些特点使麻将很难直接利用 AlphaGo 等棋盘游戏 AI 常用的蒙特卡洛树搜索算法。

其次,在不完美信息的棋牌游戏中,麻将玩家只能看到手上 13 张手牌和之前已经打出来的牌,因此最多会有超过 120 张未知牌。一方面,由于随机性太大,玩家即便在出牌决策中能估测出对方玩家手牌、?#30528;?#31561;不可见的牌,?#21442;?#27861;避免不?#33539;?#24615;对于游戏走向的影响。这给 AI 模型的训练带来很大挑战:AI 模型很难发现已知牌面信息和最优打法之间的逻辑链路。另一方面,丰富的隐藏信息导致游戏树的宽度非常大,对树搜索算法的可行性提出了进一步的挑战。

最后,麻将有着复杂的奖励机制。日本麻将的规则是「无役不能?#22242;啤梗?#22810;样的特殊牌面构成了复杂的「役种」和番数?#25169;?#35268;则。一轮游戏共包含 8 局,单局得分与役种和番数相关,最后根据 8 局的得分总和进行排名,来形成最终影响段位的点数奖惩。因此有时麻将高?#21482;?#31574;略?#20801;?#29260;,例如,在第 8 轮?#27604;?#26524; A 玩家已经大比分领先第二名,他可能会?#23460;?#25918;炮给排名第四的玩家,来?#20048;?#24635;分被排名第二的玩家反超,保证自己在最?#25112;?#31639;时获得最大的点数奖励。这为构建高超的麻将 AI 策略带来了额外的挑战,AI 需要审时度势,把?#25112;?#25915;与防守的时机。

?#35813;?#23545;麻将游戏的巨大挑战,AI 仅靠强大的?#25169;?#21147;无法从根本上解决问题,而需要更强的?#26412;酢?#39044;测、推理和模糊决策能力。」刘铁岩说道,从棋牌类角度来说,麻将在可观测以及不可观测两个方面都有着很大的?#35759;齲?#20122;研院作为一家研究机构,攻克这一问题也便成了顺理成章的选择。


AI 的「大局意识」

针对麻将在游戏 AI 领域的这几个难点,亚研院针对性地在强化学习的基础上尝试了一些新的算法,从而保证 Suphx 在对战中能够对游戏有更全面的掌握,从而在多局游戏中做出策略性的决策。

 麻将游戏的挑战以及 Suphx 的核心?#38469;?| 亚研院博客

首先,针对麻将巨大的状态空间,亚研院的研?#23458;?#38431;在算法中引入了对探索过程多样性进行动态调控的机制,这使得 Suphx 能够比传统算法更充分地试探牌局状态的不同可能。另一方面,一旦某一轮的?#30528;?#32473;定,其状态子空间会大幅缩小?#20976;?#20197;研?#23458;?#38431;让 Suphx 在推理阶段根据本轮的牌局来动态调整策略,对缩小了的状态子空间进行更有针对性的探索,进而更好地根据本轮牌局的演进做出?#20801;?#24212;决策。

其次,针对不完美信息游戏的挑战,Suphx 提出了名为「先知教练」的?#38469;?#20197;提升强化学习的效果。其基本思想是利用 AI 不可见的信息,对模型进行引导,不?#31995;?#35757;?#21453;?#20351;其越来越熟悉不可见的信息,从机器的角度理解已有信息,从中找到决策依据。

另外,对于麻将复杂的牌面表达和计?#21482;?#21046;,研?#23458;?#38431;还利用全盘预测?#38469;?#25645;建起每轮比赛和 8 轮过后的?#24352;?#32467;果之间的桥梁。通过设计,这一预测器可以理解每轮比赛对?#24352;?#30340;不同贡献,从而将?#24352;?#30340;奖励信号分配回每一轮比赛之中,以便对自我对战的过程进行更加直接而有效的指导,并使得 Suphx 可以学会一些掌控全局的高级技巧。

基于上面这三种特别的算法,Suphx 在进入「天凤」平台后快速地在与人类选手的对战中掌握了独特的策略,有不少玩家表示,「天凤」的玩法与人类有很大的不同,甚至有天凤位的选手表示自己看了几百场 Suphx 的比赛,学了很多?#24405;际酰?#23545;他个人的打法有很大帮助。

不过有趣的是,据刘铁岩介绍,Suphx 背后的研?#23458;?#38431;并没有麻将高手,最擅长麻将的研究员在「天凤」平台上「可能?#21363;?#19981;到一段」。


还差「最后一英里」

可是如此?#24230;?#31934;力做出的游戏 AI 究竟有?#35009;从茫?#40635;将仅仅四人的对弈,牌数也是数量明确且有限的,在这样的环境里训练出的模型和系统,是否能在复杂度?#23545;?#39640;于游戏的真实世界里应用?

面对这一问题,刘铁岩说道:「在做基础科学研究的时候,首先我们希望能在一个相对可控的环境里淬?#37117;际酰?#24403;我们找到最好的?#38469;?#21518;,去落地的时候,还有所谓的『最后一英里的创?#38534;唬╨ast mile innovation)。」

目前,Suphx 相关研究带来的?#38469;?#21019;新还没有全部应用到实际落地场景中,但已经有了部分应用。亚研院与华夏基金、太平资产等金融机构一起做了一些「很大胆」的实盘投资实验,涉及资金上亿人民币,「取得了非常好的效果,在?#21040;?#36965;遥领?#21462;梗?#20854;中就使用了?#20801;?#24212;决策的?#38469;酢?#21016;铁岩解释说,通过历史的金融交?#36164;?#25454;离线训练出的 AI 模型,在今天的市场上有很多变数,包括经济走势、 国家政策和世界?#27573;?#20869;互动模式的差异等等,因此动态适应今天的场景就非常重要。「这与 Suphx 里的?#20801;?#24212;决策是一脉相承的」。

在 Suphx 的开发和研究中,最有价值的部分就是以上介绍的,基于麻将特性,研?#23458;?#38431;在深度强化学习基础上做出的改进(?#20801;?#24212;决策、先知教练和全盘奖励的预测机制)。现阶段,深度强化学习是?#21040;?#26368;为有效的一?#21482;?#22120;学习方法,但它在具体解决一些复?#28216;?#39064;的时候还需要进一步改进,而 Suphx 就是这样一种探索。半年来,Suphx 在与人类选手的对战中不断改进,背后的数据对团队的算法研究有很大的帮助。刘铁岩表示,不久后,亚研院会?#26376;?#25991;的方式分享相关的?#38469;?#32454;节。

最后,至于 Suphx 是否会在未来登陆中国麻将平台,刘铁岩表示,「作为一个研究单位,我们对一切?#38469;强?#25918;的。因为我们使用的是机器学习的?#38469;酰?#23427;对游戏的规则(中国麻将规则与日本麻将有差别)没有那么敏感,只要有明确的规则体系在,就会有解决办法。」


责任编辑:克里斯

题图来源:视觉中国

最新文章

极客公园

用极客视角,追踪你最不可错过的科技圈。

极客之选

新鲜、有趣的?#24067;?#20135;品,第一时间为你呈现。

顶楼

关注前沿科技,发表最具科技的商业洞见。

木乃伊迷城注册
北京pk拾单双玩法技巧 水煮花生小摊子赚钱吗 移动代理赚钱方法 无错16码特围 全年 360彩票app 吃饭赚钱赚钱吃饭有什么不一样 捕鱼达人3d技巧 彩神8网址 7k7k小游戏捕鱼王 河北快三25期开奖结果 定位胆个位稳赚公式 魔法卡片练什么卡赚钱 贵州11选5前三直选 北京pk10赛车开奖直播官网 每天娱乐app如何赚钱 2011年捕鱼达人旧版本