AI智能
改变未来

商汤组了「最强大脑」局,正儿八经解释为啥搞起电竞AI


金磊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

前不久,《星际争霸2》虫王iA周航加入商汤科技,担任AI研究员。堪称电竞职业玩家「转型最成功」的案例之一。而商汤作为一家以计算机视觉技术著称的公司,这一步棋又意在何为?近日,在世界人工智能大会的圆桌论坛《从电竞到AI》中,商汤道出了其目的:

入局电竞,发力决策型 AI

这些年,有关「电竞AI」的那点事

先来盘一下「电竞 AI」这件事情。许多现实生活中的 AI 应用,都涉及到多个智能体在复杂环境中的相互竞争和协调合作。针对商汤入局的星际争霸,是一种即时战略(RTS)游戏的研究,也就是解决这个大问题过程中的一个小目标。换而言之,类似星际争霸的挑战,实际上就是一种多智能体强化学习算法的挑战。而 DeepMindAlphaStar,可以说是在 AI 挑战星际争霸过程中,发展较为成熟的一个。去年其研究还登上了顶级期刊 Nature —— AlphaStar已经超越了99.8%的人类玩家,在神族、人族和虫族三个种族上都达到了宗师(Grandmaster)级别。AlphaStar学会打星际,还是靠深度神经网络,这个网络从原始游戏界面接收数据 (输入) ,然后输出一系列指令,组成游戏中的某一个动作。至于训练,则是通过监督学习和强化学习来完成的。而且,智能体的学习目标会适应环境不断改变。神经网络给每一个智能体的权重,也是随着强化学习过程不断变化;而不断变化的权重,就是学习目标演化的依据。电竞 AI 领域另一个比较火的游戏是 Dota2,OpenAI 的 RerunOpenAI Five,是这款游戏中的 AI 佼佼者。比起星际争霸2需要操纵甚至上百个单位,Dota2这款5V5游戏,只需要操纵5个智能体,但是操作精准度和策略复杂度要高一些。OpenAI Five 是 OpenAI 首先开发出来的电竞 AI,和人类顶级团队——世界冠军 OG 的较量中,以2:0的明显优势碾压。而后,OpenAI 又开发一出 Rerun,胜率再次翻新,达到了98%。这些 AI 的背后同样是一套神经网络。根据 OpenAI 发布的研究来看,policy (π) 被定义为从观察数据到动作概率分布的函数,这是一个有1.59亿个参数的RNN神经网络。这个网络主要由一个单层、4096-unit的LSTM构成。选手们的训练,使用的是扩展版的近端策略优化(PPO)方法,这也是OpenAI现在默认的强化学习训练方法。这些智能体的目标是最大化未来奖励的指数衰减和。在训练策略的过程中,OpenAI Five没有用到人类游戏数据,而是通过自我博弈。与 Dota2 类似的电竞 AI ,还有国内的手游《王者荣耀》——腾讯绝悟 AI绝悟的 1v1 版本首次露面,是在2018年的 KPL 秋季总决赛上,而后在去年8月份,在5v5比赛中击败了人类职业战队,实力不容小觑。而有关绝悟的技术细节,在去年年底时,腾讯在一篇入围AAAI 2020的论文中也有所披露。AI的整体架构一共分为4个模块:强化学习学习器(RL Learner)、人工智能服务器(AI Server)、分发模块(Dispatch Module)和记忆池(Memory Pool)。研究人员在论文中指出,基于这样的方法训练一个英雄,使用48个P40 GPU卡和18000个CPU 内核,训练一天相当于人类打500年,训练30个小时就能达到王者段位水平,70个小时比肩职业玩家。

电竞AI这件事,虫王iA有话说

在昨天的世界人工智能大会中,「从电竞到AI」的圆桌成了大会中的亮点,与会嘉宾包括:

  • 曾获得8次《星际争霸II》全国比赛冠军的中国顶尖选手、商汤科技研究员周航

  • 被称为“脑王”的《最强大脑》2019全球总冠军、商汤科技见习研究员郑林楷

  • 商汤科技副总裁、商汤研究院副院长闫俊杰博士。

  • 商汤科技研发执行总监石建萍博士。

如此阵容,被网友戏称「脑王论剑」。而堪称「转型最成功」的电竞玩家周航,发表了他的看法:

我想要自己训练一套AI系统,战胜以前没有战胜过的对手。

在量子位的采访中,作为与 AI 直面交锋过的「亲身经历者」,周航表示:

在星际这样一个充了满尔虞我诈的复杂环境,AI 在决策上还是太单纯了。虽然 AI 在操作上有一定优势,但是对整个游戏没有建立起抽象的认知,容易被欺骗,还有很大提升空间。

但许多人对于类似星际2这样的电竞AI,提出了「公平性」方面的质疑——毕竟机器在某些方面的能力,是远远超越人类的。对此,周航从「操作」和「信息」两方面做出看法:

在 AI 的操作方面,我个人觉得可以用一个简单的方式去衡量:让这一项目最顶尖的选手,尝试去模仿 AI 的操作,如果人能模仿成功那就是公平的。而在信息方面,AI 跟人类能获得的信息需要保持一致。具体到星际上来说,星际每一步是45ms,人做不到在这么短时间观察信息并且做出反应,但是 AI 可以,限制 AI 的操作频率是有必要的。另外,AI 和人类在与游戏的交互方式上有很大不同。人是通过图像和声音了解的整个地图的局部信息,但是 AI 目前通过星际的游戏接口获取的信息会比人更加全面,这方面也需要加以限制。

当然,目前的电竞 AI 还无法做到100%碾压人类,对于其弱点,周航认为:

目前,星际AI 的弱点还是很明显的。星际的整个状态空间太大,AI 在训练过程中,有很多的局面都是没经历过的,在这些罕见局面就会出现不会应对的情况,所以在与 AI 对战的过程中,只要你打的天马行空、不按套路出牌就行了。因此,也可以发现电竞 AI 研究的难点和重点,一方面是增强 AI 的泛化能力,做到像人类一样抽象地思考问题;另一方面是希望能够超越人类的认知,做出比人类更优的决策。

除此之外,对于决策AI,前「脑王」郑林楷也坦言:

其实人做决策经常靠的是直觉,而这方面 AI 仍有很多进化空间。

最后,周航对于电竞 AI 发出了希冀:

我希望做到的是从 AI 模仿人类出发,再到人类去模仿它;我希望AI真正拓展人类的认知,拓宽人类的想象力

入局电竞,发力「决策型AI」

不难看出,近几年的电竞 AI 呈现越发火热的趋势。其实在这背后,各家的发力点都是较为一致的,那就是「决策型 AI」。那么,问题就来了,决策型 AI 为什么会受到如此重视,就连深耕计算机视觉的商汤科技也要入局?在量子位与商汤研究院副院长闫俊杰的专访中,我们得到了一些答案。过去几年时间中,商汤在计算机视觉的感知层面做了大量的技术积累。通过感知能力,解析了大部分的图片和视频,一定程度上提高了行业的智能化和自动化程度。但随着感知的能力越来越强,信息的维度越来越高,这就为运营、控制、决策类的问题的提升带来了更多的可能性,但是要求也越来越高。例如交通的信号灯控制、车辆的调度和管理、封闭空间人流的优化、大规模活动时人力的调度等等。而在这种情况,决策型 AI 便起到了关键作用,正如闫俊杰所说:

这些问题已经超越了人,甚至专家的能力,需要决策型的AI提供相关辅助,从而走通最终的价值闭环。

但要从感知型 AI 转型为决策型 AI,所面临的问题也是相当困难。

  • 一个问题是现在的方法比较依赖在环境中进行大量的探索和验证,也就是可以几乎无限的试错。但是真实的环境往往很难提供类似的机会。

  • 另外一个问题是可解释性,实际的系统很难完全依赖于一个黑盒的系统,而需要人能进行有效的干预来提供系统的可靠性,这就需要AI决策能进行一些解耦。

而且,在决策型 AI 的研究和应用方面,国外整体还处于更加领先的状态,正如 DeepMind 和 OpenAI 的研究。那么,在如此「内忧外患」的情况下,商汤又该如何下好「入局电竞 AI」这步棋呢?闫俊杰表示:

具体的做法跟我们做计算机视觉的思路类似

初期跟不同行业头部客户一起迭代,在满足客户需要的前提下,逐渐完善技术框架,提高技术框架的泛化性能,并进一步用有限的人力服务更多的客户。而商汤入局决策型 AI,拥有得天独厚的优势——场景和人才。首先,商汤在前期计算机视觉等技术落地的过程中,已经积累了众多的客户和真实场景,这些客户对决策型AI深化落地有了一定的接受度和预期。也正如商汤科技研究总监石建萍所介绍,自动驾驶就是一个很好的应用场景。

决策型AI可以用于自动驾驶的驾驶策略,包括三个层面:行为层、规划层、以及控制层。行为层面,包括是否要换道、是否要减速等;规划层面,主要为本车确定可行驶路线;控制层面,则直接为本车输出油门刹车、方向盘指令。在仿真环境中,可以为他车、人等交通参与者的行为进行模拟,尤其是在与本车产生交互的场景中(例如本车汇入车流),从而帮助更好地在仿真中验证本车自动驾驶性能。

另外一方面的优势便是人才。商汤在前几年储备了大量的AI领域的人才,有完善的研发体系和资源,来支撑重点问题的攻关。最后,闫俊杰对决策型 AI 给出了一个预测:

总体上我们相信,决策型AI的发展会类似几年前计算机视觉领域。算法效果上每年有指数级别的提升,逐渐能够突破使用的红线,在一两个领域打开局面,然后开始更多的下沉和与行业深入结合。

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

了解AI发展现状,抓住行业发展机遇

如何关注、学习、用好人工智能? 

每个工作日,量子位AI内参精选全球科技和研究最新动态,汇总新技术、新产品和新应用,梳理当日最热行业趋势和政策,搜索有价值的论文、教程、研究等。

同时,AI内参群为大家提供了交流和分享的平台,更好地满足大家获取AI资讯、学习AI技术的需求。扫码即可订阅:

AI社群 | 与优秀的人交流

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「在看」吧 !

赞(0) 打赏
未经允许不得转载:爱站程序员基地 » 商汤组了「最强大脑」局,正儿八经解释为啥搞起电竞AI