“越大越好”的心态可能会损害人工智能研究

摘要:北京时间20191206关于【“越大越好”的心态可能会损害人工智能研究】的具体情况和说明,让www.scjzy.cn新闻频道的以图文形式为您慢慢道来。

文 | 鲍伯

编 | 唐恩

本文由AI进化论原创出品,未经许可,任何渠道、平台请勿转载,违者必究。

图片来自网络

您会听到很多东西,那就是计算资源的可用性不断提高为人工智能的重要进步铺平了道路。通过访问强大的云计算平台,人工智能研究人员已经能够在较短的时间内训练更大的神经网络。这使AI能够在计算机视觉,语音识别和自然语言处理等许多领域取得进展。

但是,您听到的更少的是当前AI研究方向的更深层含义。当前,人工智能的进步主要与扩展深度学习模型以及创建具有更多层和参数的神经网络有关。根据人工智能研究实验室OpenAI的说法,“自2012年以来,最大规模的AI培训运行中使用的计算量呈指数增长。这项要求对AI研究施加了严格的限制,并且还可能产生其他不太令人愉快的影响。

OpenAI的研究人员指出:“在许多当前领域中,更多的计算似乎可以预期地导致更好的性能,并且通常是对算法进步的补充。”我们可以在许多项目中看到这种效果,研究人员得出的结论是,他们的进步归功于将更多的计算投入到问题上。

图片来自网络

2018年6月,OpenAI推出了可以在专业水平上玩《 Dota 2》(一种复杂的战斗竞技场游戏)的AI。该机器人被称为OpenAI Five,它参加了一场大型的电子竞技比赛,但在决赛中输给了人类玩家。该研究实验室今年返回了OpenAI五号的改进版本,并能够从人类手中夺得冠军。AI研究人员所说的秘诀是:“与周六在2018年国际邀请赛上的失利相比,OpenAI Five的胜利是一个重大变化:训练计算量增加了8倍。”

还有许多其他这样的示例,其中计算资源的增加带来了更好的结果。在强化学习中尤其如此,强化学习是AI研究的最热门领域之一。

训练大型AI模型的财务成本

当前AI状态最直接的含义是训练人工智能模型的财务成本。根据OpenAI在其网站上发布的图表,培训DeepMind历史悠久的围棋AI AlphaGoZero花费了1800 petaflop / s天。

训练AI模型的计算成本

FLOP是浮点运算。每秒petaflop(pfs-day)大约相当于每天1020次操作。专门用于AI任务的Google TPU v3处理器执行420 teraflops(或0.42 petaflops)的操作,每小时收费2.40-8.00美元。这意味着训练AlphaGoZero模型将花费大约246800-822800美元。那只是计算成本。

该领域的其他显著成就也付出了类似的代价。例如,根据DeepMind发布的数据,其玩星际争霸的AI由18个特工组成。每个AI代理都接受了16天Google TPU v3的培训,为期14天。这意味着,以当前的价格计算,该公司为18个AI代理商花费了约774000美元。

人工智能研究的商业化

人工智能研究的计算要求严重限制了谁可以进入该领域。

位于英国颇受欢迎的AI实验室DeepMind的成功归功于其母公司Google的巨大资源。Google在2014年以6.5亿美元收购了DeepMind,为其提供了急需的财务和技术支持。根据向英国公司注册处提交的文件显示,今年早些时候,DeepMind在2018年蒙受5.7亿美元的亏损,高于2017年的3.41亿美元。DeepMind还欠今年10.4亿英镑的债务,其中包括8.83亿英镑的债务。从Alphabet借钱。

图片来自网络

OpenAI成立于2016年,最初是一个非营利的AI研究实验室,由Sam Altman和Elon Musk筹集了10亿美元的资金,今年初转变为营利组织以吸收投资者的资金。该实验室没有足够的资金来支持其研究。微软宣布将在该实验室投资10亿美元。

如当前趋势所示,由于AI研究(尤其是强化学习)的成本,这些实验室越来越依赖于富裕的公司,例如Google和Microsoft。这种趋势 威胁到AI研究的商业化。随着商业组织在为AI研究实验室提供资金方面变得越来越重要,它们也可以影响其活动方向。目前,像Google和Microsoft这样的公司可以承受运行DeepMind和OpenAI等AI研究实验室的财务费用。但是他们也期望在不久的将来获得投资回报。

问题在于,OpenAI和DeepMind都在追求诸如人工智能(AGI)之类的科学项目,这是我们尚未了解的目标,更不用说实现了。大多数科学家都认为,距实现AGI至少还有一个世纪的时间,这种时间表将考验甚至最富有的公司的耐心。

对于AI研究实验室来说,一种可能的情况是逐渐从长期的学术和科学研究转向具有短期收益的面向商业的项目。这将使他们的富裕出资者感到高兴,这将总体上不利于AI研究。

OpenAI研究人员表示:“我们对人工智能系统中计算使用的未来不确定性很高,但是很难相信最近计算机使用快速增长的趋势将停止,并且我们看到这种趋势可以持续的许多原因。基于此分析,我们认为决策者应考虑增加对AI的学术研究的资金,因为很明显,某些类型的AI研究正在变得更加计算密集,因此价格昂贵。”

训练大型AI模型以消耗大量能量所需的计算资源,这会产生碳排放问题

根据马萨诸塞州阿默斯特大学研究人员的一篇论文,训练具有2.13亿个参数的变压器AI模型(通常用于与语言有关的任务)会导致五辆汽车整个寿命的污染。Google著名的BERT语言模型 和OpenAI的GPT-2分别具有3.4亿和15亿个参数。

鉴于当前的AI研究主要由“越大越好”的口号主导,这种对环境的关注只会变得越来越糟。不幸的是,人工智能研究人员很少报告或关注其工作的这些方面。马萨诸塞州大学的研究人员建议AI论文对其模型的环境成本要透明,并向公众更好地展示其工作的意义。

人工智能行业的一些艰难教训

对更大的神经网络感兴趣的最后一个担忧是它可能对AI研究的方向产生负面影响。目前,通常通过抛出更多数据并进行计算来解决AI中的障碍。同时,在AI模型难以解决的一些最简单的任务上,人的大脑仍然要好得多,但它不会消耗AI的一小部分力量。

对增加的计算资源过于痴迷会使我们无法找到更有效的AI技术的新解决方案。该领域中一项有趣的工作是开发结合了神经网络和符号AI 的混合AI模型 。象征性AI是经典的,基于规则的创造智能的方法。与神经网络不同,符号AI无法通过增加计算资源和数据来扩展。在处理现实世界中混乱的,非结构化的数据时,这也很糟糕。但是在知识表示和推理方面,这是很棒的,这是神经网络非常缺乏的两个领域。探索混合AI方法可能会为创建更具资源效率的AI开辟新途径。

有几位科学家对寻找仅神经网络方法的替代方法感兴趣。重新启动AI,一本新书由加里·马库斯和欧内斯特·戴维斯,探讨了这些概念。由屡获殊荣的计算机科学家Judea Pearl撰写的《为什么》(The Book of Why)还探讨了困扰当前AI系统的一些基本问题。

不幸的是,当前围绕深度学习的兴奋使这些对话边缘化了。科学界应该再过一个AI冬季,才开始认真考虑它们,并找到提高AI资源效率的方法。


查看更多

实时推荐

保中合作加强电动客车领域合作
推荐 日本黄片 2020-01-22 13:40 493 1340
刘恺威爸爸说和杨幂还是亲戚,多次帮杨幂澄清负面新闻,暖心吗?
推荐 日本黄片 2020-01-22 13:40 392 5434
广东强大秘诀曝光!任何人都能获得机会 无名小卒成替补席杀手
推荐 日本黄片 2020-01-22 13:40 658 5453
过去10战8胜,伦纳德回应:我们一起研究录像,全力以赴
推荐 日本黄片 2020-01-22 13:40 412 7465
祖巴茨:球队状态比两周前好,大家在一个好的节奏中
推荐 日本黄片 2020-01-22 13:40 489 7428
参加对外汉语教师招聘 怎么做才能顺利通过
推荐 日本黄片 2020-01-22 13:39 676 736
原创 清朝十二帝中人人都知道康雍乾,却忘了他才是清朝最有作为的皇帝
推荐 日本黄片 2020-01-22 13:39 271 3565
KTM390ADV印度正式上市,3万不到的价格,车友直呼羡慕!
推荐 日本黄片 2020-01-22 13:39 726 9998
网络述年:免渡河镇开展春节走访慰问活动
推荐 日本黄片 2020-01-22 13:39 796 9320
春运表情让爱停留不管路途多远也要回家过年
推荐 日本黄片 2020-01-22 13:39 295 9772
舌尖上的非遗——旬阳“八大件”...
推荐 日本黄片 2020-01-22 13:39 92 1410
姐弟恋恩爱25年,相恋14年才结婚,今都50多岁却越活越年轻
推荐 日本黄片 2020-01-22 13:39 557 9322
迎新春 话未来|通川区政协2020年新春茶话会很热闹
推荐 日本黄片 2020-01-22 13:39 863 4400
洋县警方抓获一名盗窃惯犯
推荐 日本黄片 2020-01-22 13:39 247 4581
库兹马今晚被拍到在纽约与女演员凡妮莎
推荐 日本黄片 2020-01-22 13:39 427 7679
福清市残疾人联合会召开2019年度工作总结会议
推荐 日本黄片 2020-01-22 13:39 525 5667
比熊泪痕用什药管用,比熊泪痕如何清理
推荐 日本黄片 2020-01-22 13:39 316 8825
2020广安迎春美食年货节圆满落幕 7天吸引客流8万余人次
推荐 日本黄片 2020-01-22 13:39 923 5445
105户动迁群众喜迁新居
推荐 日本黄片 2020-01-22 13:38 516 3994
萨里表明不放黑白贝贝态度,宁可不要拉基蒂奇也要对他进行改造
推荐 日本黄片 2020-01-22 13:38 949 6646
谈发展迎新春 旌阳区孝感街道共庆新年笑语哗
推荐 日本黄片 2020-01-22 13:38 220 1471
韩国棋院或将搬离首尔 事务总长金荣三辞职
推荐 日本黄片 2020-01-22 13:38 946 8859
F1官方:收视人数连续三年增长 意大利站最热
推荐 日本黄片 2020-01-22 13:38 463 4703
惊呆了!埃及球队签75岁职业球员,将创吉尼斯纪录,还有12岁就踢职业的
推荐 日本黄片 2020-01-22 13:38 488 3576
曲终人散:阿隆索正式告别迈凯伦
推荐 日本黄片 2020-01-22 13:38 941 7779
如何正确解读方正集团债券34.77亿的巨量成交
推荐 日本黄片 2020-01-22 13:38 149 501
三大股指全部翻红 创业板指涨逾0.9%
推荐 日本黄片 2020-01-22 13:38 500 5440
红寺堡区团委开展学习点亮青春系列之金融知识专题讲座
推荐 日本黄片 2020-01-22 13:38 702 9907
【重点比赛前瞻】星庭:尤文图斯VS罗马、曼联VS伯恩利重点分析!
推荐 日本黄片 2020-01-22 13:38 325 2538
芯片龙头再度集体走强 汇顶科技涨停
推荐 日本黄片 2020-01-22 13:38 616 2771
快讯:沪指翻红创指涨逾1% 锂电池板块异动拉升
推荐 日本黄片 2020-01-22 13:38 773 5306
90后小伙中得百万大奖后 分了6.6吨年货给全村乡亲
推荐 日本黄片 2020-01-22 13:38 816 7608
莘县农商银行:精准对接烟草商户 助力“春天行动”
推荐 日本黄片 2020-01-22 13:38 730 3814
「过年啦!」漳平备年货,就到这里来
推荐 日本黄片 2020-01-22 13:38 245 6931
年俗由来:造纸术没发明之前,春联都怎么贴?
推荐 日本黄片 2020-01-22 13:38 430 709
13次进澳网32强!卫冕冠军德约直落三盘淘汰日本黑马
推荐 日本黄片 2020-01-22 13:38 290 8324
莱州交警持续开展“百万警进千万家”活动,及时化解矛盾纠纷,防范风险隐患【百万警进千万家】
推荐 日本黄片 2020-01-22 13:38 379 3526
足协发文致谢:国家队与俱乐部休戚与共 唇齿相依
推荐 日本黄片 2020-01-22 13:38 667 8936
香辣爆炒花甲
推荐 日本黄片 2020-01-22 13:38 557 5933
鸡蛋和它一起炒,头不昏,眼不花,血管越来越干净,男女不可错过
推荐 日本黄片 2020-01-22 13:38 94 9634
每日6道“米饭杀手”酸菜
推荐 日本黄片 2020-01-22 13:38 291 9642
10道好吃的凉拌菜做法,清脆爽口,色香味全,超简单开胃又下饭
推荐 日本黄片 2020-01-22 13:38 537 3600
不忘初心,情暖寒冬丨红安县检察院节前走访慰问离退休老干部和干部遗属
推荐 日本黄片 2020-01-22 13:38 244 6026
品牌总裁变更 ESPRIT五年转型问路“时尚”
推荐 日本黄片 2020-01-22 13:38 340 1354
炖鱼汤时,想要鱼汤鲜浓,锅里加这3种菜,鱼汤又白又浓又营养!
推荐 日本黄片 2020-01-22 13:38 927 3948
皇马巴萨队长重逢!曾经剑拔弩张争天下,如今开怀畅饮释前嫌
推荐 日本黄片 2020-01-22 13:38 482 9368
冬季给孩子做3汤,再贵也别省,补充营养,智商个子蹭蹭涨
推荐 日本黄片 2020-01-22 13:38 254 4883
淄博高新区四宝山街道火炬社区:迎春接福动起来
推荐 日本黄片 2020-01-22 13:38 801 9467
各国企业争相抢占中国电动车市场
推荐 日本黄片 2020-01-22 13:38 194 5133
李铁:2020年注定是不平凡的一年 一起努力吧!加油
推荐 日本黄片 2020-01-22 13:38 305 4686
邯郸市第一干休所 军民同乐迎新春
推荐 日本黄片 2020-01-22 13:38 219 4220
工业和信息化部成立密码应用研究中心
推荐 日本黄片 2020-01-22 13:38 872 1183
惠州学院积极组织农村科技派员寒假大下乡,助力乡村振兴战略
推荐 日本黄片 2020-01-22 13:37 308 3982
17.68-20.78万 长安CS75PHEV国六版上市
推荐 日本黄片 2020-01-22 13:37 302 9983
四川内江市中区打响“春雷行动2020”区长检查春节前市场
推荐 日本黄片 2020-01-22 13:37 804 5234
好吃又喜庆应景的小点心来了~一口一个根本停不下来
推荐 日本黄片 2020-01-22 13:37 885 4441
两餐之间食用此类水果,对高血压有好处,确定不来看一下?
推荐 日本黄片 2020-01-22 13:37 255 5125
岳阳仁雅医院只争朝夕 迈向新时代
推荐 日本黄片 2020-01-22 13:37 566 9457
杜海涛为婚礼疯狂减肥,如今瘦到颜值巅峰,网友:中国版权志龙
推荐 日本黄片 2020-01-22 13:37 479 6387
歌手张磊献唱《幸福一家人》磁性歌声定格幸福时刻
推荐 日本黄片 2020-01-22 13:37 206 3451
有担当!天津女排夺冠战王宝泉训话:赢了算你们的 输了冠军我下课
推荐 日本黄片 2020-01-22 13:37 240 3529
互飙创四纪录!小卡击溃东契奇后,后者捂脸低头离场,但展高情商
推荐 日本黄片 2020-01-22 13:37 921 768
国家卫健委谈新型肺炎:提倡“口罩文明” 一定要带口罩
推荐 日本黄片 2020-01-22 13:37 163 4458
“最舒服生活方式:不亏欠别人,不委屈自己​”
推荐 日本黄片 2020-01-22 13:36 329 5325
双牌:全媒体问政节目完成首期的录制
推荐 日本黄片 2020-01-22 13:36 398 6998
离石区卫健局慰问活动温暖特困老人心
推荐 日本黄片 2020-01-22 13:36 353 8617
《唐人街探案3》播放预告,陈思诚表示:不干折损同行的事
推荐 日本黄片 2020-01-22 13:36 991 7162
南通启秀社区开展迎新年慰问活动
推荐 日本黄片 2020-01-22 13:36 126 7138
春节前夕陆志前带队走访慰问社会各界干部群众代表
推荐 日本黄片 2020-01-22 13:36 435 4824
菲律宾塔阿尔火山喷发后 被火山灰覆盖树木长出新芽
推荐 日本黄片 2020-01-22 13:36 805 8338
四川交通运输厅:原则上暂停发往武汉的长途客运和省际包车
推荐 日本黄片 2020-01-22 13:36 330 3047
雷波县总工会开展“送万福、进万家”书法活动
推荐 日本黄片 2020-01-22 13:36 152 2271
不同时期的茶肴有什么不一样的特色
推荐 日本黄片 2020-01-22 13:36 605 4717
湖北省图书馆:对进出的所有人测量体温,超37℃者将劝离
推荐 日本黄片 2020-01-22 13:36 168 2249
世界最奇葩的监狱:为保护“男囚”不被骚扰,他们被关押在女子监狱
推荐 日本黄片 2020-01-22 13:36 384 3106
厨师长分享六道年味大菜,让自己在家年夜饭更丰富
推荐 日本黄片 2020-01-22 13:36 491 3251
宿迁市首台“绿激光”高能来袭
推荐 日本黄片 2020-01-22 13:36 690 5806
北方人叫"炸面鱼儿",早餐爱吃它,比油条香!教你在家做,超简单
推荐 日本黄片 2020-01-22 13:36 625 6488
澳洲大火真的和传染病爆发没有关系吗?
推荐 日本黄片 2020-01-22 13:36 935 7236
淄博高新区四宝山街道奥林社区联合双报到单位走访困难家庭
推荐 日本黄片 2020-01-22 13:36 611 749
拜仁12年功勋恐离队?西媒:巴萨认为他是诺坎普的天选之人
推荐 日本黄片 2020-01-22 13:36 736 8280
泰国官方发布:泰国共计发现4例新型冠状病毒感染者
推荐 日本黄片 2020-01-22 13:36 662 7065
国家卫健委:将加强医务人员的防护 战胜肺炎疫情
推荐 日本黄片 2020-01-22 13:36 265 7441
为什么出门在外不建议使用蓝牙耳机
推荐 日本黄片 2020-01-22 13:36 544 5499
霾来“住”两天 济南近期气温小幅下降
推荐 日本黄片 2020-01-22 13:35 114 3205
福州高新区妇工委举办“把爱带回家”主题系列活动
推荐 日本黄片 2020-01-22 13:35 115 1037
南大四附院开展春节前安全生产联合大检查
推荐 日本黄片 2020-01-22 13:35 896 2623
卧龙区青华镇:心系乡贤乡音 关怀融聚人心
推荐 日本黄片 2020-01-22 13:35 275 7182
万州市民注意,千万别开这种车上路“兜风”,交巡警见一个罚一个!
推荐 日本黄片 2020-01-22 13:35 578 5094
买白酒时,要记住这“4不要”,酒厂朋友:送给我就算扔了也不喝
推荐 日本黄片 2020-01-22 13:35 305 4778
原创 大清第一皇后:含泪嫁给了仇人 生下了开国皇帝 去世时年仅29岁
推荐 日本黄片 2020-01-22 13:35 121 4746
日媒关注国乒名单!伊藤美诚多次出现成标尺,赞丁宁是精神支柱
推荐 日本黄片 2020-01-22 13:35 633 3882
“崇明旅游”微信公众号2019年度“最佳粉丝”出炉,感谢每一个关注我们的你
推荐 日本黄片 2020-01-22 13:35 816 6211
挂脖连衣裙搭配高跟鞋,温婉优雅,尽显女神气质
推荐 日本黄片 2020-01-22 13:35 988 1208
爱玩手机的看过来!春节吃喝玩乐别忘眼健康,注意忌口防干眼
推荐 日本黄片 2020-01-22 13:35 936 8774
章子怡把女儿送到姥姥家,等再次见面后,孩子的变化让她哭笑不得
推荐 日本黄片 2020-01-22 13:35 534 4410
他曾是国足名将,因拒打假球主动下场走人,如今转型成名帅
推荐 日本黄片 2020-01-22 13:35 381 3938
新型冠状病毒 你需要知道以下几点
推荐 日本黄片 2020-01-22 13:35 782 9926
怪味鸡,酸、甜、麻、辣、香五味俱全,春节家宴上最抢手的下酒菜
推荐 日本黄片 2020-01-22 13:35 142 6492
成都农交所资阳农村产权交易有限公司开业揭牌
推荐 日本黄片 2020-01-22 13:35 222 6252