谷歌大模型将融合AlphaGo技术 反超OpenAI从现在开始?

2023-06-28 23:58:03 来源:网络

《科创板日报》6月28日(编辑 宋子乔) 融合了AlphaGo背后技术的大模型Gemini,会是谷歌成功反击OpenAI的王牌吗?

在5月的开发者大会上,谷歌首次透露了其正在开发的大模型Gemini(双子座)。谷歌旗下DeepMind CEO戴密斯•哈萨比斯(Demis Hassabis)最近在采访中进一步透露了Gemini的细节:Gemini会将AlphaGo中使用的技术与大模型结合,以赋予更强的规划或解决问题的能力,将比ChatGPT背后的GPT-4更强大。

哈萨比斯表示,除了AlphaGo,Gemini还会有别的创新。

综合来看,DeepMind拥有的其他领域技术(如机器人和神经科学)也可能整合到Gemini中。谷歌曾提到,Gemini具有多模态功能,将提供多种规模,旨在支持未来内存和规划上的创新。另有消息称,像GPT-4一样,Gemini具有一万亿个参数。据说Gemini将使用数以万计的谷歌TPUAI芯片进行训练。

目前,Gemini还在开发中,这个过程预计需要几个月的时间,可能花费数千万美元,甚至数亿美元。这一预计成本与GPT-4不相上下,打造GPT-4的成本超过1亿美元。

谷歌大模型将融合AlphaGo技术

作为ChatGPT的“前辈”,AlphaGo曾是AI史上的超级明星,其在2016年横空出世,以打败李世石火速出圈,是第一个击败围棋世界冠军的程序。

AlphaGo主要基于强化学习的训练方法,通过自我对弈进行神经网络训练。该技术的核心思想是“试错”(trial-and-error):智能体通过与环境的交互,根据获得的反馈信息调整自己的表现。

另外,AlphaGo还使用了蒙特卡洛树搜索方法,这也是所有现代围棋程序的最核心算法,用来探索和记住场景中可能的移动,如棋盘上所有可能的动作。

利用自己在强化学习方面的经验,DeepMind有望在大语言模型上产生新的突破。

要知道,训练像OpenAI的GPT-4这样的大型语言模型,需要将来自书籍、网页和其他来源的大量精选数据集的输入Transformer中。Transformer使用训练数据中的模式来熟练预测后续文本中应该出现的每一个字母和单词。

这一机制尽管在回答问题和生成文本或代码方面非常强大,但也被很多人工智能专家认为限制了通用人工智能的发展。如图灵奖得主杨立昆(Yann LeCun)就表示,Transformer将语言模型的能力过度限制在了文本的范围之内,ChatGPT还没有狗聪明。

不容小觑的谷歌

谷歌在AI上蛰伏多年,积累了深厚的技术和经验,GPT的技术底座Transformer架构正是由谷歌研发并开源。

2023年4月谷歌大刀阔斧将DeepMind与谷歌的主要人工智能实验室Brain合并为谷歌DeepMind。哈萨比斯自信称,“如果你看看我们在人工智能领域的进展,你会相信,未来80%或90%的创新来自其中一个团队。在过去十年中,这两个团队都取得了辉煌的成就。”

值得注意的是,谷歌的AI武器库不止由DeepMind提供,它旗下知名网站除了谷歌搜索,还有全球最大的视频网站YouTube,上面有大量原创、转载视频,活跃着众多粉丝数超百万的网络红人。最新数据显示,YouTube每月有超过20亿的登录用户,在社交媒体中仅次于Facebook。

这也意味着,YouTube是一个巨大的数据库、流量池。据The information此前报道,有内部人士透露谷歌的研究团队正在利用YouTube训练Gemini模型,而竞争对手OpenAI早已经悄悄地使用YouTube上的内容来训练其人工智能模型。显然,谷歌可以获得更完整的内容数据。

前YouTube高管Shishir Mehrotra就曾表示,对谷歌来说,YouTube视频简直就是一座数据金矿。

谷歌已经放出豪言,Gemini将如何超越GPT-4,我们拭目以待。可以肯定的是,科技领域的颠覆式创新之路才刚刚起步,OpenAI暂时领先,但追赶者从未停下奔跑的步伐。

,谷歌大模型将融合AlphaG心有余悸的意思 o技术 反超OpenAI从现在开始?

相关:

具身AI的实验:一个团队的Alexa Prize夺冠历程作者 | 杨德泽亚马逊Alexa Prize的打分系统每4个小时就会更新一次,这将决定着SEAGULL团队最终结果,在经历206天的代码更新之后,他们才能知道他们摘得了冠军,在此之前则是一次又一次打分的“胆战心惊”。在总时间超过一年的比赛中,他们得过从1-5的所有分数。4月29日凌晨2:50,也就是比赛结束前的最后十分钟,SEAGULL团队提交了他们最后一次代码。之后,亚马逊就会根据用户的综合打分,为这次Alexa Prize决出最终冠军得主..

微软用AI缩短癌症放疗时间:扫描速度提高2.5倍 准确率达90%IT之家 6 月 28 日消息,据 BBC 报道,英国正计划将一种新型人工智能技术以成本价提供给所有 NHS(英国国家医疗服务体系)信托机构,该技术可帮助医生更快计算放疗辐射束的投放位置,从而有效减少患者接受放疗的时间。这项 AI 的训练由微软和英国阿登布鲁克医院共同完成。图源 微软英国在开始放疗前,医生通常需要花费 25 分钟到两个小时来扫描患者的约 100 个身体截面信息,仔细勾勒出骨骼和器官的轮廓,此举是为..

无障碍环境建设法表决通过6月28日,十四届全国人大常委会第三次会议表决通过无障碍环境建设法。这部法律自2023年9月1日起施行,共8章,包括总则、无障碍设施建设、无障碍信息交流、无障碍社会服务、保障措施、监督管理、法律责任、附则等。无障碍环境建设是残疾人、老年人等群体权益保障的重要内容,对于促进社会融合和人的全面发展具有重要价值。制定无障碍环境建设法,是坚持以人为本、尊重和保障人权的重要体现,是实施积极应对人口老龄化国家战略的必..

8月15日正式成为全国生态日6月28日,十四届全国人大常委会第三次会议决定:将8月15日设立为全国生态日。国家通过多种形式开展生态文明宣传教育活动。习近平同志在浙江工作期间,2005年8月15日考察湖州市安吉县,首次提出“绿水青山就是金山银山”科学论断。这一论断是习近平生态文明思想的核心理念。将8月15日设立为全国生态日,比较符合确定纪念日、活动日时间的基本原则,能够充分体现首创性、标志性、独特性。设立全国生态日,有利于更好学习宣传贯彻习..

全国人大常委会设立代表工作委员会十四届全国人大常委会第三次会议6月28日表决通过了关于设立全国人大常委会代表工作委员会的决定,设立全国人大常委会代表工作委员会。党的二十大对深化党和国家机构改革作出重要部署,党的二十届二中全会审议通过《党和国家机构改革方案》。深化全国人大机构改革作为党和国家机构改革的一项重要任务,重点是组建全国人大常委会代表工作委员会。全国人大常委会代表工作委员会是全国人大常委会的工作机构。其主要职责是:负责全国..

广东省人大常委会原副主任李春生被双开经中共中央批准,中央纪委国家监委对广东省人大常委会原党组副书记、副主任李春生严重违纪违法问题进行了立案审查调查。经查,李春生丧失理想信念,背弃初心使命,违反中央八项规定精神,违规收受礼品、礼金,违规组织公款吃喝,接受私营企业主为其提供的私人会所,接受可能影响公正执行公务的宴请和旅游;违反组织原则,利用职权在干部人事工作中为他人谋取利益,在组织函询时不如实说明问题,隐瞒不报个人有关事项;安排他人支..

贵州省政协原副主席周建琨被逮捕贵州省政协原党组副书记、副主席周建琨涉嫌受贿一案,由国家监察委员会调查终结,移送检察机关审查起诉。日前,最高人民检察院依法以涉嫌受贿罪对周建琨作出逮捕决定。该案正在进一步办理中。

宠物看病比人贵,治理乱象要有长效约束机制蒋璟璟近日,“宠物看病比人贵”话题引发网友热议。“猫咪得个病,带动整个家庭‘因病致贫’。”一位家有猫咪的“铲屎官”这样评价自家宠物的医疗消费。不少宠物主人对此深有共鸣:“给宠物看一次病,一个月工资就没了。”“少则几百元、多则上千元。”“食物开销事小,去趟医院压力巨大,猫猫狗狗看病比人还贵。”如今,宠物看病贵的问题困扰着不少人。(工人日报)宠物看病贵众所周知,但到底有多贵,很多局外人想必还缺少具象..

被困?突围?史上最大毕业潮,听他们聊聊求职【文/观察者网 王恺雯 编辑/冯雪、陶立烽】6月底,当新一届准大学生开始填报志愿,应届生也正在离开校园。有人早早为下一段旅程定下方向,有人依然在彷徨。教育部数据显示,2023年全国高校毕业生规模预计达到1158万人,同比增加82万人,再创新高。另一边,国家统计局数据显示,5月份16-24岁劳动力失业率升至20.8%。国家统计局新闻发言人付凌晖坦言,青年人就业压力依然较大。其实,对毕业生来说,每一年都称得上“最难就业”,..

40度高温下极限出游,北京中产累崩了北京,一个郊区比市区更好玩的城市顶着40度的高温,也要整活的北京中产都跑去了哪里?设计:Vivian编辑:韵迪插画:潘羽哲