《科创板日报》6 月 28 日(编辑 宋子乔)融合了 AlphaGo 背后技术的大模型 Gemini,会是谷歌成功反击 OpenAI 的王牌吗?
在 5 月的开发者大会上,谷歌首次透露了其正在开发的大模型 Gemini(双子座)。谷歌旗下 DeepMind CEO 戴密斯哈萨比斯(Demis Hassabis)最近在采访中进一步透露了 Gemini 的细节:Gemini 会将 AlphaGo 中使用的技术与大模型结合,以赋予更强的规划或解决问题的能力,将比 ChatGPT 背后的 GPT-4 更强大。
(相关资料图)
哈萨比斯表示,除了 AlphaGo,Gemini 还会有别的创新。
综合来看,DeepMind拥有的其他领域技术(如机器人和神经科学)也可能整合到 Gemini 中。谷歌曾提到,Gemini 具有多模态功能,将提供多种规模,旨在支持未来内存和规划上的创新。另有消息称,像 GPT-4 一样,Gemini 具有一万亿个参数。据说 Gemini 将使用数以万计的谷歌 TPUAI 芯片进行训练。
目前,Gemini 还在开发中,这个过程预计需要几个月的时间,可能花费数千万美元,甚至数亿美元。这一预计成本与 GPT-4 不相上下,打造 GPT-4 的成本超过 1 亿美元。
▌谷歌大模型将融合 AlphaGo 技术
作为 ChatGPT 的 " 前辈 ",AlphaGo 曾是 AI 史上的超级明星,其在 2016 年横空出世,以打败李世石火速出圈,是第一个击败围棋世界冠军的程序。
AlphaGo 主要基于强化学习的训练方法,通过自我对弈进行神经网络训练。该技术的核心思想是 " 试错 "(trial-and-error):智能体通过与环境的交互,根据获得的反馈信息调整自己的表现。
另外,AlphaGo 还使用了蒙特卡洛树搜索方法,这也是所有现代围棋程序的最核心算法,用来探索和记住场景中可能的移动,如棋盘上所有可能的动作。
利用自己在强化学习方面的经验,DeepMind 有望在大语言模型上产生新的突破。
要知道,训练像 OpenAI 的 GPT-4 这样的大型语言模型,需要将来自书籍、网页和其他来源的大量精选数据集的输入 Transformer 中。Transformer 使用训练数据中的模式来熟练预测后续文本中应该出现的每一个字母和单词。
这一机制尽管在回答问题和生成文本或代码方面非常强大,但也被很多人工智能专家认为限制了通用人工智能的发展。如图灵奖得主杨立昆(Yann LeCun)就表示,Transformer 将语言模型的能力过度限制在了文本的范围之内,ChatGPT 还没有狗聪明。
▌不容小觑的谷歌
谷歌在 AI 上蛰伏多年,积累了深厚的技术和经验,GPT 的技术底座 Transformer 架构正是由谷歌研发并开源。
2023 年 4 月谷歌大刀阔斧将 DeepMind 与谷歌的主要人工智能实验室 Brain 合并为谷歌 DeepMind。哈萨比斯自信称," 如果你看看我们在人工智能领域的进展,你会相信,未来 80% 或 90% 的创新来自其中一个团队。在过去十年中,这两个团队都取得了辉煌的成就。"
值得注意的是,谷歌的 AI 武器库不止由 DeepMind 提供,它旗下知名网站除了谷歌搜索,还有全球最大的视频网站 YouTube,上面有大量原创、转载视频,活跃着众多粉丝数超百万的网络红人。最新数据显示,YouTube 每月有超过 20 亿的登录用户,在社交媒体中仅次于 Facebook。
这也意味着,YouTube 是一个巨大的数据库、流量池。据 The information 此前报道,有内部人士透露谷歌的研究团队正在利用 YouTube 训练 Gemini 模型,而竞争对手 OpenAI 早已经悄悄地使用 YouTube 上的内容来训练其人工智能模型。显然,谷歌可以获得更完整的内容数据。
前 YouTube 高管 Shishir Mehrotra 就曾表示,对谷歌来说,YouTube 视频简直就是一座数据金矿。
谷歌已经放出豪言,Gemini 将如何超越 GPT-4,我们拭目以待。可以肯定的是,科技领域的颠覆式创新之路才刚刚起步,OpenAI 暂时领先,但追赶者从未停下奔跑的步伐。
标签:
《科创板日报》6月28日(编辑宋子乔)融合了AlphaGo背后技术的大模型Ge
hello大家好,我是大学网网小航来为大家解答以上问题,活佛济公主题曲
来为大家解答以上的问题。实在太嫩了17p,外国小嫩妞17p这个很多人还不
信用卡临时额度到期还不上怎么办?信用卡临时额度到期了之后是会被系
1、创客教育提倡开发自己的创意,通过软硬件将创意实现成具体物品,例
随着市场格局的变化,燃油车市场正在被新能源汽车逐渐蚕食,自主品牌不
近日,中国科学院空天信息创新研究院利用自主研制成功的500毫米口径激
上海一女子服用头孢类药物后吃了半片面包感觉呼吸困难就医,面包包装袋
近期,在公募降费的呼吁声中,多家基金公司宣布下调旗下产品的管理费率
中信证券指出,市场讨论的房地产政策过于聚焦新房开发建设。实际上地产
6月27日,华商优势行业混合最新单位净值为1 092元,累计净值为3 422元
智通财经APP讯,中国建材(03323)公布,2022年4月28日,宁夏建材(600449
1、(1)指弄权。2、《后汉书·朱浮传》“(建武)二十二年,坐卖弄...
1、祁连山的平均山脉海拔在4000米~5000米之间,高山积雪形成的硕长而
在成本方面,矿业依旧是大头,2022年为5 83亿元,主要系销售收入增加,
1、《有色金属挤压与拉拔技术》是2007年化学工业出版社出版的图书,作
“有事好商量”议出民间文化新发展“我们健康路居委会组建了一支50...
品玩6月27日讯,据新浪财经报道,英伟达周一宣布,将与Snowflake合作,
证券之星讯,根据6月27日市场公开信息、上市公司公告及交易所披露数据
今日(6月27日)杭州钱塘区发布通知新一波购车补贴即日起开抢总额合计1
犀牛之星是国内专业的新三板互联网信息服务平台,提供新三板和北交所股
中国教育电视台《新歌来啦》栏目组供图当晚,唱诵对话大会在爱乐男合附
新海南客户端、南海网6月27日消息(记者陈望)6月26日,2023年亚洲沙滩
博创科技(300548)6月27日晚间公告,持股3 52%的股东东方通信计划以集中
1、小牙刷,手中拿,我们一起来刷牙。2、上牙往下刷,下牙往上刷,咬合
格隆汇6月27日丨中国旺旺(00151 HK)发布公告,廖清圳将于2023股东周年
LordstownMotorsCorp暴跌55%,报1 10美元。LordstownMotors在美国特拉
6月27日,信达地产(SH600657)公告,公司全资子公司重庆金禧联房地产开
证券时报网讯,商务部网站消息,6月27日,中国商务部部长王文涛向世贸
释怀的尽头不是无奈和妥协,反而是一点一点地强大起来,如果是无奈