作者:文子
Gemini对谷歌来说可能走了一大步,但对整个AI领域而言,并没有说的那么夸张。
涉嫌虚假宣传,交互非实时感知
才短短一天时间,谷歌Gemini就被曝涉嫌造假,夸大宣传。
作为谷歌用来应对GPT-4的“杀手锏”,Gemini一经亮相就有了两个硕大的标签:超过人类专家,碾压GPT-4。随便单拎一条出来,都是目前其他大模型所不能比拟的成绩。
但也有越来越多的人开始质疑它的真实性,彭博社的Parmy Olsen就是第一个质疑视频造假的人。
就在大家震惊于谷歌发布的6分钟互动视频里,他指出,Gemini所有交互都不是实时感知的,存在后期制作和剪辑配音的成分。随后这一说法也得到了谷歌官方的证实,承认Gemini的确使用了静态图片和多段提示词拼凑,才能达成这样的效果。
简单来说就是,Gemini不能直接看懂一段动作视频,只能看懂多张图片。像演示视频里人类在玩石头剪刀布,实际上是把“布”“拳头”“剪刀”三张照片依次传给Gemini,然后加上良好的提示词,才能让Gemini给出回答,然后再由员工配音念出来。
而且视频中展示的许多其他功能并不是谷歌独有的,GPT Plus3也可以做得到,沃顿商学院教授伊森・莫里克(Ethan Mollick)就用实验证实了这一点。
虽然从技术原理上来看,能够读取图片和能够看懂视频之间,并没有技术上的鸿沟。但是从产品实现落地的角度看,把读取图片约等于能实时看懂视频,过于强调实时性而压缩了交互过程中的延迟,这几乎已经可以理解为虚假宣传。而是否需要良好的提示词工程,更是评价模型能力的关键问题。
混淆跑分,GPT4测试标准不一致
从谷歌对Gemini的宣传信息来看,它声称Gemini在32项标准性能指标中,有30 项指标都优于GPT-4,跑出90%的高分,超过GPT-4。但实际上,差距微乎其微,而且这种比较并不公平。
Gemini Ultra的90%得分是基于谷歌研究人员开发的一种基于32个样本的思维链的方法。对于同一个问题,Gemini Ultra会生成32个答案以及这些答案的推理。然后,模型会选择最常见的答案作为最终答案。
但GPT-4的86.4%分数是基于行业评估标准5-shot。HuggingFace技术主管Philipp Schmid特意从Gemini的技术报告中提取数据重做计算,在5-shot的标准下,Gemini的得分实为83.7%,比GPT-4更低。
也就是说只有CoT(思维链)达到32个例子时,Gemini Ultra才能达到90分超过GPT-4;当例子数量减少到5个,Gemini Ultra得分就不如GPT-4。难怪连谷歌公司高管在之前都回避了关于该模型比GPT-4 强多少的问题,因为它们只是“强”在了不同的标准上。
就像谷歌在5月份发布Palm-2的时候,也挑出了两个优于GPT-4的指标,但是后来这个大模型怎么样,大家都清楚。
斯坦福大学基础模型研究中心主任 Percy Liang也谈到,虽然Gemini有很好的基准分数,但由于不知道训练数据的内容,因此很难解释这些数据。华盛顿大学计算语言学教授 Emily Bender也指出,谷歌宣传Gemini是一台万能机器,是一个可用于多种不同用途的通用模型。但是谷歌却在使用狭隘的基准,来评估它期望用于这些不同用途的模型,这意味着它实际上无法得到彻底评估。
仓促上阵,只为趁OpenAI动荡搞事?
今年3月,OpenAI发布GPT人工智能模型,并推出其支持的付费聊天AI机器人ChatGPT,这其实对谷歌来说压力很大。
毕竟谷歌已经耗费了数年心血,在人工智能领域投入巨资研究,却没想到被半路杀出来的OpenAI弯道超车。
所以在4月,谷歌迫于投资方的巨大压力,将负责人工智能研究的Google Brain,与母公司Alphabet位于伦敦的人工智能研究实验室DeepMind合并,为了在今年接下来的时间里研发Gemini模型来回应GPT-4的挑战。
而在两周前,OpenAI刚刚重新任命了奥特曼为首席执行官,并任命了新的董事会成员,勉强给这家初创公司的一段动荡期画上了句号。这场内斗事件也促使一些客户开始评估其他AI提供商,谷歌选择在这个时间点推出Gemini的心思不言而喻。
据报道,当OpenAI董事会暂时罢免首席执行官奥特曼,使公司的未来发展受到质疑时,谷歌迅速发起了一场营销活动,说服OpenAI企业客户转向谷歌。现在,随着Gemini的发布,谷歌也正是在利用这种不确定性。
然而,目前大多数人还是不能完整地体验Gemini。最强大的对标GPT-4的满血版Gemini Ultra,还需要等待几个月才能和公众见面。据谷歌高管的说法,预计将于明年初上市。而现在推出的版本是为谷歌基于文本的搜索聊天机器人Bard的后台,为其提供更高级的推理、规划和理解能力。
在接下来的几个月里,新的Gemini增强版Bard会在170多个国家提供英语版本的首发,不包括欧盟和英国。谷歌负责Bard的副总裁Sissie Hsiao表示,这是因为公司需要与当地监管机构“接轨”。除此之外,Gemini还有一个名为Nano的版本,可以直接在设备上运行的,例如谷歌的新款Pixel手机。
谷歌VS OpenAI:瑜亮之争鹿死谁手?
12月7日,随着Gemini的高调发布,谷歌市值一晚就增加逾870亿美元,增量相当于OpenAI的最新估值。就目前来说,未上市的OpenAI估值在800亿至900亿美元之间。
要知道,今年以来谷歌的股价已经上涨了逾50%,大幅跑赢了纳斯达克综合指数,但却落后于一些科技同行,里面就包括OpenAI最大的投资方微软。
事实上,谷歌在过去的发展历史中已经吃过很多次苦头,推出有缺陷的产品。这对公司发展来说,适得其反。就像今年2月为了应对ChatGPT急急忙忙推出的Bard,因为一次小小失误就导致股价蒸发了高达1000亿美元。
哪怕是5月,谷歌宣布在大部分产品中植入生成型人工智能,比如谷歌邮箱和其他软件,试图用这个举动改变市场的看法,但效果却微乎其微。这也让谷歌深刻认识到,推出有缺陷的产品带来的反噬。
但在科技行业,只要足够强大就足以抢占市场。早期的手机霸主诺基亚和黑莓就经历过惨痛教训,苹果用功能更强大、更直观的iPhone抢走了它们的市场。在软件领域,商业上的成功往往来自于性能最好的系统。
几乎可以肯定的是,随着Gemini的发布,谷歌或许有望逐渐扭转那些不利的局面。摩根大通分析师就表示,“谷歌开始通过结合 Gemini的不同模型版本,来解决投资者对生成式人工智能创新和GenAI模型运行成本过高的担忧。”
不过如果Gemini Ultra真如谷歌所说那样在明年1月初发布,那么在顶级人工智能模型的头部就呆不了太久时间。毕竟在谷歌努力追赶OpenAI的过程中,后者有将近一年的时间来开发新一代人工智能模型GPT-5。
但有一点不能否认,谷歌和OpenAI的这场对决,已是箭在弦上。
原文标题 : 新火种AI|谷歌Gemini被曝夸大营销?碾压GPT4纯靠“一张嘴”