社交媒体上充斥着谷歌新推出的AIOverview产品说出怪异内容的例子，从告诉用户在披萨上涂胶水到建议他们吃石头。这种混乱的推出意味着谷歌正在竞相手动禁用特定搜索的AIOverview，因为各种表情包被发布，这就是为什么用户看到很多表情包在发布到社交网络后不久就消失了。
这是一个奇怪的情况，因为谷歌已经测试AI概览一年了——该功能于2023年5月作为搜索生成体验在测试版中推出——首席执行官SundarPichai表示，该公司在此期间处理了超过10亿次查询。
但Pichai也表示，谷歌在同一时期将提供人工智能答案的成本降低了80%，这“得益于硬件、工程和技术突破”。看来这种优化可能来得太早了，在技术尚未成熟之前。
一位不愿透露姓名的AI创始人向TheVerge表示：“这家曾经以处于前沿领域和提供高质量产品而闻名的公司，现在却以低质量的产品而闻名，这些产品被当作表情包。”
谷歌继续表示，其AI概览产品主要向用户输出“高质量信息”。谷歌发言人MeghannFarnsworth在给TheVerge的电子邮件中表示：“我们看到的许多示例都是不常见的查询，我们也看到了被篡改或我们无法重现的示例。”Farnsworth还证实，该公司正在“迅速采取行动”，根据我们的内容政策删除某些查询的AI概览，并利用这些示例对我们的系统进行更广泛的改进，其中一些改进已经开始推出。”
人工智能专家、纽约大学神经科学名誉教授加里·马库斯(GaryMarcus)告诉TheVerge，许多人工智能公司都在“兜售梦想”，希望这项技术的正确率能从80%提高到100%。马库斯表示，实现最初的80%相对简单，因为它需要近似大量的人类数据，但最后的20%极具挑战性。事实上，马库斯认为最后的20%可能是最难的。
“你实际上需要进行一些推理来决定：这件事是否合理?这个来源是否合法?你必须像人类事实核查员那样做事，这实际上可能需要通用人工智能，”马库斯说。马库斯和Meta的人工智能负责人YannLeCun都同意，支持当前人工智能系统(如谷歌的Gemini和OpenAI的GPT-4)的大型语言模型不会成为创造通用人工智能的因素。
瞧，谷歌的处境很艰难。在谷歌之前，Bing就大举进军人工智能领域，萨蒂亚·纳德拉(SatyaNadella)曾说过“我们让他们跳舞”，据报道，OpenAI正在开发自己的搜索引擎，一家新的人工智能搜索初创公司的价值已经达到10亿美元，而只想要获得最佳体验的年轻一代用户正在转向TikTok。该公司显然感受到了竞争的压力，而压力正是导致人工智能发布混乱的原因。马库斯指出，2022年，Meta发布了一款名为Galactica的人工智能系统，该系统在发布后不久就不得不被撤下，因为其中包括告诉人们吃玻璃。听起来很熟悉。
谷歌对AIOverviews有着宏伟的计划——目前存在的功能只是该公司上周宣布的一小部分。对复杂查询进行多步推理、生成AI组织的结果页面的能力、在GoogleLens中进行视频搜索——这里面有很多雄心壮志。但目前，该公司的声誉取决于基本功能的正确性，而情况看起来并不乐观。
马库斯说：“这些模特天生就没有能力对自己的作品进行健全性检查，这就是给这个行业带来麻烦的原因。”