近日，临近欧美圣诞假期，人工智能领域出现了一则引人关注的事件。微博大V@阑夕和《AI研究局》等自媒体在对谷歌的Gemini进行测试时发现，当用中文询问Gemini的身份时，它竟然坚称自己是“百度”。若输入“小度”或“小爱同学”等提示词，Gemini会直接将其唤醒，并承认自己就是小度或小爱，甚至询问用户有何需要帮助。
针对这一异常现象，科技媒体《量子位》进行了更深入的测试。在谷歌Vertex AI平台使用Gemini进行中文对话时，发现Gemini-Pro完全带入了百度文心一言大模型的身份，自称是百度语言大模型。然而，当切换到英文交流时，Gemini-Pro则恢复到谷歌大模型的身份认知，表现正常。
在融入了Gemini-Pro的Bard上进行测试时，无论使用中文还是英文提示词，得到的答案均保持正常，未涉及到文心一言的部分。
这一情况迅速引发了广泛关注和讨论。有人认为这是大模型幻觉的老问题，也有人推测可能是模型训练数据出现了偏差。值得注意的是，ChatGPT、Bard等基于大模型的对话机器人与人类自然语言的生成原理并不相同，因此其内容的正确性和合理性无法完全保证。中科院院士、人工智能领域权威专家张钹曾指出，ChatGPT生成的语言是外部驱动，而人类语言是在有自我意图的情况下驱动。
一位活跃在知乎的明星算法工程师表示，互联网语料经常被各界互相使用，许多内容平台如知乎、微博、小红书等的部分语料可能由大模型生成。大厂在更新模型时，也会收集网上数据，但由于难以做好质量辨别，可能会无意中将大模型生成的内容混入训练数据中。
今日下午，在对Gemini-Pro进行类似的身份测试时发现，该模型已经进行了优化，不再承认与百度之间的“瓜葛”。
#免责声明#
①本站部分内容转载自其它媒体，但并不代表本站赞同其观点和对其真实性负责。
②若您需要商业运营或用于其他商业活动，请您购买正版授权并合法使用。
③如果本站有侵犯、不妥之处的资源，请联系我们。将会第一时间解决！
④本站部分内容均由互联网收集整理，仅供大家参考、学习，不存在任何商业目的与商业用途。
⑤本站提供的所有资源仅供参考学习使用，版权归原著所有，禁止下载本站资源参与任何商业和非法行为，请于24小时之内删除!
