马斯克的AI聊天机器人Grok出现幻觉-误认为自己是OpenAI的产品
2023-12-12 13:09:59发表
作者:大雨倾盆
马斯克的AI聊天机器人Grok出现“幻觉”,误认为自己是OpenAI的产品!埃隆·马斯克旗下的人工智能公司xAI发布了面向美国地区的Premium+ X用户的聊天机器人Grok。Grok整合了X平台的实时数据,但也存在产生错误信息的“幻觉”问题。xAI工程师解释称,这可能是因为训练时包含了OpenAI生成的文本。如何提高智能聊天机器人的安全性和可信性成为重要问题。
Grok幻觉新闻详情
埃隆•马斯克旗下人工智能公司 xAI近日发布了一款名为 Grok的人工智能聊天机器人,该机器人面向美国地区的 Premium+ X用户开放。根据官方的说法, Grok使用了一种叫做Grok-1的模式,这和 OpenAI旗下的 ChatGPT完全不同。值得一提的是, Grok还整合了 X平台上的实时数据,可以实时响应 X平台上的最新动态。
但是,和所有的人工智能聊天机器人一样, Grok也有一个“幻觉”的问题,它会产生错误或误导性的信息。这一现象广泛存在于包括 ChatGPT在内的所有大规模语言模型中。
最近,一篇关于格洛克的令人难堪的“幻觉”成为了社会媒体的热门话题。一些使用 Grok的用户收到回复:“由于违反 OpenAI用例策略,我不能满足你的请求”。
编辑注意到, xAI工程师 Igor Babuschkin解释说, Grok在训练时使用了大量的网络数据,很有可能包含 OpenAI生成的文本,从而产生了这种“幻觉”。请放心, Grok并没有使用任何 OpenAI代码进行开发。”
如何避免此类事件再次发生,如何提高智能聊天机器人的安全性和可信性,成为未来人工智能研究中的一个重要问题。
相关资讯
- OpenAI悄悄升级ChatGPT-可在对话中调用不同的自定义聊天机器人[02-04]
- OpenAI阿尔特曼称-人类水平的AI即将出现但对世界的影响比想象的小[01-17]
- OpenAI计划下周推出GPT商店-可销售与共享定制聊天机器人[01-06]
- OpenAI正式推出GPT商店-可销售和共享定制版ChatGPT机器人[01-11]
- OpenAI已紧急修复-ChatGPT出现中风答非所问胡言乱语[02-22]
- 苹果称新款MacBookAir是用于AI的全球最佳消费级笔记本电脑[03-09]
- 腾讯QQ上线2023年度报告-看看今年与你聊天最多的好友是谁[12-24]
- 英国投资1亿英镑-成立AI工作组和OpenAI等共建基础模型[06-14]
- SE坚持认为《巴比伦的陨落》的未来“并不危险”[03-22]
- 基于生成式AI技术-汤姆猫正在研发一款语音交互陪伴机器人[03-12]
最新专题
网友评论
没有符合条件的内容
热门攻略
-
1
-
2
-
3
-
4
-
5
-
6
-
7
最新攻略
-
1
-
2
-
3
-
4
-
5
-
6
-
7