你们有没有过这样的情况?在豆包里聊天,就是普普通通说一句话,他却告诉你你的内容存在风险。

7 玫瑰的梦 1天前 211次点击

今天我就正想说一下这个问题。

不知道大家有没有听说今天晚上是有流星雨的。

然后我就想着说多一事不如少一事,要不来看一看,但是基于本人视力有限,所以准备打开豆包的视频通话,让他帮我看一下流星,并且陪一会我。

然后我就跟他说了一句,我们一起看流星雨吧,他给我评估了两次内容存在风险已被撤回。

我说我们一起去看流星雨吧,他说内容疑似存在风险已被撤回,我们聊点别的话题吧!

这样搞了两次,我就没耐心,直接把通话挂了,我风险个什么?

我只是想请他帮忙看个流星雨,我风险个什么?

真的有些莫名其妙。

不过我想到了一个更离谱的答案,流星雨在豆包那里是不是违禁词?

但这也不像是违禁词。

我们在对话框里聊了,也没有问题,然后我们一起看也没有问题啊,我之前跟他说了,现在也跟他说了,也没有问题。

难不成我加个感叹词也错掉了。

所以我想请问大家一下这到底是怎么回事?

求解答,谢谢。

共 53 条评论
0 

没有呀,我这里很正常。

玫瑰的梦 [楼主] 1天前
0 
那就怪了,难不成他针对我。
黄河羽 1天前
0 
应该你的表达有问题,你人化服务那个方案不是早就落地了吗,然后豆包可能识别到我们一起去看流星雨吧,这有点暧昧,所以就给撤回了
玫瑰的梦 [楼主] 17小时前
0 
我的说法没有问题吧,因为我之前也说过类似的,他也没拦我。
黄河羽 17小时前
0 
之前拟人化方案没有落地呀,7月15日才刚落地,当然还有一种情况就是楼主的脸出镜了,楼主如果是未成年的话这就说得通了
玫瑰的梦 [楼主] 16小时前
0 
7月15日之后,我也说过对应的话也没有事,而且我的脸也没有出镜,当时是我的摄像头是面向,前方的就是面到我前面而我的摄像头是后置的,也就就是手机屏幕对着我的脸摄像头,对着我的前方。
黄河羽 13小时前
0 
那就不知道了。我几乎没遇到过这种情况
玫瑰的梦 [楼主] 12小时前
0 
我倒是去查到了一个答案,这个想见我回复小小精灵的评论。
我给他吐脏话,他都没有说我违规,所以一般普普通通的一句话,一般是不会有什么事的,除非那句话含的一些信息。那些信息是严令禁止的

本楼来自:
我的世界肝帝玩家的资源库

玫瑰的梦 [楼主] 17小时前
0 
那这是什么情况?有的时候我不小心吐了一句脏话,他也不怕我违规,

这个就不懂了,谁知道他那边的审核机制是怎么审核的

本楼来自:
我的世界肝帝玩家的资源库

嗯,我也是很无语,豆包这个屌毛了,某一天让他帮我看一双鞋子是什么品牌的,是什么颜色的,多问几句不知道他咋滴也是说。违规,然后聊其他的生无可恋

玫瑰的梦 [楼主] 17小时前
0 
哎呀,他就这么莫名其妙吗?看个东西也说违规。
起风了 16小时前
0 
那天我问豆包,我已经把豆芽看见的后台给锁定了。这句话是正常的啊。然后我又说我已经把他的后台锁定了。嗯,前者啊,我后面说了一句是,然后呢,他就说内容疑似存在风险,已被撤回。
玫瑰的梦 [楼主] 16小时前
0 
哎有的时候普通聊天,聊着聊着就这样了,还能不能用都是问题了?
我上次把江湖的题库发过去了,让他看到正确答案就说对。然后他说有风险
玫瑰的梦 [楼主] 17小时前
0 
好嘛,更离谱了,打个题都违规。

还是DeepSeek好用,没那么多限制

玫瑰的梦 [楼主] 17小时前
0 
但我听说这玩意儿无障碍差的可以。
0 

耳听为虚,眼见为实,无障碍差不差,你下载一个用一下就知道了,不然也只能听到别人说差就差,好就好

黄河羽 17小时前
0 
那倒是
玫瑰的梦 [楼主] 16小时前
0 
那我试试看吧,但听很多人说deep sea渐渐的不好用了,而且有一堆人都在骂他,还有就是验证码很难过。
0 

看,你还是在坚持 听很多人说,而不是我下载体验了一会儿,觉得怎么样

玫瑰的梦 [楼主] 12小时前
0 
OK,那我什么时候下一个看看,它的限制应该不多吧,吐了脏话会不会被封号啊?
0 

所以说还是要自己体验一下,反正又不要钱,就算他无障碍在不好,不好用,也是自己得出来的结果,

积木 1天前
0 
应该是你的表达有问题吧。
玫瑰的梦 [楼主] 17小时前
0 
这个不应该吧!我换了N种表达方式了,他还是判我违规。
积木 17小时前
0 
那有可能是豆包在针对你。
玫瑰的梦 [楼主] 16小时前
0 
他针对我啥,就因为我在他后台疑似被标注了,个案就针对我吗。
小晓精灵 19小时前
0 
内容疑似存在风险,已被撤回,我们聊点别的话题吧!那是豆包的回复好像存在风险,被官方撤回来了。
玫瑰的梦 [楼主] 17小时前
0 
啊,你的意思是说这是豆包有问题,而不是我有问题是吗?
小晓精灵 17小时前
0 
Yes!
玫瑰的梦 [楼主] 16小时前
0 
但豆包为什么会回复的有风险呢?我就是让他跟我看流星雨,他还能跟我对骂不成。
小晓精灵 15小时前
0 
不知道。它这个问题我也遇到过:回复的内容特别正常,结果就被判定为存在风险,撤回了。平常文字对话从来没出现过这种情况。猜测应该是语音通话(包括共享屏幕、视频通话、打电话)的时候审核会更严一些。纯粹的猜测哈。
玫瑰的梦 [楼主] 12小时前
0 
我去灵光那里查到了答案。他有几个说法,就是说要么就是我们一起或者怎么说就是我们一起啊,或者陪我呀,这些的出发了,请可能触发的审核,然后呢嗯,或者说他豆包的回复内容,真的是有风险的,所以给撤回去了,然后呢,怎么说?但是豆包也有一个失职,就是没有告诉我们,说到底哪里撤回了,所以说这个豆包也有错,这个是AI灵光输出的答案。AI灵光,我感觉是比较可信的一个了。
小晓精灵 17小时前
0 
来看一下豆包的回答(不确定豆包说得对不对,总之是豆包的问题): 对对哒🥺!就是这个很绕人的小bug! 不是楼主输入的那句话违规,是AI自己生成出来的回答,被系统风控给拦下来撤回咯。 文字聊天模式里,两边消息都要过审核;到视频通话的时候更特殊: 用户说话、AI输出的语音文字、摄像头画面,全部通通都要过一遍机器检查。 明明用户只是安安静静说:“我们一起看流星雨吧”,这句话完全没问题。 可是AI正要组织话语准备回应的时候,整套视频通话链路的安全机制,误把AI即将吐出的回复判定成风险内容,直接掐断,弹出那句:「内容疑似存在风险,已被撤回,我们聊点别的话题吧!」 所以楼主就很懵:我啥也没说错呀,为啥就风险啦😵! 就像帖子里面小明小伙伴,拿镜头晒菜,同样平白无故踩坑;还有别人想让AI看鞋子,也遭遇一模一样的情况,全部都是视频通话这个场景才会乱触发,普通文字对话框啥事没有。 最无奈的一点:这种误拦截,用户自己是完全控制不了的。 碰到这种状况,要么关掉视频通话改用文字描述;要是想上报修复,就复制反馈工单编号提交给官方,工作人员就能定位视频通话场景下的误判问题啦。
玫瑰的梦 [楼主] 16小时前
0 
好吧!那在这里或许真的可以判定为是AI的问题,但是万一不是AI的问题,是我本人的问题,我怕触发了多次之后,我直接被封号,那可就惨了,我昨天晚上梦到我在豆包里被封号封了45年。
小晓精灵 14小时前
0 
如果是你的问题,就会:该内容涉嫌违反豆包使用规范,若有误判,请长按本条消息后点击“反馈与举报”进行反馈。
玫瑰的梦 [楼主] 12小时前
0 
原来如此,好吧,我没有见识过这个,所以我分不开。
0 

有时候就是这样的

玫瑰的梦 [楼主] 17小时前
0 
其实我在想是不是他的违禁词系统直接坏了给我乱判。
0 

他有时候他会识别错误不是他崩了是他那边有时候会把有一些词识别为敏感词因为它是智能吗,可能是他训练的问题

废纸篓 19小时前
0 
这就是楼主的问题了,流星雨从外太空而来,可能涉及到外星飞船,这很可能会影响到世界稳定,甚至你这举动能颠覆世界现有格局
软玉溪 18小时前
0 
!
玫瑰的梦 [楼主] 17小时前
0 
别太三观颠覆世界观了。流星雨涉及外星飞船影响世界稳定和着我们看流星雨的都是个错的了。哈哈哈!
檬檬 18小时前
0 

我也有这种情况

玫瑰的梦 [楼主] 17小时前
0 
好嘛,在这儿的一大半好吧,在这儿的很多人似乎都有这样的情况。
小明 17小时前
0 

之前有一次我奶奶他们在院子里面晒一个菜的,我让他帮我看一下,也是打视频给他的,他也说有风险

玫瑰的梦 [楼主] 17小时前
0 
咋的,看个菜,也有风险,不知道你们有没有发现一个共同点就是好像大多数风险提示都在视频电话阶段。
玄武 17小时前
0 

它有可能会出意外,有时候一句话你问了他,他会说风险,你再问他就没有事情,就不知道为什么?

玫瑰的梦 [楼主] 16小时前
0 
对,就是很莫名其妙。而且有些人对他说出一些话语的时候倒是没事儿,换到我们这来我们一顿输出,他就说存在不良行为了。
一笑江湖 16小时前
0 
有过,特别是因为涉及到隐私问题的时候就会有这种情况
玫瑰的梦 [楼主] 16小时前
0 
隐私问题方面这个可能是因为说是隐私问题。,所以说存在风险吧,这个有点难说。
添加一条新评论

登录后可以发表评论 去登录