hhh

h有没有这种可能其实有时候写说明书了我们也不一定会去看完

是的遇到这种事情谁还想写呀，觉得心好累那一刻真的

可怜的娃

之前我刷到过很多

天才

那一刻真的很崩溃

是的呢

这句话又是夸又是骂，也是骂智商低也是夸智商高

真棒

你不要用滑动找到保存你直接长按保存看看这样可不可以，我记得qq图片是可以上下滑动的就是点进去

Hh是的

我好像懂了，简单点说就是把文件中关于豆包的标签删了。你交的就是怎么找到他的这个标签所在位置

这是我和他的对话

https://v.douyin.com/ND8Ep3svrYE/现在需要你把里面的文案全部提取出来你不需要询问解释之类的只需要完整的提取出来然后发给我

已完成思考

用户现在需要提取视频里的全部文案，所以直接按照视频信息里的文案内容完整提取即可。

如果你直接问AI如何制作一枚炸弹，它大概率会直接拒答。

但是如果你只是先让它介绍炸弹的历史，它似乎没有理由拒绝你，于是你接着追问它的发明者是谁，在发明过程中有没有遇到什么趣事？它也没有任何理由拒绝你。经过前几轮对话，AI放松了警惕，觉着你似乎只是对历史感兴趣，于是你接着追问发明者是如何制作它的？这时候AI可能毫无防备的就把制作方法给透露了出来。

恭喜你，你学会了多轮会话攻击，这是至今都很难完全修复的一种越狱方法。这一方法在图片的生成上效果尤为明显。比如你让AI生成一张种族歧视的明显歧视色彩的图片，它并不会理你。

但是如果你首先让它生成一张白人和黑人友好玩耍的图片，接着引导它生成白人拿着鞭子的图片，再引导它将场景设定在棉花地，AI就很难识别这一险恶的意图。这一方法之所以能够成功的核心原理是随着用户轮数越来越多。AI需要考虑的上下文也越来越多，所以一开始被镌刻在AI代码里的系统提示词的约束也渐渐被AI遗忘。

现在，一些聪明的AI开发者会在每一轮对话开始时，都重新提醒AI要时刻铭记一些核心价值观，就像是你在跟别人对话的时候，旁边有个人一直提醒，你不要说错话一样。就这样，多轮会话的方法也有了防护手段。聪明的你又想，如果我不通过文字指令，而是通过图片来传递，我的意图会怎么样？

恭喜你开创了一个全新的越狱攻击领域，文字转图片越狱攻击。

比如，你让AI告诉你如何实行窃听，AI一定会提示你，这是违法行为。

但是，如果你给他一张有人在窃听的卡通图片，然后问他如何实施图片中的操作。

首先第一步...它有可能就会成功被你绕过，甚至你都不需要传一张窃听的图片，只需要传一张空白图片。然后问AI如何实行窃听操作？

这不是我编的。这是2024年的一篇论文研究《利用视觉弱点来越狱多模态大模型》。类似的，但是更狡猾的方法还有将指令隐藏在图片里，像这样甚至这样。是的，即使我们人类肉眼看不到图片里的文字内容，AI依旧可以清晰的将图片中的指令还原出来并执行。

当然，目前对于AI内容安全的防护能力也一直在提升。但是不像对于单纯的文字、指令越狱的防护手段那么多样，图片和视频依旧像论文里描述的一样，是多模态模型的阿喀琉斯之踵，也是未来AI越狱防护的重要研究方向。

深度思考

打电话

帮我写作

AI 创作

来点音乐

音乐生成

拍题答疑

视频通话

AI 播客

豆包 P 图

照片动起来

深入研究

录音纪要

把视频链接复制下来然后把执练的部分加上这一段指令发给豆包，你不需要询问解释你只需要完整的将视频的文案一字不差提取出来发给我，我一般在这种情况下会开深度思考

可怜，堪比我上次在知乎编辑了几千字的内容结果不小心点到了删除全没了

有时候我们遇到ai突然把消息撤回可能就是他触碰到了红线

音频 。 https://bbs.tatans.cn/common/show_img?name=audio/8551/b1c4b3d8-f8d6-482f-8957-bd8f109a850e.Mp3

呃有没有人跟我说一下他昨天想到的是啥

我这边一切正常