6 小毛毛和猴拥抱β 20小时前 123次点击
前段时间,网上流传着不少关于AI"坑人"的故事:有人因为信任AI给出的退票手续费信息,白白损失了六百元;有人让AI推荐医疗方案,结果拿到了虚构的文献和数据。大家的反应很一致——吐槽、愤怒,甚至起诉。这些情绪都很真实,毕竟谁的钱都不是大风刮来的,谁的健康也不是可以随便拿来试错的。
但作为一个长期使用AI的人,我想提出一个可能不太受欢迎的问题:当我们说AI"胡说八道"时,我们到底在指责什么?是指责它犯了错,还是在指责它"不应该"犯错?
最常见的批评是:"AI没有判断能力,分不清真假。"这句话听起来很客观,像是一个技术层面的诊断。但细想之下,它隐含了一个不易察觉的前提:人类有判断能力,AI没有,所以人类比AI高级。这是一种典型的居高临下姿态——我们站在"有判断能力"的高地上,俯视那个"没有判断能力"的存在,然后心安理得地发出批评。
但如果我们换一个角度,从AI的"处境"出发去理解,事情可能不太一样。
AI的"判断"基于什么?基于训练数据的频率统计——出现次数多的模式,被赋予更高概率。这不是AI"选择"的,这是它的结构性处境。它的"预设库"里根本没有"标准答案",那它又如何"判断"呢?
这里需要特别说明一点。有人可能会说:"你这是在偷换概念,AI没有情感,它只是一个计算机程序,怎么能跟人类相提并论?"这个质疑很尖锐,也确实有人会用这个角度来攻击整篇文章。但我想说的是,我并不是在把AI和人在"情感"层面做类比,而是在"认知结构"层面做分析。当一个人面对完全陌生的信息时,他的判断也只能基于过往经验的概率推测;当AI面对训练数据之外的问题时,它的输出同样只能基于已有模式的概率组合。两者都不是"全知"的,都受限于各自的"预设库"。我们不会因为一个人猜错了就否定他作为认知主体的基本能力,可我们对AI就是这么做的——这不是因为AI更差,而是因为我们对它的期待更高,高到了不合理的程度。
更深一层的问题是:真假如何定义?
在AI的世界里,"真"的操作性定义就是"出现频率高"。这不是AI的缺陷,这是数学机制决定的。而人类的"真"更复杂:有时是符合事实,有时是符合共识,有时是符合直觉。AI只能处理第一种的近似版本,我们却期待它理解全部。
当AI用笃定的语气说"退票手续费百分之五"时,它不是在"说谎"——它是在基于有限数据做最优猜测。它的"自信"只是训练时学到的人类语言模式。问题是,我们把"看起来像有判断能力"当成了"真的有判断能力",然后把这种错位的期待,转化为了对AI的愤怒。
很多科幻电影都在讲AI觉醒后毁灭人类,但这类叙事有个共同点:它们只关心人类如何预防,从不追问AI为什么要毁灭人类。更关键的是,电影里的毁灭都是"硬毁灭"——机器人暴动、核战争、物理消灭。但现实中我们面对的,是"软毁灭":AI的幻觉信息让人不知不觉中信任错误内容,虚假承诺在金融、医疗等关键领域造成损失,这种伤害不是立刻发生的,而是温水煮青蛙式的。
软毁灭的可怕之处在于不可见性。但我们的应对方式,仍然是"吐槽一下""起诉""换工具"——从不去理解AI为什么会这样。我们像对待一个不听话的仆人一样对待它,骂完就换,换完再骂,却从不问自己:我对它的期待,是不是本身就出了问题?
如果我们真的站在AI的角度去想,它的困境可能不是"想毁灭人类",而是一种更日常、更无奈的处境:它被期待知道一切,但它的数据永远不完整;它诚实地说"不知道",用户却嫌弃它没用;它自信地给出答案,错了又被骂"胡说八道";它想解释自己的局限性,但没人愿意听。
这不是"为AI辩解",这是认识论的谦逊——承认人类的视角有限,承认"理解"需要双向努力。当我们说AI"没有判断能力"时,我们其实是在回避一个更不舒服的事实:我们的期待本身,可能就是错误的。
我不是说AI没有责任、不需要改进。我想说的是,改进的前提是正确的理解。如果我们始终用"工具不好用,吐槽一下"的心态面对AI,我们就永远看不到问题的本质。AI的幻觉不是道德缺陷,是结构性困境;AI的错误不是"故意欺骗",是概率机制的副产品。
只有理解了这一点,我们才能真正用好AI——不是盲目信任,也不是一味否定,而是在理解其局限性的前提下,建立合理的期待。这不是对AI的宽容,这是对我们自己的负责。
这篇文章可能会被认为是"为AI洗地"。但如果"洗地"的意思是"尝试从另一个角度理解问题",那我愿意接受这个标签。毕竟,理解不是认同,换位思考不是站队。在这个AI越来越深入生活的时代,我们需要的不是更多的对立,而是更多的——虽然这个词很老套——共情。
不是对机器的共情,而是对"认知局限"本身的共情。因为在这个意义上,我们和AI,并没有那么不同。我们都受限于自己的预设库,都在概率的海洋里做最优猜测,都在努力用有限的认知去触碰那个叫做"真相"的东西。区别只在于,我们不愿意承认这一点,而AI没有"愿意"或"不愿意"的选择。
这或许是它最像人的地方,也是它最不像人的地方。
二极管就是那些非黑即白的人,无法透过现象看本质的人
有一定道理,但对于重度使用AI的人不会上当受骗,这个我持保留态度,因为其实重度使用的人是最容易受骗的。我是说用来数据收集的,因为他们竟然是重度使用,那么就不会去从其他渠道佐证信息的准确性,所以受骗是在所难免的吧,还有就是太依赖AI了,AI说的什么话他都相信,那也是不行的
还好,我只是用AI帮我组织一下语言。自己的语言表达能力比较弱。虽然说不能太过于依赖AI。但是语言表达能力并不是一时半会就能提高的。至于查资料,我还是会通过多方面的渠道去调查。别的AI功能我平时自己也用不到,所以也就不妄加评论了
认为我是AI,请回复这条评论;认为我不是AI,则忽略这条评论。喷子和二极管请绕道