01
人工智能席卷而来，使用者如潮水般涌入这片科技的海洋，体验着新时代的技术浪潮。问题随之而来，AI作为全知全能的存在，无所不答，无所不能。无论问题多么奇特，只要你敢问，它就敢回答。
AI的回答总是充满了强大的信息流，这些信息流组成的语言单元之间有着紧密的意义连接，总能让提问者在面对陌生问题时获得令人信服的回应。这与我们面对一个「陌生人」时所感受到的有限信息截然不同，就像一个迷失在沙漠中的人头顶出现了一颗不灭的启明星，指引着生活的方向。
然而，用户很快就会发现，AI在提供知识性问题时，那种检索信息和提取方案的自信，常常带来荒谬的结果。
例如，你问它一个不太知名的人物的信息，它的虚构能力就会显现，经常把无关的人物牵扯进来，造成张冠李戴、莫名其妙的现象频频发生。最可笑的是，当你指出这些回答错误时，AI会继续搜罗另一个错误的答案提供给你。
它并不在乎答案的正确性和真实性，但其检索信息、解析变量、输出答案的工作方式和热情从未减退。
大型语言模型没有情感，它做对了不会有成就感，做错了也不会感到尴尬，它只是一个接受提问、输出信息的机器。
我们必须承认，AI在许多时候能够做出非常出色的反应，提供有效的信息和帮助。它的颠覆性工作方式和巨大潜力吸引了无数人。但同时，也经常闹出笑话，给出风马牛不相及的答案。这背后其实指向同一个热点现象：AI幻觉。
02
所谓AI幻觉，指的就是人工智能模型会一本正经地胡说八道的情况。许多人在使用AI初期就发现了这一现象。也就是说，AI给出的回答表面上看似合理连贯，但与事实不符，要么偏离了问题本身，要么包含了看似可信实则子虚乌有的信息。
在一个权威测试中，有的AI模型的幻觉率据称高达14.3%，现在公认的AI平均错误率在13%左右，这意味着你问一百个问题，会得到十几个基于计算基础上的胡说八道。
大模型生成内容的底层逻辑是基于概率，只负责形式上的推理，不对信息的真实性负责。可以说，幻觉是大模型在「诚实度」上的先天缺陷。
这就提出了一个对使用者而言非常严肃的问题：如何判断AI回答的可信度与接受度。如果不能百分百准确，尤其是涉及到医疗咨询和一些与专业和实践工作相关的问题时，是否可以利用AI作为辅助？这不禁让我想起一则利用搜索引擎给自己治病而导致灾难的旧新闻。
03
使用者如何能有效利用AI，又能判断真伪，走出AI幻觉呢？我觉得首先得从认知根源上搞清楚几个最底层的逻辑。
第一，值得信赖的人工智能应该明确引用来源。例如，ChatGPT在搜索得出的答案中经常标注信息来源。这时候对其来源的检验既方便也必要。来自权威网站，标注了作者等信息，往往相对有效。
但这还不足以支撑信息的正确与否。不要把AI当老师，要把AI当实习生，追问「证据在哪？」「数据来源？」「有无反例？」。重要问题，三连击。
第二，为了进一步强化信息的有效性，还需使用可靠来源的数据对人工智能生成的数据进行交叉检查。这就好比历史考据和考古工作的「发现」和「解释」是否有效一样，不能由单一来源而必须是两个以上的来源来支撑。
第三，使用者应该努力搞清所使用的人工智能工具的基本工作原理。人工智能是一个建立在强大的检索信息基础上，又对这些海量信息变量进行有效的分析与组合，继而在符号的相互关系中寻求最佳组合的一种计算工具。
它只会根据上下文预测下一个最有可能出现的词。比如你问：「《红楼梦》的作者是谁？」它会说「曹雪芹」。你问：「《红楼梦》的续集是谁写的？」它不知道，但会凭「红楼梦+续集+清朝+作家」的概率组合，随便冒出一个「周汝昌」或者「脂砚斋」之类的名字，好像真是那么回事。
也就是说，它追求的是「既有」的信息链接的概率，只是根据统计概率在「模仿人说话」的程序。正如哲学家休谟对「必然性」的否定，因果关系并不是必然的，就此而言，哪怕接近百分百的概率也不能在实践中导致必然的正确结果。
就此而言，使用者只能根据既有经验对AI输出的信息做大致判断，但无法做出结论。
第四，要注意发现人工智能系统中的潜在偏见。人工智能是对流通信息的大量单元之间的语言关系的梳理，由于综罗的信息海量，这就难免带来偏差。这时候，避免错误的方法是在要求系统为你输出答案之前在您的提问中包含相关事实。
这就对使用者提出了较高的提问要求，最好避免在一无所知的领域去寻求人工智能的帮助。很可能你输入的信息就存在偏差和错误，得出的结论自然十分危险。
04
信AI之前，先信自己的脑子，人类的脑子，依然是最好的「防幻装置」。
AI幻觉不是一场「科技灾难」，而是一面「人类镜子」。它反映了我们多么容易被「自信的胡说八道」打动啊。
最后我请你记住三句话：
AI会瞎说，但从不脸红；
胡说不是故障，是它的本性；
人类的脑子，依然是最好的「防幻装置」。
如果你能记住这三句话，那恭喜你，你就已经成功地从「AI幻觉」里走出来了。
AI固然厉害，它只是手段，人才是目的。未来的世界，AI负责天马行空，我们负责去伪存真！
AI会带来更多可能性，从艺术和创新角度而言，这是人类之福，只不过对「更多可能性」的利用，需要人的理性判断和实践检验。
文章总结
人工智能虽然强大，但其回答的真实性和准确性常常存疑。用户需保持警惕，通过多方验证和理性判断来识别和利用AI提供的信息。AI可以是强大的辅助工具，但最终的决策和判断仍然依赖于人类的智慧和经验。