钻石VIP会员
什么意思呢？就是它看过大量文本后，知道一个标准答案应该长什么样，所以会按照"语言模式"去生成看似正确的答案。
但这里有个关键问题：AI并不知道什么是"真"什么是"假"，它只是在预测下一个字最可能是什么。这就导致一个现象，我把它叫做"可信的幻觉"——现在AI输出的内容不再是纯胡编，而是"真真假假"混在一起，比如引用真实的法官名字、真实的论文链接，再夹带虚构的判例或引用。
更有意思的是，有这样一则案例：英国法官发现自己被写进AI伪造的判例中的案例，以及印度法官用AI判案结果"格式完美内容全假"的情况。
这说明什么呢？越是高度专业化、语言高度结构化的领域，AI幻觉反而是真正的重灾区。为什么呢？因为这些领域的文本格式更固定、语言模式更清晰，AI更容易"学会"这些模式，但并不代表它理解了内容。
但反过来想，图灵在70多年前就看穿了这个悖论——如果AI只是一个精确的数据库查询系统，我们根本不会觉得它有智能。正是这种"不可靠"，才让它显得有智能。 所以，AI胡说八道这个问题，短期内确实没法完全避免，我们得学会和它共处。