AI 答案失真根源曝光：四大缺陷引发信任危机

核心提要：Geo 创始人 Yaniv Tal 揭露当前 AI 回答不可靠的深层原因，指出来源丢失、权威扁平化、分歧掩盖及错误循环等四类系统性缺陷。他提出基于链上结构的知识治理方案，强调人类判断与可追溯证据的重要性。

AI 输出失准的四大结构性成因解析

Geo 创始人 Yaniv Tal 指出，当前生成式 AI 的回答偏差并非单纯算法问题，而是根植于互联网信息架构本身的四大缺陷：原始来源湮没、权威等级模糊、观点冲突被掩盖，以及错误内容在训练闭环中不断复制放大。

信息流转中源头消逝与权威失衡

当网络内容被多轮抓取与重写后，其初始出处往往无法还原。一条主张可能历经数个中间页面才进入训练数据集，导致模型仅能识别陈述本身，却丧失对原始背景的追踪能力。

在缺乏区分机制的情况下，学术论文、企业公告与匿名论坛帖子以相同文本形式呈现，使得模型难以判断其证据权重，进而将不同可信度的信息视为等值。

竞争观点被压缩为单一结论，掩盖真实争议

语言模型常将对立立场合并为一个看似统一的回答，这种简化操作隐藏了专家之间的真实分歧。用户因此接收到的是高度自信但未经辨析的单一结论，而未获知其他合理替代观点的存在。

该现象加剧了认知误导风险，尤其在政策、健康或科技领域，单一答案可能误导决策。

合成内容循环训练导致模型分布偏移

随着模型持续使用自身输出作为新训练材料，错误信息开始自我强化并扩散。这一过程形成恶性循环，使生成内容逐渐脱离原始人类创作的数据分布。

2024 年《自然》杂志研究证实，反复训练会导致“模型崩溃”——即系统逐步遗忘真实数据特征，最终输出与原始语义脱节的内容。

人类判断回归：构建可见分歧的知识体系

Geo 提出将主张、来源与支撑证据进行分离的治理框架。通过建立结构化链接，系统可明确标识论点间的支持、反驳或回应关系，使争议可视化。

该平台允许对不同观点按评估强度排序，同时保留所有竞争性内容，避免将多元意见简化为无差别的评论流。

“多元并不等于混乱，”Tal 强调，“多个结构清晰的竞争观点更能逼近真实。”

去中心化策展：基于贡献积累声誉的社区机制

Geo Genesis 项目基于 Aragon OSx 治理框架运行，采用 GRC-20 标准实现链上知识结构化表达。成员可在加密货币、医疗、教育等多个领域贡献内容，并通过申请成为编辑参与治理。

编辑权限由社区投票授予，贡献者声誉随跨空间活动积累，确保专业知识具有可迁移性而非集中控制。

身份验证难题：防范 Sybil 攻击与虚假节点

开放治理面临的核心挑战是确认贡献者的真实性。尽管生物识别、社交信任网络和零知识证明等技术正在探索中，每种方案均需在隐私保护、抗攻击性与可访问性间权衡。

Tal 表示，Geo 将优先采纳有公开历史记录的贡献者，拒绝匿名材料与署名者的平等地位，从而降低操纵风险。

链上行为与人类解释必须区分开来

在加密资产领域，区块链可验证交易发生与否，但无法说明谁控制地址、资金用途为何或活动是否具备正当性。

因此，项目公告、合作声明、市场预测等主张必须附加具名来源，并保留其演化轨迹，包括后来被证伪的早期说法。

监管机构亦倡导溯源与人工审核并行

美国国家标准与技术研究院（NIST）在 2024 年发布的《生成式 AI 概况》中建议，组织应追踪训练数据来源，监控生成内容流向，并引入人工反馈机制。

内容来源与真实性联盟（C2PA）则通过加密签名凭证记录创作与修改历史，但仅能验证断言与资产关联性，不承担内容真实性的担保责任。