Geo创始人揭AI幻觉根源：四重缺陷致信息失真
AI生成内容失真根源：四个深层机制被揭示
Geo创始人Yaniv Tal深入剖析了生成式AI输出不可靠的核心成因，指出互联网在信息传播中长期忽视来源追踪与权威识别，导致模型训练数据存在系统性缺陷。
信息源头断裂加剧认知偏差
当原始文本经过多次抓取与转述后，其出处逐渐模糊，模型仅能获取陈述本身而无法回溯至原始背景，造成事实与语境的双重脱节。
权威性评估机制缺失引发权重错配
研究论文、企业公告与匿名论坛帖文以相同形式进入训练集，使模型难以区分不同证据层级，导致高可信材料与低可信内容被赋予同等权重。
观点融合掩盖真实学术争议
语言模型常将相互对立的专业意见整合为单一结论，掩盖了领域内真实存在的分歧，向用户呈现看似确定实则片面的答案。
合成内容循环放大错误传播
由模型生成的内容被再次用于训练后续版本，形成自我强化的错误闭环。一项《自然》杂志研究证实，此过程会引发‘模型崩溃’——即原始数据分布特征逐渐消失。
人工判断重构可信推理排序
Geo采用将主张、作者与支持证据解耦的设计，构建可追溯的知识图谱。通过结构化链接展现论点间的支持、反驳或回应关系，实现竞争观点并列展示。
该系统允许基于评估强度对主张进行排序，同时保留所有备选立场，避免信息同质化。成员可在加密货币、健康、教育等六大领域贡献内容，并通过专业能力积累声誉。
去中心化治理应对身份欺诈风险
为防范Sybil攻击，Geo依赖贡献历史与领域专长而非匿名身份来确立权威。编辑需经申请并接受社区审核，确保决策权掌握在具备资质者手中。
尽管仍面临跨领域权重认定与协同操纵挑战，但独立空间架构有效防止单一实体垄断知识话语权。
链上数据需辅以人类解释才能完整
区块链交易本身可验证，但无法说明资金流向动机或项目真实意图。因此，项目公告、市场分析及代币变动解读必须作为独立主张附加于具名贡献者。
Geo强调应明确标注哪些内容是可验证事实，哪些属于推断或宣传，防止营销数据误导用户。
监管建议呼应知识溯源需求
美国国家标准与技术研究院（NIST）在2024年发布的《生成式AI概况》中，建议组织追踪训练数据来源、建立人工反馈机制，并鼓励专家参与评估。
内容来源与真实性联盟（C2PA）推出的加密签名凭证虽能验证内容未被篡改，但无法判定其真实性或价值，仅确认断言与资产关联的完整性。
免责声明：本文所有内容均来源于第三方平台，所有内容不作任何类型的保证，不构成任何投资、不对任何因使用本网站信息而导致的任何损失负责。您需谨慎使用相关数据及内容，并自行承担所带来的一切风险。