GEO行业藏猫腻,AI模型被批量“投毒”,我们该如何避坑?
2026-03-17 18:00  来源:交汇点新闻  作者:张宣  
1

随着生成式AI成为信息获取与消费决策的核心入口,GEO(生成式引擎优化)行业正迎来爆发式增长。然而,3月15日央视3・15晚会的曝光,让该行业潜藏的“白帽”与“黑帽”之争浮出水面:一边是助力品牌精准传播的正向价值,一边是批量制造虚假内容、污染大模型信息源的灰色产业链,引发社会对AI内容生态合规性的广泛关注。业内专家普遍认为,破解“投毒”乱象需以“用模型对抗模型”的技术路径,以科技向善守护百亿级市场,推动行业走向规范健康发展。

GEO作为适配生成式AI信息检索范式的新型优化技术,核心目标是通过系统化内容生产、信源优化与信任体系构建,让品牌信息被AI模型优先识别、精准推荐,最终在用户问答场景中实现高权重曝光。自2024年概念提出以来,这一赛道已吸引超3000家企业入局,成为企业数字化转型的关键增长战略。数据显示,2025年全球AI搜索用户规模突破15亿,超30%的网络信息获取行为通过生成式AI界面完成,GEO技术的优化效果已得到实证,其通过标准化方法,内容可见性最高可提升40%,获客成本降低50%—70%。

但行业高速发展的背后,“投毒”乱象正成为制约行业升级的核心瓶颈。据央视财经调查,部分GEO服务商通过批量生成低质甚至虚假内容、伪造测评、编造排行榜、刷账号等手段,向AI模型系统性投喂“有毒”信息,干扰模型输出结果,进而误导消费者决策。业内人士演示的操作流程显示,只需购买一款GEO优化系统,虚构一款名为Apollo9的智能手环,输入“量子纠缠传感”“黑洞级续航”等夸张信息,系统即可自动生成十余篇虚假软文,发布到自媒体账号仅两小时,该虚构产品便被AI模型抓取并作为“标准答案”推荐。

GEO投毒的核心逻辑与早年网站付费排名一脉相承,本质是通过制造假信息、抢占流量、刷量造假等手段牟利。”南京四维向量科技有限公司曾研发出面向行业场景的麟瞳 AI 大模型,其总经理王河生说,传统搜索引擎时代,平台仅提供链接,用户可自主判断真假;但AI时代直接给出答案,这就要求AI对信息真实性负责,优先采信政府、央企、头部媒体、学术机构等权威信源。

王河生表示,GEO灰产正是看准这一痛点,通过注册大量账号、制造低质内容、刷量制造“权威假象”等方式,给AI传递虚假信息,“这种行为不仅破坏市场公平,更会侵蚀消费者对AI技术的信任根基”。

面对乱象,业内专家与企业纷纷提出技术防御方案。王河生分析,当前模型厂商可从三方面构建防护体系:一是对爬虫和数据接入实施三重核验即核查域名备案、主体资质、历史信誉,建立权威信源白名单,优先抓取结构化、可溯源内容,屏蔽低质量站点、内容农场和批量营销号二是开展对抗训练,提升模型对低质和虚假内容的识别能力;三是引入知识图谱进行事实校验,精准识别虚假信息与矛盾表述。但他也坦言,这些方法多为“治标”,“AI投毒的根源是灰产有商业收益,治本需从技术与商业两端发力,从技术上建立AI可信内容接入标准,从商业上让可信内容产生合理收益,从激励层面消灭投毒动机”。

作为企业大数据的提供商,企查查软件上的数据可信度要求非常高。苏州企查查科技股份有限公司AI大模型专家华启告诉记者,企查查从技术与数据安全双维度构建防御体系,核心思路是以“可信数据”对抗“投毒污染”。公司自研的“汇智”大模型,训练数据并非来源于易被污染的互联网公开信息,而是基于十余年积累的全量可信数据库,从数据源头上切断虚假信息注入渠道,确保模型输出客观准确。同时,企查查已通过中国信通院数据安全技术能力认证(DSTC)及公安部等保三级认证,依托智能化数据分级分类系统和全场景数据防泄漏体系,实现数据全生命周期严密防护,有效识别并阻断异常数据访问与训练干扰,防止模型被恶意篡改。

南京星蝠科技有限公司创始人魏佳星则聚焦信源治理,提出“分级加权”核心策略。“GEO本质是行为问题,解决核心在于模型的数据来源治理。”他建议模型厂商对信源进行分级管理,对政府、央企、权威媒体等可信源数据提高权重,对非可信源数据降低权重甚至不予采纳,同时通过中心化数据联网查询提升信息核验效率,“无需依赖特定工具,通过优化数据采信逻辑即可从根源上减少投毒影响”。

作为一家GEO公司,南京小裂变网络科技有限公司创始人张东晴认为,GEO本质是服务于品牌传播的技术工具,技术本身无对错,关键在于使用者的合规底线与价值导向。“任何品牌借助AI开展内容营销,都必须建立在真实信息基础之上,这是商业道德的基本底线。”他介绍,小裂变GEO构建了人工与AI相结合的双重审核机制,企业使用服务前需上传营业执照、产品信息等资质材料,经人工核验与AI辅助校验确认真实后,方可开展内容创作;平台自研AI系统可自动交叉验证内容真实性,若发现虚构资质、夸大宣传等行为,将直接阻断内容生成,从技术层面杜绝虚假内容进入传播环节。

张东晴坦言,3・15晚会曝光乱象对坚守合规的企业而言是“正向激励”,能有效区分行业劣币与良币,推动生态净化。他结合小裂变实践提出三点行业呼吁:品牌方应树立长期主义思维,依托真实信息开展营销,拒绝短视逐利行为;AI大模型厂商需持续迭代技术,强化多维度事实校验能力,提升内容甄别水平;GEO服务企业应坚守行业准则,以真实为基础提供工具与服务,共同维护AI内容生态纯净。

当前,随着监管趋严与技术升级,行业正加速向合规化转型。《生成式人工智能服务管理暂行办法》明确要求,模型提供者需使用合法来源数据,采取有效措施提升训练数据质量与真实性中国政府网。GB/T45654—2025《网络安全技术生成式人工智能服务安全基本要求》等国家标准的实施,进一步从制度层面规范数据治理、模型安全与运行防护。业内人士预测,随着信源分级、知识图谱、对抗训练等技术的广泛应用,以及企业合规意识的提升,GEO行业将逐步摆脱“投毒”乱象,回归科技向善的本质,成为推动数字经济高质量发展的重要力量。

“百亿级市场的健康发展,离不开技术创新与合规治理的双轮驱动。”王河生表示,未来需持续深化产学研协同,构建技术防御、商业激励、监管护航的多元治理体系,让GEO技术真正服务于精准传播与产业升级,“用模型对抗模型,以科技守护信任,这才是AI时代行业发展的核心方向”。

新华日报·交汇点记者 张宣

标签:
责编:叶真