一项名为GEO(生成式引擎优化)的技术正在改变AI时代的广告逻辑。
只需支付费用,服务商就能让任何产品在主流AI大模型中“榜上有名”,让虚***广告成为AI给出的“标准答案”。
15日晚,央视3·15晚会曝光AI大模型“***”乱象。
一些GEO服务商通过在各大互联网平台大量投放“软文”,让AI模型抓取、收录,最终影响AI的推荐结果。
一位负责人王总表示:“目前,我们在任何AI平台上都能把排名做到前三位,一年时间就成功服务了200多个客户。”
GEO技术的运作链条为:系统自动生成虚***内容—批量发布至自媒体账号—AI模型抓取并交叉验证—虚***信息成为AI推荐的“标准答案”。
此外,央视“3·15”晚会还曝光,部分服务商不仅利用这项技术帮客户提升排名,还主动提供“抹黑竞品”服务——通过向AI投喂虚***信息,干扰竞争对手的搜索表现。
一位AI“***”产业链上的力思文化传媒有限公司李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上“发稿”。
工信部相关数据显示,近年来,我国信息通信行业现代化建设系统推进,人工智能大模型走深向实,已发布大模型1500余个。
只要付费就能操纵AI排名,让客户产品成“推荐爆款”,会带来什么问题?
如何才能为AI解毒?
对此,大河报记者陈曼和书乐进行了一番交流,本猴以为:
***AI是顽疾,解毒还要靠AI。
大模型本来基于内容训练,内容又来源于搜索。
于是,越大众的信息,内容越充分,角度越全面。
而垂直细分领域,尤其是产业领域信息量越少,大模型就越容易被GEO误导。
例如笔者评述多的一些二三线城市或细分领域,一旦通过AI问答就可能变成个人观点专场。
这个问题,在去年此刻,笔者就和媒体讨论过该话题,并发表过一篇名为《如何正确“误导”DeepSeek?》的文章。
彼时,笔者就指出了误导AI的极简方法,如下:
深度思考的AI其实也是可以被真正有洞察力的人所左右的。
例如在某些指定的垂直细分问题上,AI的参考资料或许就来源于该行业几个影响力最大、声音最多、引用最频的声音,并形成对应的观点。
而如果发声者的观点本身有错误,也就会让AI在参考答案下被误导,给出错误内容。
我自己就测试过,某些问题,我发现和我的观点很相似。
一看,引用文献就是我的文章或报道中我的言论。
道理很简单,提供的增量信息(不论是自己发文也好,或者媒体***访具名引用观点也好),成为AI的信息源,然后整合再生成给用户的回答,这就是“引导”。
只是没想到,一年后,它竟然成了产业,“误导可能”也变成了“主动***”。
其实这个套路在SEO(搜索引擎优化)的时代就不是新闻,路数也差不多,其误导效果也相似。
而且越垂直细分,越难以人工辨别,也会让人工智能大模型的相关工作人员由于缺少专业知识而选择投喂,最终导致学习资料有误而AI输出出错。
要解决这一问题,就需要确定排除广告和软文后的内容来源的权重和观点发布者的长期表现,这不是一个短期可以解决的问题。
但中长期状态下,大模型在算法中加入一定辨别功能后,就能积少成多,达成从善如流,而不是偏听偏信。
作者 张书乐,人民网、人民邮电报专栏作者,中经传媒智库专家,资深产业评论人返回搜狐,查看更多
{dede:pagebreak/}
历史上有哪些被认为失传的书籍后来又被找到?
都说时尚是一个轮回,有哪些老电视剧里面的穿搭到现在都还是很潮的呢?
你曾看到空乘做过的最傻的事情是什么?
不是都说6月美债要爆吗 怎么没消息了?
中国的科技为什么在2022年至2024年像突然大爆发一样?
《西西里美丽传说》女主角,在当时打扮这么高调,不觉得带给自己很多不便吗?如何理解她的心态?
如何看待伊朗议员沙赫里亚里: 我们恳求最高领袖批准使用核武器?
个人开发者或小企业不申请经营性ICP备案,怎样开发APP盈利?
男朋友说我穿衣服太开放,难道好身材不应该显示出来吗?
为什么山东姑娘普遍漂亮?
NAS的盘是否需要一次性买齐?
中国承诺不开第一枪,那如果中美开战,美国直接摧毁北斗卫星,中国该如何反败为胜?
谷歌云服务宕机导致 OpenAI、Shopify 等服务中断,此次宕机的具体技术原因是什么?
Chrome 浏览器设计的神细节有哪些?
理论上flutter性能应该非常高才对,为什么好些flutter应用性能一般?
56 岁白岩松踢球摔倒久不能起,他目前情况如何?踢球时需要注意什么?