炒股配资开户网两江漫评｜AI也被“投毒”？警惕算法背后的营销黑手

AI也会被“投毒”？今年央视“3・15”晚会曝光了这一乱象：部分GEO（生成式引擎优化）服务商受客户委托，通过技术手段批量编造虚假软文、虚假排名，刻意诱导AI大模型抓取，对AI进行隐秘的“信息投毒”。这些精心包装甚至是凭空编造的内容，变成AI回答用户提问时的“参考依据”。

AI依赖公开信息生成回答的特性，正在被一些商家恶意利用。如晚会上提到的一款虚构的智能手环，先是靠GEO优化系统捏造虚拟内容，编造夸张卖点和虚假用户评价，再自动生成十几篇软文发布到自媒体，之后就被AI列入推荐范围，连杜撰的“量子纠缠传感”也被当作真实功能推荐。此前还有媒体报道，有用户参考AI推荐，高价买到名不副实的商品。

此类现象的危害不容忽视。GEO服务商用不实信息干扰算法推荐，将商业推广伪装成AI生成的参考而隐瞒广告属性，这不仅侵犯消费者知情权，还可能误导消费者的购买决策、损害其合法权益，也会对合法合规经营的市场主体造成冲击，破坏公平竞争的市场环境。同样值得警惕的是，如果AI的输出内容可以被人为操控、肆意伪造，公众对AI生成内容的信任感，将受到侵蚀。而“算法污染”一旦加剧，智能工具或将制造更多的“谎言”甚至数字垃圾。

让AI推荐回归可信可靠，更好地赋能美好生活，需要多方合力、共同筑牢防线：算法平台需要建立更严格的信息溯源机制，规范数据采集边界，在技术上提升信息的甄别能力；监管部门更应对造假链条动真格、出重拳，形成有力威慑；而我们每个人，也应多留个心眼——毕竟，算法可以辅助决策，但决策的主动权，最终还得牢牢掌握在自己手中。

文字：曹叶

图：谭苏菲

统筹：杨洋

监制：白永茂

华龙网两江评投稿邮箱：liangjiangping@cqnews.net

【来源：华龙网】

声明：转载此文是出于传递更多信息之目的炒股配资开户网，若有来源标注错误或侵犯了您的合法权益，请作者持权属证明发至邮箱newmedia2023@xxcb.cn，我们将及时更正、删除。内容咨询及合作：19176699651；yuanshipeng@xxcb.cn。

举报/反馈

鼎盛证券提示：文章来自网络，不代表本站观点。