AI水军进化：单条成本低至1厘，一人操控6000部手机，48小时发布4000条有害信息

惊人战绩曝光

发布信息的费用极低，仅需0.01元。单个人可操控6000部手机。在短短48小时内，能制作和传播4000多条有害信息。这些数据揭示了“AI水军”的恶劣行为。他们假扮成普通网民或消费者，通过多种方式干扰了用户的观点和决策。蔚来新能源汽车品牌曾遭受AI篡改内容和大量水军散播负面消息的攻击。

网络水军活动频繁，对网络环境的健康发展和公正性造成了明显影响。这导致许多用户在不知情中可能受到误导。在信息量急剧增加的今天，如何辨别这些水军传播的信息，已成为众多网民亟待解决的难题。

黑产养号手段

项目方为了降低成本，通常聘请社交范围有限的学生兼职管理账户。这些兼职人员通过模仿真实用户的行为，比如互动、关注和点赞等，以保持账户的活跃状态。在“水军频道”的讨论组里，记者发现，370多名活跃成员中，任务发布者、中介和执行者各负其责，有人负责分配任务，有人寻找工作机会，整个养号产业链在网络上秘密运作。

恶意注册账号活动对网络秩序造成严重破坏，导致众多原本真实的账户被用于不实操作。这一现象给监管工作带来了日益增加的挑战。此外，如何准确辨别这些养号水军账户，已经成为当前亟待解决的紧迫问题。

AI助力创作

过去，处理一千条需多人花费大量时间分析的评论或动态是一项耗时的工作，而现在，AI只需几分钟便可高效完成这一任务。实验表明，借助流行的AI大型模型，记者能够轻松按照既定模式撰写关于虚构电影的观后感和评论。更令人担忧的是，当AI生成的内容与真实用户发布的内容交织时，部分网友甚至难以区分其真伪。

杨冰指出，在本地实施开源模型之后，调整后的提示词导致AI生成的文本具有更强的误导性。这一变化使得“AI水军”的输出变得不可预测，从而对网络信息的真实性造成了更显著的负面影响。

产业链中游策略

中游企业通过搭建网络和集中控制系统对账户进行管理，以此手段规避运营商和平台对账户用户身份的监管。目前，黑灰产业从业者正积极组建庞大的水军团队，他们通过储备账户并绕过实名认证，为即将进行的大规模水军行动做好前期准备工作。

该行为严重违背了网络管理的相关法规和法律规定。尽管违规现象时有发生，但在巨大利益的诱惑下，仍有部分人愿意冒险尝试。鉴于此，增强对中游环节的监管力度，同时切断水军产业链的核心环节，成为确保网络安全的关键举措。

下游变现模式

在产业链尾部，AI水军迅速执行发布内容、点赞及评论等任务，以满足客户需求。以“刷量”服务为例，借助改机软件和AI话术生成器，利润率可攀升至60%；倒卖电话卡、账号及动态IP的利润率约为35%；操控群控设备完成工作，其利润率大约为15%。

高额回报促使大量人士加入“AI水军”领域，导致网络环境变得越发复杂与杂乱。要改善网络环境，打击非法变现途径和抑制这种逐利行为至关重要。

平台积极应对

2月18日，小红书官方账号“薯管家”揭露了黑灰产团伙的惯用手段，并提示用户增强识别力。叶幸，某公司市场部门负责人，透露其公司同黑灰产业抗争已历12载，今年在客户支持下，有效阻挡了21.7亿次AI水军发起的攻击。

企业与平台正在采取措施，然而“AI水军”策略持续发展。在这轮持续的对抗中，迫切需求更高效的应对措施。各方亟需联手，共同制定应对策略。

关于如何更高效应对“AI水军”现象，我们热切期待各方踊跃发表见解。同时，也请别忘了为本文点赞及转发，以此推动讨论的深入。