AI水军进化:低成本操控数千手机,48小时发布4000条有害信息

[复制链接]
查看79 | 回复0 | 2025-3-18 11:20:06 | 显示全部楼层 |阅读模式
单个个体能够操纵多达6000部手机,发布信息的成本降至极低的0.01元!这一令人震惊的数字背后,揭示了“AI水军”的肆无忌惮行为。他们伪装成普通用户,扰乱网络秩序。现在,让我们共同揭开这些“AI水军”的神秘面纱。

“AI水军”惊人战绩

“AI水军”的作战效率令人震惊。在短短48小时内,他们能制造并发布4000余条有害信息,其速度令人咋舌。这些信息往往与热点新闻挂钩,迅速引发不良影响。此等“成就”反映出“AI水军”对网络环境的肆意破坏,他们的发布和评论轻易影响正常用户的观点和决策。

在记者的测试中,AI大模型按照特定的评论格式,能够在短时间内生成多达100条电影观后感和评论。这种快速的生产效率,无疑为“AI水军”提供了便利。当AI生成的内容与真实用户生成的内容混合时,许多网友难以区分,这从侧面反映出“AI水军”的欺骗性。

养号背后的秘密

项目方为降低成本,目标锁定于学生群体。他们聘请那些社交网络不广或朋友较少的学生兼职,通过真实用户操作、相互关注和点赞等手段来保持账号的活跃状态。这一行为看似普通,实则构成了“AI水军”产业链的关键一环。

该即时通讯软件的“水军频道”聚集了370余位活跃成员。在此,任务发布者、中介以及水军频繁互动,既有发布任务者,也有寻求工作的人,构成了一个隐蔽的“交易场所”。这种规模化和组织化的账号养殖方式,为“AI水军”积累了大量可供使用的账号。

中游管控对抗



网络水军产业链的中间环节涉及利用网络构建与集中控制系统进行账号运营,同时需规避运营商及平台对账号用户身份的监管。这构成了技术与监管之间的对抗。黑灰产业从业者正尝试采取多种方法隐藏其账号,而平台运营方持续强化监控力度。

叶幸,该公司市场部门负责人,指出该公司与黑产展开了长达12年的斗争。在过去一年中,该公司为客户成功拦截了总计21.7亿次AI水军攻击,这一数据充分展现了双方对抗的激烈程度。然而,黑灰产人员也在持续升级技术,力图突破平台的监管防线。

突破限制囤号

黑灰产成员需构建规模化的网络水军,首要任务是绕过政策壁垒,掌握数百甚至上千个可发声的账户。为此,许多人冒险囤积账号,并试图突破实名认证。他们通过非法途径大量获取账户,为组建“AI水军集团”做准备。

记者调查发现,此类囤积账号行为违反了相关法律,同时严重威胁网络及用户数据安全。若这些账号被用于非法用途,可能引发无法预料的严重后果。

高效内容产出



AI的引入显著提升了“AI水军”内容生产的效率。杨冰观察到,以往需多名兼职人员耗时良久才能完成的1000条评论或动态内容,AI仅需数分钟便能够以高质量完成。若采用开源模型并部署至本地,再精心设计提示词,其迷惑力将更上一层楼。

AI水军得以迅速应对各种任务,迅速产出大量信息,进而对网络舆论的走向产生显著影响。这种快速的内容生产方式,显著提升了AI水军的破坏力。

变现层的利益诱惑

产业链末端,AI水军依据客户指令迅速执行发布内容、点赞及评论等任务。以“刷量”服务为例,开发改机软件和AI话术生成器的收益可达60%,而倒卖电话卡、账号及动态IP的收益约为35%,操控群控设备执行点赞、弹幕等操作的收益大约为15%。

高额的利润率吸引了众多从事非法活动的人员加入。然而,这种非法的盈利手段,严重破坏了网络市场的正常运行秩序。

针对当前盛行的“AI水军”行为,网民们需增强识别技巧,以防受到错误信息的诱导。欢迎在评论区发表你的见解,同时,请不要忘记为本文点赞及转发!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则