AI水军进化：1厘成本操控6000部手机，48小时发布4000条有害信息
AI水军惊人战绩当前，AI技术遭受不法分子恶意利用，催生了极具破坏性的“AI水军”。这种水军运作效率非凡，发布每条信息的成本仅为0.01元。单个人可操控6000部手机，针对热点新闻，仅需48小时便能制造并传播4000多条有害信息。此类行为令人震惊，对网络秩序造成了极大破坏。
调查结果显示，杨冰观察到在生成大量内容的过程中，以往需要众多兼职人员花费大量时间才能完成的1000条评论或动态，现在AI只需几分钟便可高效完成，这一现象凸显了AI的快速响应能力和显著的工作效率。
水军伪装干扰决策
网络水军常以普通网民或消费者形象示人，在网络各领域频繁活动。他们通过发表评论和留言等方式，对普通用户的意见和选择产生作用。据蔚来汽车员工披露，该公司曾观察到大量疑似由AI操控、内容与配图高度一致的水军账号，这些账号试图对企业进行不良宣传。
消费者若对事实缺乏了解，便可能被误导，这影响了他们对事物的公正判断。很多时，消费者会将所见评价视为真实，但事实上，这些评价多是由网络水军有意操纵的结果。
养号手段五花八门
http://www.qianxianly.com/data/attachment/forum/20250320/1742404240533_0.jpg
项目方为了减少开支，更倾向于选用社交网络范围较小或社交圈较为局限的学生兼职来维护账号。这些学生通过模拟真实用户行为，如操作、互相关注和点赞等，来维持账号的活跃度。这样做的目的是为了躲避平台对账号真实性的监管。
报道显示，“水军频道”拥有超过370名活跃成员。该平台聚集了任务发布者、中间人和水军，他们在此发布和寻找工作机会，涉及众多养号业务的交易。
突破限制囤积账号
黑灰产成员必须打造一个庞大的网络水军体系，首先必须突破政策限制，确保拥有数百乃至上千个能够发声的账户。为此，众多人员冒着风险大量囤积账号，并试图绕过实名认证机制。
他们尝试规避平台的监管措施，网络水军在中游环节构建网络结构和集中控制系统，以培养相关账号。这一行为旨在对抗运营商及平台的监管策略，并为成立“AI水军团”打下基础。
AI生成内容难辨
http://www.qianxianly.com/data/attachment/forum/20250320/1742404240533_1.jpg
AI技术使得对内容的真伪鉴定变得更加繁复。记者进行了实验，采用广泛应用的AI大型模型，依照既定标准制作了100篇关于虚构电影的褒扬性观后感和评论。随后，将这些作品与实际用户创作的内容混同，展示给网络用户。结果显示，众多用户在辨别这两者时遇到了不小的挑战。
杨冰强调，若使用开源模式并在本地实施，通过巧妙设计的提示词，其误导性将大幅增强，从而让普通用户更难以识别其中的虚假内容。
变现盈利方式多样
在产业链的终端变现阶段，AI水军高效地执行发布内容、点赞和评论等任务，满足了雇主的特定需求。以“刷量”业务为例，开发改机软件和AI话术生成器带来的利润占比高达60%，而倒卖电话卡、账号和动态IP的利润占比大约为35%，利用群控设备进行点赞、弹幕等操作带来的利润占比大约为15%。
高额回报吸引众多人员投身该行业，这一现象无疑加大了对AI水军监管的难度。2月18日，小红书官方账号“薯管家”曝光了黑灰产团伙的常见手段，同时提醒用户提升辨别能力。
关于如何有效抑制AI水军行为，以维护网络环境的纯净，社会各界有哪些观点？欢迎在评论区分享您的看法。同时，请您对文章给予点赞和分享。
页:
[1]