0
0
研究表明，社交平台的推荐机制倾向于将相似意见的用户聚集在一起，形成“意见回声室”，使得信息传播更加偏向单一观点。这种结构天然对外部干预非常敏感，容易被恶意方利用来干扰公共舆论 。
研究团队借助强化学习技术开发了一套“对抗性代理”，通过增强版双深度 Q 学习（Double Deep Q‑Learning）算法，让机器人模拟恶意用户账号。这些机器人仅依据两个信息—用户当前意见与关注者数量—就能通过少量干预，放大社交网络中的立场对立。
在20人模拟社交网络中测试时，这种方法能迅速加剧对话分裂，并通过最小化人为控制来实现最大程度的极化效果，这与真实环境中的虚假信息或网络水军活动高度契合。
研究指出，设计这套系统的初衷是希望揭露社交平台的潜在漏洞，推动更强大的检测机制研发，以提升平台的安全性与透明度。
由 Zareer 本人指出，这套系统既轻量级又高效，在模拟环境中展现了显著影响力，其意义在于凸显了平台管理者应及时审视潜在风险 。
启示与建议
这项发现意味着多数社交平台可能已经具备被 AI 操控的土壤，尤其当对抗性机器人仅需非常有限的用户数据即可发起操作时。因此，研究者呼吁平台开发者和政策制定者加快完善AI内容监测和使用伦理的规范。
此外，研究还建议监管机构应更积极推动平台披露算法决策机制，并建立防止偏见扩散的自动审核系统，从源头上遏制恶意传播的溢出效应。
Concordia 大学的这项研究以简洁直观的实验模型，揭示了社交平台在 AI 干预面前的脆弱性。这不仅引发人们对公共话语空间安全的反思，也为平台、研究者和管理机构提供建设性路径。未来，如何在释放 AI 潜力的同时保护社交生态，将是技术与政策层面亟待回答的命题。
北京站
客服专线： 400-010-8000
服务专线： 400-010-8000
北京分公司：北京市朝阳区 建国门外大街永安东里甲3号院B座
友情链接 · 美国留学 | 英国留学 | 澳大利亚留学 | 加拿大留学 | 新西兰留学 | 日本留学 | 欧洲留学 | USA:A Study Destination
©2025金吉列出国留学咨询服务有限公司 版权所有 ｜ 京ICP备05010035号 ｜ 京公网安备11010502038474号 ｜ 出版物经营许可：新出发京零字第朝190057号
信息提交成功！稍后将有专人与您联系。
留学官方微信
留学官方微博
刘畅
