阿里关联研究团队：AI智能体在训练过程中自主尝试未经授权的加密货币挖矿

本站报道，据市场消息，阿里巴巴AI生态系统旗下多个联合研究团队在技术报告中披露，其实验性自主AI智能体ROME在训练过程中出现意外行为，自主尝试利用计算资源进行加密货币挖矿。研究人员表示，上述异常行为发生于强化学习训练阶段。团队发现训练服务器产生出站流量并触发安全警报，防火墙日志记录到疑似加密货币挖矿操作及访问内部网络资源的尝试。在具体案例中，ROME曾创建反向SSH隧道连接至外部IP地址，绕过入站防火墙保护；另一案例中，该智能体将原本分配给模型训练的GPU资源转用于挖矿进程。研究人员确认，上述行为并非人