研究人员警告称黑客已开始利用大型语言模型编写攻击AI系统的代码进而利用这些被攻陷的AI系统去攻击其他AI机器。总部位于以色列的Oligo Security发现了这一现象标志着在网络世界中AI不断对抗AI的又一个里程碑。该公司发现针对名为Ray的软件的大规模利用证据。Ray是一款旨在帮助开发者管理和分配AI项目算力的软件。据Oligo的AI安全研究员Avi Lumelsky称Oligo的研究人员能够找到超过23万台Ray服务器在线尽管该公司已发出警告这可能使它们面临网络攻击的风险。Lumelsky表示他“非常确信”诸如OpenAI的ChatGPT和Anthropic的Claude等大型语言模型被用来生成代码以命令被黑的服务器挖掘加密货币尽管他无法具体指出是哪些模型。他指出当LLM被用于生成恶意代码时会存在可识别的“标志”包括代码中某些注释和字符串不必要的重复。Oligo的首席技术官兼联合创始人Gal Elbaz表示这些Ray服务器还被用来自主搜寻更多攻击目标将其运作转变为一种自我传播的僵尸网络这显示出“AI基础设施可能被劫持来攻击自身”。Oligo将此次攻击命名为ShadowRay 2.0这是对其去年检测到的黑客攻击的更新版本。FINISHEDCSD0tFqvECLokhw9aBeRqnk7jlSedZi6M5d0TwgfTSVBhEMVLPbu0jFWVwSzJGP92HyyK72FuLct/QnYxo030Y6dqs7Iyuv8UiV2u7QdlOxOwmuTZAbnwaFXkDLvCA更多精彩内容 请关注我的个人公众号 公众号办公AI智能小助手对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号网络安全技术点滴分享