聚焦源代码安全网罗国内外最新资讯编译代码卫士微软指出威胁行动者们正越来越多地利用人工智能加快攻击速度、扩大恶意活动规模并降低网络攻击各个环节的技术门槛。微软威胁情报团队发布报告提到攻击者正在将生成式AI工具用于广泛的任务中包括侦察、钓鱼、基础设施开发、恶意软件创建以及入侵后的活动。在许多案例中AI被用于编写钓鱼邮件、翻译内容、总结被盗数据、调试恶意软件以及协助编写脚本或配置基础设施。微软提醒称 “在这些应用中AI起到了力量倍增器的作用减少了技术阻碍并加速了执行过程而人为操作者仍保留对目标、攻击对象以及部署决策的控制权。”AI被用于增强网络攻击能力微软已观察到多个威胁组织将人工智能整合到网络攻击中如朝鲜黑客组织Jasper SleetStorm-0287和Coral SleetStorm-1877将这项技术用作远程IT工作者攻击活动中。AI工具帮助生成逼真的身份信息、简历和通信内容以入职西方公司并维持访问权限。该报告还说明了AI如何被用于辅助恶意软件开发与基础设施创建威胁行动者利用AI编码工具生成和优化恶意代码、排查错误或将恶意软件组件移植到不同的编程语言中。一些恶意软件实验显示出AI赋能型恶意软件的迹象它们能够动态生成脚本或在运行时修改自身行为。微软还观察到Coral Sleet利用AI快速生成虚假公司网站、配置基础设施并对其部署进行测试和故障排除。当AI安全防护措施试图阻止AI在这些任务中的使用时威胁行动者便会利用越狱技术诱使大语言模型生成恶意代码或内容。除了生成式AI应用外微软公司的研究人员发现威胁行动者尝试使用代理型AI来自主执行任务并根据结果进行调整。然而微软表示AI目前主要被用于决策支持而非自主攻击。由于许多IT工作者活动依赖于对合法访问权限的滥用微软建议各组织控股皮将这些计划及类似活动视为内部风险进行处理。此外鉴于这些由AI驱动的攻击与传统网络攻击相似防御者应侧重于检测异常凭据使用、强化身份系统以抵御钓鱼攻击并保护可能在未来攻击中成为目标的AI系统。其它组织机构也观察到威胁攻击者越来越多地利用人工智能来发起攻击并降低准入门槛。谷歌最近发布报告称攻击者在网络攻击的各个阶段都在滥用其Gemini AI而这与亚马逊在这场活动中观察到的情况如出一辙。亚马逊和Cyber and Ramen安全博客最近也报道称某威胁行动者在攻击活动中使用了多种生成式AI服务入侵了600多台FortiGate防火墙。开源卫士试用地址https://oss.qianxin.com/#/login代码卫士试用地址https://sast.qianxin.com/#/login推荐阅读AI 编程助手 Cline CLI 2.3.0遭篡改悄悄安装 OpenClawAI 助手OpenClaw 易遭一次点击 RCE 攻击用AI攻击AIRay AI开源框架中的老旧漏洞被用于攻击集群AI供应链易遭“模型命名空间复用”攻击原文链接https://www.bleepingcomputer.com/news/security/microsoft-hackers-abusing-ai-at-every-stage-of-cyberattacks/题图Pixabay License本文由奇安信编译不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。奇安信代码卫士 (codesafe)国内首个专注于软件开发安全的产品线。觉得不错就点个 “在看” 或 赞” 吧~