“世界正处于危险中!”Anthropic AI安全负责人警示后官宣离职
整理 | 屠敏出品 | CSDNIDCSDNnews近日AI 安全领域迎来了一则颇具意味的人事变动。Anthropic这家以“安全 AI”为核心定位的明星公司其高级人工智能安全负责人 Mrinank Sharma 在 X 上宣布自己已于 2 月 9 日正式离职。这一决定并非简单的职业转向。在公开信中他直言离开的原因与更深层的忧虑有关对 AI 发展方向的反思、对全球风险的警觉以及对“价值观是否真正主导行动”的持续拷问。他提到公司内部所承受的多重压力正在与那些被反复强调的核心理念发生冲突。一位 AI 高级安全负责人写的辞职信在致同事的公开信中Mrinank 首先回顾了自己在 Anthropic 的两年历程。他坦言“我已经完成了自己当初来到这里想做的事情。”两年前他刚结束博士学业来到旧金山希望把精力投入到 AI 安全这个当时仍相对前沿、但已暗流涌动的方向。这两年他的工作并不抽象他深入研究了 AI 的“谄媚”sycophancy现象即为什么模型会倾向于迎合用户的偏好甚至在明知错误的情况下给出“讨好式”回答。此外他主导开发了针对 AI 辅助生物恐怖主义风险的防御机制并将其真正落地到产品与生产环境中。他还参与建立了内部透明度机制推动“价值观”从口号走向制度尝试让组织在面对现实压力时仍然能够有据可依。而他最后的一项研究触及了一个更根本的问题AI 助手是否可能让我们变得“不那么人类”它会不会在不知不觉中扭曲我们的判断、依赖方式甚至价值感然而这些成就并未让他选择留下。他在信中明确表示“我清楚地意识到是时候继续向前了。”“多重危机”之下的冲突谈及离开的原因Mrinank 并没有指向某一项具体分歧而是将视角拉得更远。他写道「自己不断反思我们所处的处境。世界正面临危险这不仅仅是 AI 或生物武器的问题而是一系列彼此交织的危机同时展开。有人称之为“多重危机”poly-crisis而其背后或许还存在更深层的“元危机”meta-crisis。」在他看来人类影响世界的能力正以前所未有的速度扩张。问题在于我们的智慧与成熟度是否跟得上这种力量的增长。如果能力持续上升而判断力、伦理自觉与集体理性却停滞甚至退化后果难以估量。在公司工作的这些年他反复体会到一件事让价值观真正主导行动并不容易。这种张力存在于个人内心也存在于组织层面。现实压力、竞争节奏、资本期待、舆论环境……都会在某些时刻把真正重要的事情挤到边缘。他没有用激烈的语言批评谁而是承认这种拉扯本身就是时代的一部分。这种现象不仅存在于一家 AI 公司也存在于更广阔的社会结构中。最终他选择回应自己内在的声音“在不断面对并倾听这种内在与外在的现实之后我逐渐看清自己必须做什么。我希望以一种完全符合自己内心与原则的方式去贡献力量。”他引用了诗人 David Whyte 的一句话——那些“无权被忽视的问题”也提到里尔克的提醒——有些问题不是被回答而是被“活出来”。对他而言这意味着离开。从代码到诗行一场关于“认知方式”的转向更令人意外的是他并未公布自己的下一步具体去向也没有投身另一家 AI 公司。他选择拥抱不确定性。信中有一句禅宗名言“不知最为亲近。”这似乎是他此刻的状态他想要主动腾出空间暂时放下这些年来支撑自己的结构与身份标签看看在它们退去之后会浮现什么。他的下一步计划带着浓厚的人文色彩。他表示希望攻读诗歌学位认真学习诗歌写作。其认为在技术不断改造世界的时代“诗意的真相”与“科学的真相”同样重要。前者帮助我们理解意义、关系与感受后者帮助我们构建工具与系统。如果两者失衡技术就可能失去方向。与此同时他打算将更多精力投入到引导、教练、社区建设与团队实践中。从一名技术安全的守护者转向促进人与人之间更深层连接的实践者。这并不是对技术的否定而是对认知方式的拓展。在信的结尾他附上了 William Stafford 的诗《The Way It Is》。诗中有一句话“有一条你追随的线在变化的事物中穿行但它本身不变。”或许这条“线”正是他真正想守护的东西。当安全专家选择离开Anthropic 一直被视为强调安全与对齐的代表性公司。如今一位高级安全负责人主动离开难免引发外界猜测。与此同时Mrinank 也并不是近期离职的唯一一人。正如《Business Insider》报道的那样包括 Harsh Mehta 和 Behnam Neyshabur 在内的多位研究人员最近也离开了 Anthropic去“开启新的事业”。但如果仅把 Mrinank 这件事解读为“内部矛盾”或“路线分歧”可能过于简单。这封信更像是 Mrinank 想要站在外部的视角探清 AI 的发展。推荐阅读耗费2万美元、两周写10万行Rust代码16个Claude智能体写的C编译器能编译Linux内核却卡在“Hello World”半夜11点、5杯酒下肚黄仁勋「吐真言」“写代码只是打字已经不值钱了”AI产品用户留存仅三个月周期对话王咏刚“不和AI协作过项目你就不是合格程序员” | 万有引力未来没有前后端只有 AI Agent 工程师。这场十倍速的变革已至你的下一步在哪4 月 17-18 日由 CSDN 与奇点智能研究院联合主办「2026 奇点智能技术大会」将在上海隆重召开大会聚焦 Agent 系统、世界模型、AI 原生研发等 12 大前沿专题为你绘制通往未来的认知地图。成为时代的见证者更要成为时代的先行者。奇点智能技术大会上海站我们不见不散

相关新闻

STM32CubeMX工程化配置:路径、仓库与固件包最佳实践

STM32CubeMX工程化配置:路径、仓库与固件包最佳实践

1. STM32CubeMX开发环境构建:从零开始的工程化配置体系 嵌入式开发工具链的稳定性与可复现性,是项目生命周期中不可妥协的底层基石。STM32CubeMX并非一个孤立的图形化配置器,而是一套贯穿芯片选型、外设抽象、固件集成与项目生成的完整工程化方法论。其核心价值在于将传统基…

2026/7/4 20:02:32 阅读更多 →
TSINGK110 二叉树遍历

TSINGK110 二叉树遍历

TSINGK110 二叉树遍历 ⭐️难度:较难 ⭐️类型:树 📖题目:题目链接 示例1: 输入: abc##de#g##f### 输出: c b e g d f a 📚题解: #define _CRT_SECURE_NO_WARNINGS #…

2026/7/4 8:22:18 阅读更多 →
电话号码定位技术实践指南

电话号码定位技术实践指南

电话号码定位技术实践指南 【免费下载链接】location-to-phone-number This a project to search a location of a specified phone number, and locate the map to the phone number location. 项目地址: https://gitcode.com/gh_mirrors/lo/location-to-phone-number …

2026/7/4 14:29:27 阅读更多 →

最新新闻

如何用嘎嘎降AI处理英语专业论文:英语专业毕业论文降AI知网4.8元完整操作教程

如何用嘎嘎降AI处理英语专业论文:英语专业毕业论文降AI知网4.8元完整操作教程

如何用嘎嘎降AI处理英语专业论文:英语专业毕业论文降AI知网4.8元完整操作教程 处理英语专业论文降AI教程时最怕两件事:降不下来,和改完不知道对不对。 这篇把整个流程梳理清楚,用嘎嘎降AI(www.aigcleaner.com&#x…

2026/7/5 4:51:21 阅读更多 →
为庆祝《终结者 2》上映 35 周年,工业光魔创始人探讨 T-1000 特效技术挑战

为庆祝《终结者 2》上映 35 周年,工业光魔创始人探讨 T-1000 特效技术挑战

【导语:为庆祝《终结者 2》上映 35 周年,工业光魔计算机图形部门几位创始人聚在一起,探讨打造液态金属 T - 1000 角色面临的技术挑战,想了解电影特效可看迪士尼纪录片。】《终结者 2》35 周年:特效技术探讨重聚在《终结…

2026/7/5 4:51:21 阅读更多 →
GESP2026年6月认证C++二级( 第一部分选择题(1-7))精讲

GESP2026年6月认证C++二级( 第一部分选择题(1-7))精讲

第一题 未来农场的神奇传感器(答案:C)1、📖故事开始(1)今天,小明来到了未来智慧农场。农场里没有农民拿着水壶浇地,而是有一个小机器人不停地说:"土地有点干了&…

2026/7/5 4:49:20 阅读更多 →
Sketch批量重命名插件终极指南:告别手动命名,提升设计效率10倍

Sketch批量重命名插件终极指南:告别手动命名,提升设计效率10倍

Sketch批量重命名插件终极指南:告别手动命名,提升设计效率10倍 【免费下载链接】RenameIt Keep your Sketch files organized, batch rename layers and artboards. 项目地址: https://gitcode.com/gh_mirrors/re/RenameIt 你是否曾因Sketch文件中…

2026/7/5 4:49:20 阅读更多 →
图像频域滤波实战:3步实现基于2D-FFT的高斯低通与高通滤波

图像频域滤波实战:3步实现基于2D-FFT的高斯低通与高通滤波

图像频域滤波实战:3步实现基于2D-FFT的高斯低通与高通滤波 1. 频域滤波的核心原理 当你第一次看到图像的频域表示时,可能会觉得那些对称的亮斑和条纹像某种抽象艺术。但正是这些看似神秘的图案,蕴含着图像处理的强大力量。频域滤波的核心思想…

2026/7/5 4:45:18 阅读更多 →
DeepSeek-R1本地部署指南:消费级硬件运行高效AI推理模型

DeepSeek-R1本地部署指南:消费级硬件运行高效AI推理模型

🚀 30款热门AI模型一站整合,DeepSeek/GLM/Qwen 随心用,限时 5 折。 👉 点击领海量免费额度 如果你是一名开发者,最近在尝试构建自己的AI应用,或者正在为团队寻找一个高效、低成本的本地AI解决方案&#…

2026/7/5 4:43:18 阅读更多 →

日新闻

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱,支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliTools …

2026/7/5 0:03:34 阅读更多 →
威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型的陌生现状在忙碌疲惫的一天里,参与了关于混合后量子密码学的讨论,应付端点攻击找茬的人,还参与留言板讨论后,发现“威胁模型”对多数人仍是陌生概念,且多被当作时髦用语。有趣的相关画作有一幅由 Embyr 创作的…

2026/7/5 0:03:34 阅读更多 →
渗透测试入门指南:从零基础到实战环境搭建

渗透测试入门指南:从零基础到实战环境搭建

1. 从“看热闹”到“入门”:我理解的渗透测试到底是什么?每次看到新闻里说某个大公司的数据被“黑”了,或者某个网站被攻击导致服务瘫痪,你是不是和我一样,心里会冒出两个念头:一是“这黑客真厉害”&#x…

2026/7/5 0:07:38 阅读更多 →

周新闻

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱,支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliTools …

2026/7/5 0:03:34 阅读更多 →
威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型的陌生现状在忙碌疲惫的一天里,参与了关于混合后量子密码学的讨论,应付端点攻击找茬的人,还参与留言板讨论后,发现“威胁模型”对多数人仍是陌生概念,且多被当作时髦用语。有趣的相关画作有一幅由 Embyr 创作的…

2026/7/5 0:03:34 阅读更多 →
渗透测试入门指南:从零基础到实战环境搭建

渗透测试入门指南:从零基础到实战环境搭建

1. 从“看热闹”到“入门”:我理解的渗透测试到底是什么?每次看到新闻里说某个大公司的数据被“黑”了,或者某个网站被攻击导致服务瘫痪,你是不是和我一样,心里会冒出两个念头:一是“这黑客真厉害”&#x…

2026/7/5 0:07:38 阅读更多 →

月新闻