博主介绍 了解博主波仔椿 人生箴言技术落地方为 AI 正道。 我的专栏普通人可落地的 AI 提效实战文章内容上个月跟一个做律师的朋友吃饭他跟我吐槽了一件事。他接了一个劳动争议的案子想先让AI帮忙梳理一下相关法律条文。AI哗哗哗给他输出了一大段条理清晰、逻辑严密连法条编号都精确到了第几条第几款。他一看觉得挺靠谱正准备拿去用结果他助理多了个心眼去法库里逐条核对了一下——好家伙三条引用里两条压根不存在完全是AI编的。他当时跟我说“这玩意儿回答得太自信了要不是查了一下我真就信了。”这件事让我想了很久。现在身边的人聊AI态度基本是两个极端要么觉得AI无所不能写文案、做PPT、写代码人类马上就要被替代了要么觉得AI就是个高级点儿的搜索引擎聊胜于无用不用差别不大。两种看法都不对。我后来想了很久才想明白这件事——问题不在于AI强不强在于我们根本不知道它哪儿强、哪儿弱就像一个你不太熟的同事你既不知道他的拿手活也不知道他会在什么事上掉链子。所以今天这篇文章我想聊聊大模型底层的那套东西它凭什么这么能打又有哪些毛病是娘胎里带的、怎么都改不掉的。一、四个拿手活大模型凭什么这么快进入普通人的生活我有个做运营的同事以前她的电脑桌面上摆满了各种软件图标翻译用这个、修图用那个、写文案又得切另一个。她跟我抱怨过学这些工具比干活本身还累。但这一年多她桌面变干净了。不是她不上进了——是她发现大部分事一个对话框就搞定了。这事让我开始认真琢磨同一个AI工具怎么能同时干翻译、修图、写文案这些完全不搭边的事传统工具可都是各管各的。答案其实在大模型底层那套通用学习的机制上。说白了传统AI工具是一招鲜专门为某一个任务训练的换个场景就废了。大模型不一样它是个通才——它不是学怎么写文案、怎么修照片的它是学怎么理解人的意思的。你让它干嘛它就去匹配对应的能力。除了什么都能干大模型还有一个让我特别服气的地方——进化速度。我记得去年年初第一次用某个国产大模型让它帮我写一段产品介绍出来的东西干巴巴的翻来覆去就是那几句套话。我当时心想也就这样了。结果半年后再用同样的需求它开始会用比喻了会分析目标用户了甚至还主动问我面向的是企业客户还是个人用户。你如果一直不用、隔了半年再去试会有一种这已经不是同一个东西了的感觉。传统的软件一年更新一个大版本就算勤快了大模型是每天都在进步。上次我表姐问我一个生物方面的问题——她班上一个学生问的关于什么酶的作用机制她一个语文老师怎么答得上来。她把问题丢给AIAI从酶的化学结构讲到人体代谢路径从头到尾逻辑自洽还自动把专业术语翻译成了初中生能听懂的话。她跟我说“我感觉我面前站着一个生物学博士。”这件事让我想到大模型的第三个核心优势——知识储备。它不是记性好是读得多。对比维度传统工具大模型使用方式一个工具干一件事一个对话框解决多种需求学习门槛每个软件都要学操作会说人话就能用迭代速度半年到一年一个大版本几周到几个月就有明显变化知识范围限定在预设领域覆盖几乎所有公开知识领域创作方式模板填充机械拼接理解意图后自由生成至于第四个优势——高效创作说实话写这篇文章本身就是例子。以前写一篇这个长度的技术文章我得先列提纲、查资料、打草稿、反复改没个三五天根本出不来。现在呢我脑子里有思路剩下的组织、润色、查漏补缺AI能帮我省掉至少七成的搬砖时间。但别急着下结论——优势讲完了接下来才是重点。正因为大模型这套底层机制它也带着一堆治不好的毛病。二、四个治不好的毛病大模型身上那些改不掉的出厂设定继续说我那个律师朋友的事。AI给他编了两条不存在的法条这件事让他差点在客户面前翻车。他后来问我“为什么它能编得那么像连措辞、句式、编号格式都跟真法条一模一样。”答案其实不复杂大模型的工作方式决定了它一定会出现幻觉。我后来终于搞懂了一件事大模型不是思考出答案是算出答案。它看着你提的问题在脑子里过一遍——“根据我的训练数据下一个字大概率是什么再下一个字呢“它追求的不是说得对”是说得顺”。我把四个最常见的毛病拉了个表毛病表现我身边的真实例子AI幻觉自信地输出不存在的信息律师朋友遇到的法条编造逻辑断裂复杂推理容易翻车让AI算一笔涉及多重折扣的订单中间步骤直接跳错知识滞后不知道训练截止后发生的事问它上个月的某政策变化它一本正经回答旧政策价值观缺失缺乏人情味和道德判断让它评价一首表达丧子之痛的诗它从韵律工整度开始分析第二个毛病——逻辑推理薄弱——我上个月刚踩过坑。我给AI发了一组销售数据让它分析为什么第二季度华北区业绩下滑。它给我的分析看起来头头是道市场竞争加剧、客户预算缩减、产品定价偏高……每一条都有模有样。但我实际去翻了一下原始数据发现华北区Q2有一个大客户合同正好在季度末才签下来只是没计入当期统计。等合同入账后华北区的数据是增长的。AI根本没发现这个问题它只是把所有可能导致业绩下滑的原因拼凑了一遍。后来我就养成了一个习惯——AI给的分析结论我会先反问一句你凭什么这么说“它答不上来的时候大概率就是在造句而不是在推理”。第三个问题知识滞后性是最容易让人掉以轻心的。有次我一个朋友问我上周北京新出的那条购房政策影响大不大她很自然地打开AI去问AI也很自然地回答了一通——但回答的是半年前的旧政策。如果你不了解这个领域根本看不出问题。第四个短板——价值观判断的缺失——听起来很抽象我说个具体的你就明白了。之前网上流传过一个测试让AI评价一首描述丧亲之痛的诗。人类的反应是心里一紧、鼻子一酸AI的反应是这首诗运用了比喻和排比的修辞手法情感表达较为充分。不是AI冷血是它根本没有悲伤这个概念它只能识别文字模式。三、幻觉这件事为什么AI会一本正经地胡说八道在四个毛病里幻觉是最普遍、也最容易让人翻车的。我想单独拿出来多聊几句。很多人不理解AI不是号称读了全网的知识吗为什么还会编造不存在的东西这里有一个关键认知——大模型的工作方式跟我们人类完全不一样。你问我昨天中午吃了什么我会回忆一下然后告诉你吃的是面条。我会调取真实的记忆哪怕记不清也不会凭空编一个吃了满汉全席。大模型不是这样的。它没有记忆这回事。你问它一个问题它做的事是看你的问题然后在海量的训练数据中计算按照人类的语言习惯下面最应该接什么词。举个例子。你问它“请引用《民法典》第1043条。”它如果训练数据里刚好有这一条的原文那它就输出原文。但如果它的训练数据里没有这一条或者数据质量不好——它不会说我不知道它会造一条出来。因为从概率上讲看起来像法条的句子比我不知道更符合它学到的回答模式。有没有或不足用户提问训练数据中是否有准确信息?调用真实数据输出准确回答启动概率补全怎么说才通顺补齐缺失信息生成表面合理但实质虚假的内容AI幻觉可靠输出这个机制注定了幻觉是大模型从娘胎里带来的毛病不可能彻底根治——当然不是完全没招。目前最有效的方法叫RAG。名字很唬人但道理不难——给AI配一本标准答案书。你问它问题它先不靠自己那套概率算法瞎猜而是先去翻这本书找到相关内容再基于书上的内容来回答。这就好比你问一个刚入职的新同事公司的报销流程是什么与其让他凭感觉猜不如给他一本员工手册让他照着说。你想想这个区别没配RAG的AI是在裸考——全凭训练数据里记住的东西配了RAG的AI等于开卷考试——可以翻参考资料。哪个更靠谱不用我说。除了RAG还有几个常用的手段垂直场景微调给通用大模型喂大量某个行业的真实数据就像给一个全科医生补了心脏外科的专项训练。人工对齐让人类标注员告诉AI哪些是对的、哪些是错的反复纠正。主动承认不知道现在主流大模型遇到确实不清楚的问题会直接说暂无相关信息不再硬编。不过丑话说在前头——这些方法是降低幻觉概率不是消灭幻觉。你用AI的时候永远要保留一分怀疑尤其是涉及事实、数据、条款的内容。四、说到底AI是个工具——别神化也别小瞧聊完优势和短板我想说一个最根本的认知——很多人用不好AI不是技术问题是定位问题。要么觉得AI什么都能干扔给它一个模糊的需求指望它给出完美答案结果发现到处都是坑转头就说AI不过如此。要么觉得AI就是个花架子PPT做得还行正经事一件干不了从来不去试。这两种态度说到底是同一个毛病——没搞清楚人和AI的分工。工作类型谁更适合为什么文案初稿、会议纪要整理AI机械重复耗时但不需要深度思考数据筛选、信息检索AI速度快、覆盖面广最终决策、核心判断人需要担责任、需要综合考量原创创意、战略规划人需要跨领域联想和突破性思维情感沟通、价值判断人需要共情、需要道德底线代码初稿、翻译草稿AI效率碾压质量尚可终稿审核、专业校验人需要专业经验做最后把关我现在的习惯是让AI干第一遍——初稿、初筛、初排——自己干最后一遍——审核、把关、定调。这样一来AI帮我省掉了最磨人的搬砖环节我保留了最核心的拍板权力。说一个我自己的变化。以前看到AI出的内容尤其是那种看起来特别专业、特别有逻辑的我会下意识觉得应该没问题。但经历了律师朋友那件事、经历了数据分析翻车、经历了政策信息滞后之后我现在养成了一个条件反射——AI给的任何内容只要涉及事实判断我先默认它是初稿必须交叉验证一遍才敢用。这不是不信任AI。恰恰相反我觉得这才是真正用好了AI——你知道它的边界在哪你就不会在边界外头摔跟头。五、写在最后这篇文章聊了很多AI的毛病可能有人会觉得我是在唱衰AI。不是的。恰恰因为我每天都在用AI我才想说这些。一个工具你越了解它的短板你越能用好它的长处。怕的不是工具有毛病怕的是你不知道它有毛病然后在最关键的地方翻了车。大模型这波浪潮跟之前任何一次技术革命都不一样——它门槛太低了。一个50多岁的普通中年人不用学任何操作对着手机说句话就能用。这是好事但也意味着更多的人会在不了解的情况下使用它。我希望你看完这篇文章后下次打开AI对话框的时候脑子里不再是它能帮我做什么而是多了一个问题“它可能会在什么地方出错”最后我想说——AI不缺崇拜者也不缺唱衰者它缺的是愿意花时间搞清楚它到底是个什么东西的人。你读到这里已经是其中之一了。精彩推荐GPT-1与BERT初代AI大模型的双雄争霸TransformerAI大模型时代的核心技术革命大模型的技术基石深度学习如何颠覆传统AIAI大模型从百年积淀到终极跨越大模型落地全景普通人生活中无处不在的AI应用本篇博客文章唯一版权归属©波仔椿