本文分享了大模型应用开发近半年面试经验涵盖面试内容、难度、岗位方向及面试题等。文章指出大模型应用面试题难度适中重点考察微调原理、动手能力和项目效果评估。建议面试者多看技术文章准备充分保持表达清晰以提升面试通过率。1、时间范围近半年。2、实际面过的公司阿里、腾讯、美团、字节、快手、同程、京东、360、keep、滴滴、印象笔记、作业帮、彩云科技、蓝色光标、江城互娱、Aviagames、Hungry Stdios、深言科技、即时科技、RockFlow、格灵深瞳、百融云创、印象笔记、网龙、 HiDream.ai、昆仑万维、数驱互动、Authing。3、先说总结1面试内容 难度个人觉得在 LLM 应用的面试题上没有太多复杂、高深的问题不像上来让你说一下分布式锁怎么设计然后死扣设计细节或是描述一下 MVCC 原理这种偏高难度的八股文问题当然也遇到了一两次。究其原因以下几点一是大模型应用目前仍没有很成熟且被广泛接纳的方案都还在探索二是很多公司今年刚开始 all in AI我司 all 进去的比较早点面试官也懂得不多。例如 RAG 这个东西大部分的面试题无非是“你觉得 RAG 中最难的是什么文档切割喽”、“你是怎么解决幻觉问题的”“微调和 RAG 的区别是啥”等等。如果你做过 RAG 加上你经常看技术文章结合你的“侃侃而谈”基本面试官都觉得 ok。但这里着重说一下我觉得当前非常重要且极大概率提升面试通过率的的一个技术点就是掌握微调原理并且做过动手做过微调工作再加上动手部署过大模型。这是我面试中最常被问到而又只能说没做过的问题当然大部分公司都有专门的算法团队去做这件事自己到没机会参与其中也是可以理解的。算法题一半是 DP 问题还有一部分难度是 easy 的问题总体上都是“老熟人”但是你即使写出来面试不一定就能过有的干脆就不考算法题。八股文明显比之前少很多这个和面试的岗位有关系LLM 应用的岗位更偏实践所有很多一面就是 leader 面直接问项目除非一面也不懂 LLM 的东西就会考八股文。但总的来说八股少了但是绝对不可以不准备好几次挂在这上面别小瞧它。岗位内容游戏公司基本上是 LLM AB test for 游戏策划BI 分析游戏社区客服助手toCAgent 个人助手toBAgent for 解决方案other通用 Agent 平台公司内部 AI 助手、平台Agent for 运维2offer会有很多横向对比如果你期望薪资比较高对方说要在等等基本上凉了。大部分涨幅基本是不到 20% 的但我的期望是 30% 左右最后还是拿到了要有一点点耐心还要有一定的运气。不要眼高手低先拿一个低于自己预期的 offer再慢慢谈前提是公司想要你。规划好时间集中面试集中对比由于我时间线拉的过长后面安排的很乱。3再总结如下每次面完都要复盘没答好的问题一定要重新梳理答案。没把握问题的可以直接说不会别给个你自己都听不懂的答案。简历一定要让大模型润色但自己要 check 一遍别吹过头了。多看技术文章扩展技术视野提高二面面试官对你的印象。表达一定要流畅清晰不要断断续续的面试官会觉得你思路不清晰。项目效果评估是个很重要的问题不管你的技术多炫酷终究还是要看效果看落地效果。4、面试题这里想到多少写多少。LLM 基础大模型是怎么训练出来的Transform 的架构Encoder 和 Decoder 是什么Function Call 是怎么训练的微调的方案有哪些自己做过没有大模型分词器是什么Embedding 是什么你们用的那个模型Lib介绍一下 langchian介绍一下 autogen有没有用过大模型的网关框架litellm为什么手搓 agent而不是用框架mcp 是什么和 Function Call 有什么区别有没有实践过A2A 了解吗PromptReAct 是啥怎么实现的CoT 是啥为啥效果好呢有啥缺点Prompt Caching 是什么温度值/top-p/top-k 分别是什么各个场景下的最佳设置是什么RAG你介绍一下RAG 是什么最难的地方是哪文档切割策略有哪些怎么规避语义被切割掉的问题多路召回是什么文档怎么存的粒度是多大用的什么数据库为啥要用到图数据库向量数据库的对比有没有做过Qdrant 性能如何量级是多大有没有性能瓶颈怎么规避大模型的幻觉微调和 RAG 的优劣势怎么量化你的回答效果例如检索的效果、回答的效果。workflow怎么做的任务拆分为什么要拆分效果如何怎么提升效果text2sql 怎么做的怎么提高准确率如何润色query目的是什么code-generation 是什么做的如何确保准确性现在再让你设计你会怎么做replan效果是怎么量化的Agent介绍一下你的 Agent 项目长短期记忆是怎么做的记忆是怎么存的粒度是多少怎么用的Function Call 是什么做的你最大的难题是什么你是怎么提高效果的怎么降低延迟的端到端延迟如何优化的介绍一下 single-agent、multi-agent 的设计方案有哪些反思机制是什么做的为什么要用反思如何看待当下的 LLM 应用的趋势和方向为什么要用 Webrtc它和 ws 的区别是什么agent 服务高可用、稳健性是怎么保证的llm 服务并发太高了怎么办系统设计题短链系统分布式锁的设计给你一部长篇小说怎么做文档切割怎么做到论文翻译并且格式尽可能和原来的统一游戏社区客服助手设计。如何绑定游戏黑话如何利用好公司内部的文档结合线上问题快速定位项目工程代码有问题的地方有很多结构化和非结构化数据怎么分析再怎么得出我要的结论八股go 的内存分配策略、GMP、GCpython 的内存分配策略、GCredis 用过那些mget 底层什么实现的、zset 怎么实现的mysql 索引怎么设计最好数据库隔离级别mvcc 是怎么实现的分布式锁是什么实现的kafka 的 reblance 是什么会产生那些问题怎么保证数据不丢?fastapi 设计原理go 中 net/http 如何处理的 tcp 粘包问题http2 是什么比 http1.1 有什么优势Linux 网络性能调优的方式如何定位 Linux 中的 pid、端口号等等最后对于正在迷茫择业、想转行提升或是刚入门的程序员、编程小白来说有一个问题几乎人人都在问未来10年什么领域的职业发展潜力最大答案只有一个人工智能尤其是大模型方向当下人工智能行业正处于爆发式增长期其中大模型相关岗位更是供不应求薪资待遇直接拉满——字节跳动作为AI领域的头部玩家给硕士毕业的优质AI人才含大模型相关方向开出的月基础工资高达5万—6万元即便是非“人才计划”的普通应聘者月基础工资也能稳定在4万元左右。再看阿里、腾讯两大互联网大厂非“人才计划”的AI相关岗位应聘者月基础工资也约有3万元远超其他行业同资历岗位的薪资水平对于程序员、小白来说无疑是绝佳的转型和提升赛道。对于想入局大模型、抢占未来10年行业红利的程序员和小白来说现在正是最好的学习时机行业缺口大、大厂需求旺、薪资天花板高只要找准学习方向稳步提升技能就能轻松摆脱“低薪困境”抓住AI时代的职业机遇。如果你还不知道从何开始我自己整理一套全网最全最细的大模型零基础教程我也是一路自学走过来的很清楚小白前期学习的痛楚你要是没有方向还没有好的资源根本学不到东西下面是我整理的大模型学习资源希望能帮到你。扫码免费领取全部内容最后1、大模型学习路线2、从0到进阶大模型学习视频教程从入门到进阶这里都有跟着老师学习事半功倍。3、 入门必看大模型学习书籍文档.pdf书面上的技术书籍确实太多了这些是我精选出来的还有很多不在图里4、AI大模型最新行业报告2026最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5、面试试题/经验【大厂 AI 岗位面经分享107 道】【AI 大模型面试真题102 道】【LLMs 面试真题97 道】6、大模型项目实战配套源码适用人群四阶段学习规划共90天可落地执行第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容3、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】