高并发–高可用-高性能互联网中的“三高”是指高并发、高可用、高性能。高并发用 QPS/TPS 衡量系统对任务的处理能力。TPS每秒事务数可以是一个接口、多个接口或一个完整业务流程包含增删改操作。QPS每秒查询数指一台服务器每秒能够响应的查询次数。QPS 只是查询统计不能描述增删改等操作如果只做查询TPSQPS。高可用用 SLA 衡量系统可用性水平目标通常是 7×24 小时不间断服务。从时间维度看系统可正常使用时间 / 总时间。从请求维度看总请求次数中失败请求的占比。高性能常用 RT 衡量系统响应速度要求低延迟Latency、低内存占用、低 CPU 占用率。三高不是孤立目标而是相互影响、相互支撑的系统能力。高并发方面关注 Throughput吞吐量例如可达 10 万级。高性能方面关注延迟例如 Latency 小于 100ms。高可用方面关注系统可用性例如 SLA 高于 99.99%。但随着并发量上升请求延迟通常会增大若系统处理不过来可用性就会下降。三高下的技术方案-高并发高性能多大并发量才算高并发1 万 QPS 的商品列表查询未必属于高并发结合缓存即可达到。5 千 TPS 的下单接口通常属于高并发场景因为链路复杂度不同。需要结合具体场景和资源投入综合判断。系统架构无状态业务 水平扩展Scale Out通过增加服务器数量线性扩展系统性能。架构难点在于做到全链路水平扩展。【负载均衡】思想节点轮询、随机、加权轮询、节点固定 Hash。适用场景DNS 解析轮询网关分发到后端服务应用服务内部 RPC 负载均衡分库分表后的负载分发。【缓存】思想本地缓存 / 分布式缓存。适用场景浏览器静态资源缓存DNS 解析缓存应用内部缓存数据存储层缓存如 MySQL Query Cache。【池化复用】思想线程池 / 对象池 / 连接池 / 内存池。适用场景Java 线程池JDBC/Redis/HttpClient 连接池Spring IOC 容器对象池。【异步】思想多线程 / 消息队列。适用场景前端 Ajax 异步请求RocketMQ/Kafka 同步双写-异步刷盘应用多线程异步处理。【预处理-惰性更新】思想定时任务 / 懒加载。适用场景运营后台报表的定时提取与预计算MyBatis 懒加载。【分而治之】思想Master-Worker。适用场景Hadoop MapReduceJDK Fork/Join Framework消息队列广播消息归并排序算法。三高下的技术方案-高可用集群架构将多个相同应用组成集群提供同一种服务某个节点故障时不影响系统整体可用性。通过横向扩展增加节点提高并发处理能力。典型组件微服务集群、Redis 集群、Kafka 集群、Nginx 集群、Nacos 集群、MySQL 集群、ZK 集群。熔断降级类似“保险丝”机制。为防止系统整体故障可临时关闭部分非核心接口返回兜底数据。限流当访问频率或并发请求超过系统承载范围时需要限流以保证接口可用性。常见方法漏斗模型、令牌桶算法、漏桶算法。隔离服务与资源相互隔离如网络资源、机器资源、线程资源等避免某个服务资源不足时抢占其他服务资源。多活架构同城双活-双机房两个机房部署在同城通过专线互联相比单机房内延迟略高但整体可接受。异地多活-两地三中心两地指 2 个城市三中心指 3 个机房其中 2 个机房在同城并同时提供服务第 3 个机房部署在异地主要用于数据灾备。部署在同城通过专线互联相比单机房内延迟略高但整体可接受。异地多活-两地三中心两地指 2 个城市三中心指 3 个机房其中 2 个机房在同城并同时提供服务第 3 个机房部署在异地主要用于数据灾备。