冰河技术
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
导读
♻学习路线
  • 面试必问系列

    • 面试必问
  • 架构与模式

    • Java极简设计模式
    • 实战高并发设计模式
  • Java核心技术

    • Java8新特性
    • IOC核心技术
    • JVM调优技术
  • 容器化核心技术

    • Dockek核心技术
  • 分布式存储

    • Mycat核心技术
  • 数据库核心技术

    • MySQL基础篇
  • 服务器核心技术

    • Nginx核心技术
  • 渗透核心技术

    • 渗透实战技术
  • 底层技术
  • 源码分析
  • 基础案例
  • 实战案例
  • 面试
  • 系统架构
  • Spring6核心技术
  • 分布式事务

    • 分布式事务系列视频
  • SpringBoot
  • SpringCloudAlibaba
  • 🔥AI大模型项目

    • 一站式AI智能平台
    • AI智能客服系统
    • AI智能问答系统
    • 实战AI大模型
  • 中间件项目

    • 手写高性能Redis组件
    • 手写高性能脱敏组件
    • 手写线程池项目
    • 手写高性能SQL引擎
    • 手写高性能Polaris网关
    • 手写高性能RPC项目
  • 高并发项目

    • 分布式IM即时通讯系统(新)
    • 分布式Seckill秒杀系统
    • 实战高并发设计模式
  • 微服务项目

    • 简易电商脚手架项目
  • 手撕源码

    • 手撕Spring6源码
🌍知识星球
  • 总览

    • 《书籍汇总》
  • 出版图书

    • 《深入理解高并发编程:核心原理与案例实战》
    • 《深入理解高并发编程:JDK核心技术》
    • 《深入高平行開發:深度原理&專案實戰》
    • 《深入理解分布式事务:原理与实战》
    • 《MySQL技术大全:开发、优化与运维实战》
    • 《海量数据处理与大数据技术实战》
  • 电子书籍

    • 《实战高并发设计模式》
    • 《深入理解高并发编程(第2版)》
    • 《深入理解高并发编程(第1版)》
    • 《从零开始手写RPC框架(基础篇)》
    • 《SpringCloud Alibaba实战》
    • 《冰河的渗透实战笔记》
    • 《MySQL核心知识手册》
    • 《Spring IOC核心技术》
  • 关于自己
  • 关于学习
  • 关于职场
B站
Github
  • 专栏开篇

    • 开篇:用讲故事的形式带你彻底吃透并发设计模式
  • 第一篇:不可变模式

    • 第01章:这特么到底是哪里不对
    • 第02章:原来问题出在这里
    • 第03章:有哪些方法能够解决并发问题
    • 第04章:可变类的线程安全问题
    • 第05章:实现不可变类解决线程安全问题
    • 第06章:实现消息聚合发送系统
    • 第07章:JDK中的等效不可变类
  • 第二篇:保护性暂挂模式

    • 第08章:线程的流转状态
    • 第09章:解决交易过程加锁的安全性问题
    • 第10章:解决交易过程性能与死锁问题
    • 第11章:使用保护性暂挂模式优化交易系统性能
    • 第12章:基于护性暂挂模式实现监控报警系统
    • 第13章:保护性暂挂模式在JDK中的应用
  • 第三篇:两阶段终止模式

    • 第14章:线程还没执行完任务怎么就退出了
    • 第15章:到底什么是两阶段终止模式
    • 第16章:实现监控报警系统线程优雅退出
    • 第17章:两阶段终止模式在线程池中的应用
  • 第四篇:承诺模式

    • 第18章:这代码性能怎么这么差
    • 第19章:到底什么是承诺模式
    • 第20章:基于承诺模式优化社区电商项目
    • 第21章:文件同步助手项目性能太差原因分析
    • 第22章:基于承诺模式优化文件同步助手项目
    • 第23章:承诺模式在FutureTask类中的应用
  • 第五篇:生产者消费者模式

    • 第24章:面向C端的个人文库系统崩了
    • 第25章:个人文库系统资源耗尽问题分析
    • 第26章:优化面向C端的个人文库系统
    • 第27章:消息堆积问题场景分析
    • 第28章:消息堆积问题解决方案
    • 第29章:生产者消费者模式在线程池中的应用
  • 第六篇:主动对象模式

    • 第30章:重大事故访问商品链接404
    • 第31章:访问商品链接404原因分析
    • 第32章:到底什么是主动对象模式
    • 第33章:基于主动对象模式优化社区电商系统
    • 第34章:主动对象模式在线程池中的应用
  • 第七篇:线程池模式

    • 第35章:服务器内存爆了
    • 第36章:无法创建新的本地线程
    • 第37章:优化社区电商系统优惠券服务
    • 第38章:线程池核心参数解析
    • 第39章:线程池执行任务源码深度解析
    • 第40章:实现手写线程池
  • 第八篇:线程特有存储模式

    • 第41章:用户信息怎么错乱了
    • 第42章:到底什么是线程特有存储
    • 第43章:解决格式化时间的线程安全问题
    • 第44章:线程特有存储模式在JDK中的应用
    • 第45章:ThreadLocal内存泄露分析
  • 第九篇:串行线程封闭模式

    • 第46章:导出报表数据错乱了
    • 第47章:到底什么是串行线程封闭模式
    • 第48章:优化报表系统导出数据功能
  • 第十篇:主仆模式

    • 第49章:统计个数据性能太差了
    • 第50章:到底什么是主仆模式
    • 第51章:基于主仆模式优化统计热点商品功能
    • 第52章:主仆模式在JDK中的应用
  • 第十一篇:流水线模式

    • 第53章:统计个交易额也能这么慢
    • 第54章:到底什么是流水线模式
    • 第55章:基于流水线模式优化实时统计交易额功能
    • 第56章:流水线模式在Netty中的应用
  • 第十二篇:半同步半异步模式

    • 第57章:支付系统性能太差了
    • 第58章:到底什么是半同步半异步模式
    • 第59章:使用半同步半异步模式优化支付系统
    • 第60章:如何处理消息堆积问题
  • 专栏总结

    • 结尾:并发设计模式整体专栏总结

《并发设计模式》第55章-流水线模式-基于流水线模式优化实时统计交易额功能

作者:冰河
星球:http://m6z.cn/6aeFbs
博客:https://binghe.site
文章汇总:https://binghe.site/md/all/all.html
源码获取地址:https://t.zsxq.com/0dhvFs5oR

沉淀,成长,突破,帮助他人,成就自我。

  • 本章难度:★★☆☆☆
  • 本章重点:了解流水线模式的核心原理与使用场景,初步掌握流水线模式的应用场景,能够初步结合自身项目实际场景思考如何将流水线模式灵活应用到自身实际项目中。

大家好,我是冰河~~

通过读取日志数据来实现实时分析统计交易额的功能时,将实时读取日志文件到得出最终的结果数据,都写到一个业务方法中,性能是比较低的。从业务角度分析,可以将通过读取日志数据来实现实时分析统计交易额的功能通过流水线模式分为:读取日志、分割日志、分析统计和推送大屏等几个步骤,并且不同流水线的各个步骤之间可以并行执行任务,这样能够极大的提升整体的执行效率。

一、故事背景

小菜在开发实时统计社区电商系统交易额的功能时,看似一个非常简单的功能,但是开发完成后,提交测试反馈的结果是性能太差。但是目前以小菜的功力无法独立解决性能差的问题。在老王的指导下,小菜明白了性能差的原因,也知道了解决这种场景问题的最佳方案是流水行模式。

在老王的指导下,小菜也知晓了到底什么是流水线模式,但是真要是自己在项目中实现流水线模式,还是有点困难的,毕竟没有流水线模式的真实项目经验。于是,小菜还是找到老王,让老王为其讲讲如何基于流水线模式优化试试统计交易额的功能。老王这个大好人,不仅为小菜讲解了如何基于流水线模式优化实时统计交易额的功能,更是将流水线的通用代码封装成了通用的框架类源码。

二、流程对比

优化前,按照小菜实现的流程如图55-1所示。


可以看到,优化前将读取日志、分割日志、分析统计和推送大屏的逻辑,都写到了同一个方法中,每个步骤之间都是串行执行的,读取日志后,才能对日志进行分割,分割完日志,才能进行分析统计,分析统计完才能推送到交易大屏。整个方法只有将当前结果数据推送到交易大屏后,才能读取下一批日志。由此可知,整体的执行性能是多么差。

基于流水线模式优化后的流程如图55-2所示。


可以看到,基于流水线模式优化后,可以将一个大的任务分解成若干个不同的处理阶段,每个处理阶段的输出结果数据作为下一个处理阶段的输入,并且每个阶段都会有对应的工作线程执行相应的任务和计算。所以,使用流水线处理任务时,每个任务的各个处理阶段是并行的。这种并行任务处理和计算,能够充分利用系统的CPU资源,提供任务处理和计算的效率。

三、类结构设计

对比前程序优化前后的流程后,我们在正式写代码之前,还需要对相关的类进行设计,类图如图55-3所示。

查看全文

加入冰河技术知识星球,解锁完整技术文章与完整代码

在 GitHub 上编辑此页
上次更新: 2026/4/29 16:18
Contributors: binghe001
Prev
第54章:到底什么是流水线模式
Next
第56章:流水线模式在Netty中的应用
阅读全文
×

扫码或搜索:冰河技术
发送:290992
即可立即永久解锁本站全部文章

星球会员
跳转链接