个人介绍
1.Shell 脚本:熟练使用 Bash 编写自动化脚本,支持定时任务、批量文件处理、日志解析、服务监控、数据批量迁移、环境部署等场景,可替代重复人工操作,提升运维效率。2.SQL 数据库:精通标准 SQL 语法,熟练运用分组、聚合、子查询、窗口函数、多表关联;擅长数据查询、报表统计、数据去重、数据清洗、慢查询优化,熟悉 MySQL 日常运维与基础调优。3.精通大数据开发相关框架,如 Hadoop、Spark、Flink、SQL、Kafka,熟悉Java开发,做过离线数仓和实时计算,熟悉ETL流程,熟练掌握 Shell 脚本编程,具备 Linux 环境下自动化运维能力;熟练掌握 Flink 实时计算框架,熟悉 Window、State、Checkpoint 机制及 Flink CDC 数据同步,熟悉 GaussDB 等关系型数据库,精通 SQL 语法
核心技能
flink
hive
spark
gauss
kafka
sql
shell
精选作品集
实时数仓开发
为支撑电商平台业务高速增长,解决离线数仓 T+1 延迟痛点,主导设计并搭建了基于 Flink + Doris 的实时数仓体系。系统覆盖秒级订单监控、实时大屏、交互式查询及实时报表场景,实现了从数据采集、清洗、计算到服务化的 全链路秒级延迟
shell并行任务工具
用shell 脚本控制任务并行执行
工作经历
软件有限公司 · 数据开发
2022-01-09 - 1
1.数仓模型开发与建设
基于 Hadoop/Flink 架构构建离线与实时数仓,负责 ODS 到 ADS 层 的全链路模型开发。
2.性能调优与稳定性保障
负责核心计算任务的性能调优,解决 数据倾斜、反压、内存溢出 等难题。
3.数据集成与质量治理
搭建高可用 ETL 数据同步链路(Sqoop/Flink CDC),实现多源异构数据准时入湖,并通过校验规则保障数据 准确性与一致性
教育背景
河北大学 · 网络工程
2018-09-09