IT人力外包人才简历库

返回列表

大数据开发工程师

驻场外包人员
工作年限:6年 意向城市:上海 浏览:2次 发布时间:近期

技能标签

Java Python Hadoop Spark 机器学习 深度学习 TensorFlow PyTorch 数据库 实时计算 大数据平台 架构设计 数据处理 算法优化 分布式系统

专业技能

精通Java/Python编程语言,熟悉Hadoop生态体系(HDFS、MapReduce、YARN),掌握Spark Streaming实时计算框架,具备大数据平台架构设计能力,熟悉机器学习算法(如随机森林、XGBoost)和深度学习框架(如TensorFlow、PyTorch),熟练使用SQL进行数据仓库建模,掌握Kafka消息队列和Flink流处理技术

工作履历(脱敏处理)

长期从事大数据平台开发与优化工作,主导建设日均处理千万级数据量的实时计算系统,采用Spark Streaming+Kafka架构实现数据延迟降低至秒级。设计分布式数据仓库解决方案,通过Hive+HBase组合实现数据查询效率提升40%。开发机器学习特征工程平台,整合XGBoost算法模型提升预测准确率15%。主导完成3个大型企业级数据中台架构升级,实现系统吞吐量提升200%。具备完整的数据生命周期管理经验,熟悉数据质量监控、元数据管理及安全合规体系搭建。

项目经验(脱敏处理)

1) 实时数据处理平台建设(2021-2023):基于Spark Streaming构建日均处理500TB数据的实时计算系统,采用Kafka作为数据缓冲层,通过窗口函数优化实现数据延迟控制在500ms以内。解决数据倾斜问题,采用动态分区策略使任务完成时间缩短35%。

2) 企业级数据仓库升级项目(2020-2021):设计基于Hive的星型架构数据仓库,开发ETL流程实现100+业务维度的数据聚合。通过引入Parquet列式存储格式,使查询性能提升60%,数据存储成本降低40%。

3) 机器学习特征工程平台(2019-2020):搭建全流程特征处理系统,整合XGBoost算法模型用于用户行为预测。开发特征存储方案,采用Redis缓存热点特征数据,使特征调用响应时间缩短至200ms以内。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

6年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接