技能标签
专业技能
精通Python编程语言,具备扎实的OOP和函数式编程能力。熟悉Django/Flask/FastAPI全栈开发框架,具备RESTful API设计经验。掌握网络爬虫技术,熟练使用requests、Scrapy、Scrapy-Redis等工具进行数据采集与清洗,具备分布式爬虫架构设计能力。精通MySQL数据库优化技术,熟悉索引优化、查询调优及事务管理。掌握MongoDB非关系型数据库设计与运维,具备Redis集群部署与性能调优经验。熟悉Hadoop生态体系,包括HDFS分布式存储、MapReduce并行计算、Hive数据仓库及Spark实时计算框架。
工作履历(脱敏处理)
作为Python开发工程师,主要负责电商平台数据采集系统的开发与维护。主导设计并实现分布式爬虫架构,采用Scrapy-Redis实现任务分发与结果存储,通过XPath和正则表达式完成数据解析与清洗。优化MySQL查询性能,通过索引重建和查询重写使响应时间降低40%。参与搭建MongoDB分片集群,实现日均百万级数据的高效存储与检索。基于Spark完成用户行为数据分析,构建实时数据处理流水线。
项目经验(脱敏处理)
电商数据采集系统开发:负责某电商平台接口逆向分析,通过Fiddler抓包还原接口签名生成逻辑,使用JavaScript逆向工具解析加密参数。设计分布式爬虫架构,采用Scrapy-Redis实现任务分发,通过多线程和异步IO提升采集效率。开发数据清洗模块,使用正则表达式和XPath提取结构化数据,通过分表存储策略解决数据量激增问题。项目上线后日均采集数据量达50万条,准确率保持在99.5%以上。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
1年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接