python爬虫职位描述与岗位职责任职要求
职位描述:
工作职责:
负责竞品数据的抓取、分析
负责商业产品中的定价策略模块(SEO排名)
负责带领相关同事构建爬虫规范,设计和开发分布式的网络爬虫应用,进行互联网相关信息的抓取和分析;
职位要求:
1.计算机、信息技术或相关专业本科或以上学历;
2.2年以上爬虫工作经验、3个以上实际项目经验
3.精通python开发,理解并掌握Scrapy及Scrapy-redis;
4.对采集规则,对反爬、加解密、代理等关键技术有深度理解
5.熟练使用redis、mq、mongodb、mysql等常用技术
6.有良好的合作意识和自我驱动力,能主动承担模糊任务,抗压能力
加分项:
1.熟悉主流搜索引擎的搜索算法
2.独立负责项目
3.带过团队
篇2:python爬虫工程师职位描述与岗位职责任职要求
职位描述:
工作职责:
1、负责设计和开发分布式网络爬虫系统,进行多平台信息的抓取和分析工作;
2、负责网页信息和APP数据抽取、清洗、消重等工作,提升平台的抓取效率;
3、参与爬虫核心算法和策略优化,熟悉采集系统的调度策略;
4、实时监控爬虫的进度和警报反馈。
任职要求:
1、有扎实的算法和数据结构能力;
2、熟悉爬虫原理,熟悉常见的反爬虫技术,有爬虫相关项目开发经验者优先;
3、掌握http协议,熟悉html、dom、xpath等常见的数据抽取技术;
4、有大规模数据处理、数据挖掘、信息提取等经验者优先。
篇3:高级Python工程师/爬虫/Spider职位描述与岗位职责任职要求
职位描述:
工作内容:
1、基础系统架构、模块、库和组件的研发;
2、分布式海量数据存储和分析系统的研发和调优;
3、统计分析、报表、SaaS业务等系统研发;
4、CRM、财务结算、工作流等内部管理系统的研发。
能力要求:
1、至少使用PHP/Java/Python等一门以上语言,开发过不算太小的项目;
2、熟悉数据结构、DB、OS、Web开发等相关知识,对Linux相关的各类技术情有独钟;
3、有大规模、高性能互联网网站系统相关的设计和开发经验者优先;
4、具备良好的学习能力和成长潜力,渴望和团队一起快速成长。