学习啦 > 实用范文 > 办公文秘 > 岗位职责 > 大数据架构师的岗位职责

大数据架构师的岗位职责

时间: 舒欣1213 分享

大数据架构师的岗位职责

  大数据架构师负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计和研发。下面是学习啦小编为您精心整理的大数据架构师的岗位职责。

  大数据架构师的岗位职责1

  职责:

  1、负责公司大数据产品的架构设计,包含数据收集、数据存储、数据应用,并完成相关架构设计文档的撰写;

  2、参与规划从数据源到数据应用的整体流程,并参与相关产品的决策;

  3、负责解决核心技术问题,对技术方案进行决策;

  4、负责大数据研发团队建设、人才梯队培养和技术团队管理;

  5、积极了解业界发展,研究与跟踪大数据新技术发展方向。

  任职要求:

  1、精通GoldenGate For BigData相关理论,具备大型数据利用的生产实战经验;

  2、精通数据驱动的理论,设计并生产上线相关数据驱动的产品;

  3、精通常用消息中间件的使用,例如kafka/RocketMQ/Apache Pulsar,有解读相关源码者优先;

  4、掌握hadoop、spark生态体系相关产品的使用,掌握MapReduce编程或Spark编程;

  5、了解传统数据仓库理论及相关ETL工具,例如kettle/datastage;

  6、熟悉Oracle、Mongodb、Mysql数据库的使用;

  7、扎实的Java语言基础,熟悉Java开发工具和调试工具的使用;

  8、良好的团队协作精神,有能力对团队在软件设计、实现和测试方面进行指导;

  9、良好的逻辑分析能力和沟通能力,执行力强、对待工作认真严谨、责任心强、具备出色的学习能力和团队合作精神,有一定的推动能力;

  10、计算机科学、信息技术或相关领域本科以上学历,具有5年以上数据平台项目开发经验,3年以上的架构设计经验,具有大数据平台应用大型项目架构设计经验优先;

  大数据架构师的岗位职责2

  职责:

  1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;

  2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;

  3、进行大数据系统框架设计、模型算法开发;

  4、负责大型数据挖掘项目方案制定、项目实施落地及优化等 ;

  5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;

  任职资格:

  1、本科以上学历(持有学士学位)(985,211优先),计算机相关专业,五年工作经验;

  2、二年以上数据挖掘项目经验,完整参与过数据挖掘大数据平台的架构开发过程,具备互联网行业背景优先;

  3、精通分布式计算框架(hadoop、spark、Storm等)及相关经验,熟练掌握Hive/SQL,Python,熟悉Python、R相关数值科学计算库(NumPy,SciPy等);

  4、了解传统的BI/DW 理论,能结合传统BI***实践设计大数据平台;

  5、熟悉常用机器学习算法(如分类、回归、聚类、关联规则等)及其原理,具备应用场景经验,如用户画像、商品关联度分析、舆情分析;

  6、熟悉主数据、元数据、数据质量、和数据建模等数据治理相关的体系和方法;

  7、具备较强的逻辑思维能力、数据敏感度,擅于利用数据发现问题及解决问题;

  大数据架构师的岗位职责3

  职责:

  1、负责大数据开发团队建设;

  2、负责行业大数据产品架构设计与研发;

  3、负责带领团队进行行业大数据产品关键技术攻关。

  任职要求:

  1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解;

  2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;

  3、熟悉Linux,熟练使用Shell或Python,进行脚本编写;

  4、对数据结构和数据统计分析算法有较为深刻理解;

  5、掌握至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等;

  6、掌握实时流计算技术,有Spark、Storm开发经验者优先;

  7、需要具备2年以上研发团队管理经验。

  大数据架构师的岗位职责4

  职责:

  1)负责公司软件产品整体架构的设计和关键功能实现

  2)负责公司架构长期看护以及优化;

  3)负责软件部门各模组间的协调配合;

  4)提高巩固软件代码质量;

  5)负责大数据流式框架的设计、优化及部署;

  6)规划研发部门员工的技术发展路线并提供必要的帮助和指导

  任职资格:

  1)本科及以上学历,计算机相关专业,5年以上工作经验;

  2)频繁换工作,比如一年一个公司,请绕路;

  3)3年以上产品架构经验,主导过产品的成功上线;

  4)对底层设备通讯协议,B/S系统,手机APP开发等都有一定的了解;

  5)对各种主流语言C#\Java\Pathon有一定的了解

  5)精通各种大数据架构,并深入研究过其中一种,有storm\kafka等流式实时处理经验为佳

  6)能够承担较强的工作压力,有良好的自我驱动能力和责任感;

  7)具备优秀的逻辑思维能力、表达能力、沟通协调能力。

  大数据架构师的岗位职责5

  职责:

  1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;

  2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;

  3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;

  4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;

  任职要求:

  1.从事大数据项目相关开发和设计2年以上经验;有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;

  2.拥有一定的算法和数据结构基础;有很强的数据设计抽象能力,善于从复杂的数据问题中找到关键路径;

  3.熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、storm、spark、等;

  4. 良好的逻辑思维能力,良好的业务解读能力,懂电力或通信业务优先;

  5.具有钻研精神,乐于接受挑战;

67161