大数据架构师的职责及描述

第1篇：大数据架构师的职责及描述

职责：

1、正确理解业务需求，对需求进行工作量评估;

2、参与项目相关的需求、设计、投产手册等文档的编写;

3、根据进度计划，完成所承担功能模块的设计、开发、单元测试、联调测试;

4、配合测试组修复代码缺陷，确保功能实现与代码质量;

5、负责所承担功能模块投产、部署，及上线后的日常维护;

6、完成项目经理或者架构师安排的其他工作;

任职资格：

1、本科以上学历，计算机相关专业，两年以上大数据开发经验;

2、熟悉Linu_ 环境，掌握shell或python;

3、熟练使用hadoop，hive，HBase，YARN，kafka，spark等大数据开发组件;

4、精通 ETL，数据仓库的设计和开发;

5、有大数据处理实战经验，熟悉整个大数据的完整处理流程，包括数据的采集、清洗、存储;

6、较强的动手能力和学习能力，良好的沟通能力、团队协调能力;

7、具有银行、金融行业从业背景者优先。

第2篇：大数据架构师的职责及描述

职责：

1、负责相关开源系统/组件的性能、稳定性、可靠性等方面的深度优化;

2、负责解决项目上线后生产环境的各种实际问题，保障大数据平台在生产上的安全、平稳运行;

3、推动优化跨部门的业务流程， 参与业务部门的技术方案设计、评审、指导;

4、负责技术团队人员培训、人员成长指导。

5、应项目要求本月办公地址在锦江区金石路316号新希望中鼎国际办公，月底项目结束后在总部公司办公

任职要求：

1、熟悉linu_、JVM底层原理，能作为技术担当，解决核心技术问题;

2、3年以上大数据平台项目架构或开发经验，对大数据生态技术体系有全面了解，如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoeni_等;

3、掌握git、maven、gradle、junit等工具和实践， 注重文档管理、注重工程规范优先;

4、熟悉Java后台开发体系，具备微服务架构的项目实施经验，有Dubbo/Spring cloud微服务架构设计经验优先;

5、性格开朗、善于沟通，有极强的技术敏感性和自我驱动学习能力，注重团队意识。

第3篇：大数据架构师的职责及描述

职责：

1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;

2. 负责实时计算平台基础架构设计、部署、监控、优化升级;

3. 制定项目/数据仓库设计及实现规范，指导设计研发和部署;

4. 协助策略和算法团队工作，保障数据挖掘建模和工程化;

5. 深入研究大数据相关技术和产品，跟进业界先进技术。

任职要求：

1. 全日制本科及以上学历，5年以上软件和分布式系统研发经验，3年以上大数据系统架构经验;

2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;

3. 具备Java/C++/Scala等开发经验，熟悉数据挖掘和分析的策略与算法;

4. 具备良好的系统分析能力、故障诊断能力;

5. 有大数据策略、算法、可视化经验优先;

6、211/985 重点学校毕业优先。

第4篇：大数据架构师的职责及描述

职责：

1、 基于公司大数据基础和数据资产积累，负责大数据应用整体技术架构的设计、优化，建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。

2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。

3、 作为大数据技术方案到产品实现的技术负责人，负责关键技术点攻坚工作，负责内部技术推广、培训及知识转移工作。

4、 负责大数据系统研发项目任务规划、整体进度、风险把控，有效协同团队成员并组织跨团队技术协作，保证项目质量与进度。

5、 负责提升产品技术团队的技术影响力，针对新人、普通开发人员进行有效辅导，帮助其快速成长。

任职资格：

1、 计算机、数学或相关专业本科以上学历，5-20__年工作经验，具有大型系统的技术架构\应用架构\数据架构相关的实践工作经验。

2、 有分布式系统分析及架构设计经验，熟悉基于计算集群的软件系统架构和实施经验。

3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品，深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。

4、 掌握Mysql/Oracle等常用关系型数据库，能够对SQL进行优化。

5、 熟悉分布式系统基础设施中常用的技术，如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。

6、 熟悉Linu_，Java基础扎实，至少3-5年以上Java应用开发经验，熟悉常用的设计模式和开源框架。

第5篇：大数据架构师的职责及描述

职责：

1、负责面向政府信领域的企业(不限于)大数据平台、大数据应用等系统的架构设计、技术规划、技术选型

2、跟进业界大数据技术发展动态，匹配行业应用诉求，制定大数据策略，提前识别关键技术并完成技术验证;

3、支撑售前完成项目解决方案技术架构的设计及重要客户的交流;

4、负责指导研发完成大数据产品的开发

5、带领团队进行产品核心技术的创新和积累

岗位要求：

1、熟悉BI和大数据领域的解决方案，具备该领域全面的技术积累，包括报表平台，OLAP引擎和DB，ETL，数据仓库建模和设计，海量分布式数据处理分析架构;

2、在大数据处理和分析领域具有3年或者以上的技术规划、架构设计经验，并有成功的项目实践;

3、4年以上Hadoop实战经验，熟悉Hadoop底层文件系统及分布式计算框架，具备传统数据仓库、MPP、Hadoop等混搭平台架构的设计能力和数据建模能力，对大规模数据并行计算、传输、处理等有丰富的经验;

4、有实际应用storm、spark、flume、kafka等项目经验优先;

5、卓越的技术领导力，善于沟通、发现和解决产品需求阶段、开发阶段和测试阶段的问题，并能提供合理解决方案，有大中型互联网企业工作背景优先。

第6篇：大数据架构师的职责及描述

职责：

1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化，不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。

2.负责制定大数据平台调用约束和规范;

3.负责大数据方向技术难题的解决，以及代码质量的把控;

4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养，分享技术经验，撰写相关技术文档指导和培训工程师。

任职要求：

1.热衷于大数据技术，并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;

2.熟悉服务器基本知识，能够评估系统硬件性能瓶颈;

3.掌握Linu_操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题，并能提供解决问题的理论依据;

4.精通Java服务器编程，熟悉JVM原理，对数据结构和算法设计有较为深刻的理解;

5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构，熟悉原理、源码、集群部署，包括参数优化、Bug修复，贡献过代码或提交过bug者优先

6.具备数据中心资源管理、监控、调度等系统研发经验者优先，具备分布式系统研发经验者优先;

7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;

8.具有良好的文档编写能力，可进行方案设计、架构设计。

第7篇：大数据架构师的职责及描述

职责:

1、对业务需求深入分析，从而进行大数据平台核心应用的架构设计、开发和技术支持;

2、规划业务应用系统和基础平台的技术架构，参与需求分析、建模、架构设计、技术决策以及详细设计;

3、把握复杂系统的设计，确保系统的架构质量，编写核心部分代码;

4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;

5、在大数据平台建设路线图指导下，进行架构实施和交付物投递，同时确保研发质量和方向的准确性;

6、进行团队技术的培训和梯队建设岗位要求;

任职条件:

1、本科或以上学历，计算机相关专业，8年以上研发经验，3年以上大数据平台相关工作经验;

2、精通Java开发技术，熟悉Shell、Scala语言和PYTHON优先;

3、编程基础扎实，熟悉I/O、多线程、集群等基础框架和原理，熟悉分布式、缓存、消息等机制;

4、熟悉常用设计模式，代码评审规则，单元测试，持续集成;

5、熟悉AWS云服务或阿里云服务;

6、熟悉容器技术原理、生态系统，熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。

第8篇：大数据架构师的职责及描述

职责：

1、负责大数据项目平台架构的评估、规划和设计

2、开发大数据平台的核心模块代码，负责大数据平台的搭建，完成系统调试、集成与实施，保证大数据产品的上线运行

3、根据业务需求整合优化数据架构，保证产品的可靠性、稳定性

4、指导开发人员完成数据模型规划建设，分析模型构建及分析呈现

5、深入研究大数据相关技术和产品，跟进业界先进技术;

6、根据项目要求编写相关技术文档;

7、负责大数据平台的架构评审，代码评审，上线评审;参与数据应用需求、设计、审核和评审;

8、负责核心模块研发，负责大数据平台的搭建，完成系统调试、集成与实施;

9. 负责关键功能的开发，技术难题的解决，以及输出代码的关键把控;

10. 负责对使用关键技术的预研和选型，完成 PoC ;

11. 指导工程师完成开发工作，并能分享技术经验。

任职资格:

1、精通Linu_操作系统，熟练使用Java;

2、3年以上大数据项目实战经验，两个项目的架构设计经验，熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架，并熟悉其工作原理;

3、有Hadoop、Spark、Hbase平台性能调优经验;

4、熟悉其它分布式存储相关技术，包括HDFS，Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;

5、熟悉Java开发常用框架.如Spring、MyBatis等;

6、熟悉关系型数据库如oracle及数据库编程。

7、能够根据项目情况安排人力、分配任务，具有较强的团队管理能力。

8、硕士以上学历，20__年以上的工作经验。

第9篇：大数据架构师的职责及描述

职责：

1、大数据平台架构规划与设计;

2、负责大数据平台技术框架的选型与技术难点攻关;

3、能够独立进行行业大数据应用的整体技术框架、业务框架和系统架构设计和调优等工作，根据系统的业务需求，能够指导开发团队完成实施工作;

4、负责数据基础架构和数据处理体系的升级和优化，不断提升系统的稳定性和效率，为相关的业务提供大数据底层平台的支持和保证;

5、培养和建立大数据团队，对团队进行技术指导。

任职要求：

1、计算机相关专业的背景专业一类院校毕业本科、硕士学位，8年(硕士5年)以上工作经验(至少拥有3年以上大数据项目或产品架构经验);

2、精通Java，J2EE 相关技术，精通常见开源框架的架构，精通关系数据库系统(Oracle MySQL等)和noSQL数据存储系统的原理和架构;

3、精通SQL和Mapreduce、Spark处理方法;

4、精通大数据系统架构，熟悉业界数据仓库建模方法及新的建模方法的发展，有DW，BI架构体系的专项建设经验;

5、对大数据体系有深入认识，熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大数据技术，并能设计相关数据模型;

6、很强的学习、分析和解决问题能力，可以迅速掌握业务逻辑并转化为技术方案，能独立撰写项目解决方案、项目技术文档;

7、具有较强的内外沟通能力，良好的团队意识和协作精神;

8、机器学习技术、数据挖掘、人工智能经验丰富者优先考虑;

9、 具有能源电力行业工作经验者优先。

第10篇：大数据架构师的职责及描述

职责：

1. 负责设计企业级大数据平台的整体架构，从技术层面制定清晰的大数据产品与系统技术架构，并负责实现关键技术和产品。

2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等，带领团队完成有质变的技术解决方案。

3. 负责组织同事研究行内最前沿的技术发展方向，突破现有的技术难题。

4. 负责研究院对外项目合作协调与支持，编写项目建设方案及后期项目建设支持。

任职要求：

1. 硕士及以上学历，计算机相关专业。

2. JAVA基础扎实,不少于8年的一线开发经验，精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术，熟悉Maven或Ant.，熟悉Python语言开发加分。

3. 不少于4年大数据的直接研发经验，精通Hadoop/Spark系统，有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。

4. 掌握分布式系统原理，对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。

5. 熟悉分布式系统的监控、运维、故障恢复，高可用原理和设计理念。

6. 算法基础扎实，熟悉常见的数据结构，掌握大规模高并发访问、大数据开发等处理经验;熟练的Linu_系统, 网络, 内存和存储等方面知识。

7. 必须要有千万级别的项目管理经验，包括但不限于前期需求沟通，建设方案编写，中期项目实施，进度汇报，后期项目维护。