《大数据架构师的职责热门26篇》
大数据架构师的职责(精选26篇)
内容导航
大数据架构师的职责 篇1大数据架构师的职责 篇2大数据架构师的职责 篇3大数据架构师的职责 篇4大数据架构师的职责 篇5大数据架构师的职责 篇6大数据架构师的职责 篇7大数据架构师的职责 篇8大数据架构师的职责 篇9大数据架构师的职责 篇10大数据架构师的职责 篇11大数据架构师的职责 篇12大数据架构师的职责 篇13大数据架构师的职责 篇14大数据架构师的职责 篇15大数据架构师的职责 篇16大数据架构师的职责 篇17大数据架构师的职责 篇18大数据架构师的职责 篇19大数据架构师的职责 篇20大数据架构师的职责 篇21大数据架构师的职责 篇22大数据架构师的职责 篇23大数据架构师的职责 篇24大数据架构师的职责 篇25大数据架构师的职责 篇26大数据架构师的职责 篇1
职责
1、参与打造数据中内容的规划、设计、开发和优化工作,实现高质量数据的互通与共享;
2、参与数据模型体系构建及数据主题设计和开发,搭建离线、实时数据公共层;
3、参与数据产品与应用的数据研发,发掘数据商业价值,打造极致体验的数据产品;
4、深入理解数据产品的使用场景,为业务方在可用性、成本上做更好的设计做参考;
5、团队成员的搭建与培养,任务划分,进度监控,代码规范,质量保证。
任职要求
1、熟悉数据仓库建模理论,3年以上相关领域实践经验;
2、Hadoop、Hive、Hbase、Storm、Spark等技术框架;
3、精通Java、Python、Scala、go等开发语言中的1到2种;
4、熟练使用Python/Java/scala或其他语言进行复杂业务逻辑的数据处理工作,具备海量数据处理以及性能优化的能力;
5、对MySQL、Redis、HBase等数据库有一定的了解和使用经验;
6、对olap,多维分析及kylin熟悉的更好;
7、思路清晰,具备良好的沟通能力和理解能力,较强的学习能力以及快速解决问题的能力;
8、对新技术,新事物有很好的探索和求知欲;
9、熟悉常规的机器学习算法:降维(PCA、SVD)、SVM、逻辑回归(LogisticsRegression)、决策树(GBDT、RandomForest)、关联规则(Apriori、FP-Growth)、聚类(K-Means)等优先。
大数据架构师的职责 篇2
职责:
负责大数据平台的规划和搭建、完成大数据平台的日常运营工作,为数据分析和展现提供支持;
对系统框架相关技术和业务进行培训,并负责核心代码编写,指导团队开发及解决出现的系统问题;
参与基于大数据平台的创新业务场景进行数据产品的架构设计,负责数据产品的研发交付;
负责处理大数据平台的疑难问题,为数据团队提供可靠的技术支持;
负责数据质量、稳定性等数据管理,数据内部共享融通的数据平台,让数据标准更规范、数据获取更高效;
及时跟进大数据领域新技术并分享,提升团队技术能力。
任职要求:
本科或以上学历,5年以上数据系统建设经验,3年以上大数据架构设计经验;
精通 java,python,scala 等一种大数据开发语言,熟悉Hadoop生态圈,包括但不限于hdfs,hive,spark, 有丰富的大数据项目的实践经验;
具备创新精神,条理清晰,沟通表达和逻辑思维能力强;
熟悉数据仓库的设计和开发,对数据架构有深入的了解和具备相关的项目实践经验优先;
对SQL on Hadoop 的开源查询引擎(如Presto、 Apache Drill ) 原理有深入研究优先;
有敏捷大数据和数据可视化实践经验优先。
大数据架构师的职责 篇3
1. 负责数澜大数据平台的架构设计和研发,建立数据生态服务,解决海量数据面临的挑战;
2. 管理和优化Hadoop、Spark等集群,计算作业的调优,保证集群和平台的高效和稳定;
3. 负责Hadoop、Spark、Flink的功能、性能和扩展,解决并实现业务需求;
4. 负责大数据产品的自动化、离线与实时计算、即席计算、数据质量、数据安全、机器学习等平台的设计和开发;
5. 调研和把握当前的最新技术,将其中的先进技术引入到自己的平台中,改善产品,提升竞争力;
大数据架构师的职责 篇4
1. 负责大数据项目整体架构规划,包括应用架构、技术架构、物理架构和数据架构等;
2. 负责指导工程师进行技术验证与实现,核心技术问题的攻关,解决项目开发过程中的技术难题;
3. 负责项目对外技术沟通,具有较强的沟通,表达和文档撰写能力;
4. 根据公司项目和业务发展特点,负责研究相关大数据前沿技术;
5. 推动技术能力的沉淀。
大数据架构师的职责 篇5
职责:
负责公司大数据产品架构的设计与实现;
配合大数据产品经理完成产品的快速研发与交付;
负责大数据产品架构的持续优化设计;
负责大数据产品核心组件设计;
负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;
为应用开发团队提供技术支撑。
任职要求:
本科及以上学历,3年以上的大数据开发经验、
2年以上大数据架构设计经验;
丰富的JAVA研发经验,精通JAVA,熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);
精通各种大数据相关技术体系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有数据挖掘、机器学习相关应用或研究背景;
沟通能力较好,积极主动意识较强,责任心较强。
大数据架构师的职责 篇6
职责
1、负责公司大数据平台的整体架构设计,包含数据收集、数据存储、数据挖掘、数据输出;
2、负责规划从数据源到数据应用的整体流程,并参与用户产品和数据产品的决策;
3、负责海量数据分析、用户行为分析,构建用户数据模型;
4、负责解决核心技术问题,对技术方案进行决策;
5、技术团队管理。
6、熟悉手机IOS、安卓系统APP开发
任职资格
1、计算机相关专业毕业,本科以上学历;
2、5年以上相关工作经验,具备软件产品架构设计经验,熟练掌握高性能、高扩展性架构设计方法;
3、熟练掌握java或c++任意一门语言、熟悉linux操作系统;
4、熟悉Hadoop/MR/Hbase/Mahout/Spark等大数据技术,并能够基于上述项目开发大数据相关应用;
5、熟悉基本数据挖掘方法和技术;
6、强烈的敬业精神,良好的沟通与协调能力,能有效组织协调团队完成各类开发工作;
7、热爱技术,相信数据的价值,对大数据有深刻的理解。
大数据架构师的职责 篇7
职责:
1、负责企业大数据平台的基础建设、管理及制定拓展规划;
2、负责大数据平台相关自动化服务工具的设计、开发;
3、参与Hadoop、Hbase、Spark等核心平台组件的开发、优化;
4、对平台特殊场景化的数据应用制定相关实践方案;
5、大数据团队的搭建。
任职资格:
1、统招本科以上学历,计算机等相关专业,5年以上工作经验;
2、具有Hadoop等大规模集群管理经验、海量(PB)数据处理经验;
3、精通Hadoop、Hive、Hbase等离线平台相关组件的原理机制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系统;
5、熟悉高并发、分布式开发等相关知识,具有后端服务优化相关经验;
6、熟悉爬虫常用框架以及反爬技术;
7、具有良好的沟通能力、分析问题与攻关问题的能力;
8、有责任心,工作积极,对新领域新技术有热情。
大数据架构师的职责 篇8
职责:
1. 负责大数据平台的基础技术规划,编制相关规范文档。
2. 负责大数据平台的数据采集,处理,存储以及挖掘分析的架构实现。
3. 负责大数据平台的实际规划建设,包括环境和框架的规划搭建以及部分核心编码工作。
4. 负责大数据相关技术发展方向的预研。
5. 参与业务需求调研,根据需求及行业特点设计大数据解决方案并跟进具体实施项目。
6. 制定大数据平台中数据质量,业务质量监控及管理办法。
岗位要求:
1. 全日制本科及以上学历,5年以上工作经验,4年及以上大数据架构设计经验,熟悉大数据解决方案,包括Hadoop平台、Spark、storm、机器学习、深度学习等大数据解决方案。
2. 深刻理解大数据处理(流计算、分布式计算、分布式文件系统、分布式存储等相关技术)实现方法。有架构和设计实践经验。
3. 精通大型数据库Oracle、SqlServer等的开发。
4. 精通java,Python中的一种或多种语言。
5. 熟悉容器、虚拟化、微服务框架等相关技术。
6. 对数据敏感,有严谨的工作思路,良好的沟通能力和团队合作精神。
7. 熟悉R,Python,SAS、SPSS等数据挖掘经验者优先。
8. 高宽展性,高性能,和分布式系统的实践及运维经验者优先。
9. 有大型数据仓库实施、大数据平台数据开发经验,熟悉运营商业务者优先。
大数据架构师的职责 篇9
职责:
1、负责公司的大数据处理框架的研发设计工作,梳理可实现方案和技术规范;
2、开发、完善公司大数据平台;参与公司离线、实时大数据处理系统的设计、开发、测试及多个业务模块的自动化集成;
3、负责业务平台数据统计分析模块的设计与规划;
4、负责公司产品研发过程中的数据及存储设计;
5、带领和培养团队完成组织分解的目标;
任职要求:
1、统招本科及以上学历,计算机、软件工程相关专业,至少8年以上工作经验,5年以上大数据开发经验;
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相关技术的基础架构
3、熟悉数据仓库,数据算法,分布式计算技术理论,具有大数据整体系统架构设计经验;
4、熟悉Linux系统,熟练使用shell/perl/python脚本处理问题;
5、对深度学习框架(Tensorflow)和机器学习(svm 随机深林贝叶斯等)有一定了解的优先;
6、能够组织项目开发组协同工作,包括团队沟通、计划、开发环境管理等
大数据架构师的职责 篇10
职责:
1、负责大数据项目平台架构的评估、规划和设计
2、开发大数据平台的核心模块代码,负责大数据平台的搭建,完成系统调试、集成与实施,保证大数据产品的上线运行
3、根据业务需求整合优化数据架构,保证产品的可靠性、稳定性
4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现
5、深入研究大数据相关技术和产品,跟进业界先进技术;
6、根据项目要求编写相关技术文档;
7、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
8、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
9. 负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;
10. 负责对使用关键技术的预研和选型,完成 PoC ;
11. 指导工程师完成开发工作,并能分享技术经验。
任职资格:
1、精通Linux操作系统,熟练使用Java;
2、3年以上大数据项目实战经验,两个项目的架构设计经验,熟悉Hadoop、Hbase、Storm、Spark、Pig等开源框架,并熟悉其工作原理;
3、有Hadoop、Spark、Hbase平台性能调优经验;
4、熟悉其它分布式存储相关技术,包括HDFS,Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java开发常用框架.如Spring、MyBatis等;
6、熟悉关系型数据库如oracle及数据库编程。
7、能够根据项目情况安排人力、分配任务,具有较强的团队管理能力。
8、硕士以上学历,20xx年以上的工作经验。
大数据架构师的职责 篇11
职责:
1、负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计和研发;
2、负责实时计算平台基础架构设计、部署、监控、优化升级;
3、制定项目数据仓库设计及实现规范,指导设计研发和部署;
4、协助策略和算法团队工作,保障数据挖掘建模和工程化;
5、深入研究大数据相关技术和产品,跟进业界先进技术。
任职要求:
1、3年以上大数据系统架构经验;
2、精通Hadoop HBase Hive Spark Flink Kafka Redis技术及其生态圈;
3、具备Java Scala Python等开发经验,熟悉数据挖掘和分析的策略与算法;
4、精通数据抽取,海量数据传输,数据清洗的常用方法和工具。
5、具备良好的系统分析能力、故障诊断能力;
6、有大数据策略、算法、可视化经验优先;
7、有在华为云存储产品和大数据产品的开发使用经验优先。
大数据架构师的职责 篇12
职责:
1. 负责大数据基础和应用平台的整体规划和架构设计,参与需求分析,架构设计,详细设计以及技术选型决策
2. 参与数据挖掘和建模相关核心算法的代码实现
3. 负责大数据算法平台的技术把关,性能调优,控制架构质量,解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发
4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力,支持解决方案实施
5. 负责数据库设计、应用架构设计、核心技术选型等工作
6. 协调解决开发中的技术问题、设计和监控运营指标,保障系统稳定运行
7. 培养,指导有能力的员工,指导工程师进行技术验证实现,核心技术攻关,解决开发过程中的技术难题
任职要求:
1. 熟悉大数据和数据仓库的系统架构设计方法
2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系统架构,有分布式实时、离线和机器学习平台的架构和开发经验,具备海量数据清洗、分析处理及存储的实践经验
4. 熟练使用JAVA,具有大规模分布式系统调优经验
5. 熟悉AI相关算法,熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先;
6. 具备良好的团队合作精神,对工作充满激情。
7. 熟悉FusionInsight平台开发经验者优先
大数据架构师的职责 篇13
职责:
1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;
2、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;
任职要求:
1、本科及以上计算机相关专业毕业;
2、精通离线和实时数据处理流程,掌握离线数据处理框架hive、impala、spark-sql等,掌握实时数据处理常用技术工具,包括Storm、SparkStreaming等;
3、熟悉大数据技术生态圈,精通大数据技术架构,有大数据平台构建经验;
4、掌握常见数据流接入工具,包括Flume、kafka等;
5、熟练掌握基本的Linux操作系统和某种脚本语言编程(如Shell等);
6、掌握一种或以上实时处理语言,如JAVA、SCALA、PYTHON等,有SCALA经验者优先;
7、有实际大规模数据(TB级以上)处理经验优先;
大数据架构师的职责 篇14
职责:
1、负责公司的大数据平台的数仓架构、系统架构设计;
2、负责带领团队完成舆情分析相关的挖掘方案设计;
3、负责大数据研发组团队管理;
4、负责带领团队完成舆情平台的方案文档撰写、迭代开发;
5、负责研发规范制定,研究行业前沿技术;
6、参与产品规划及设计讨论。
任职要求:
1、本科五年工作经验及以上,有至少五年的大数据技术实践经验,有NLP或AI相关经验;
2、有很强的架构设计能力和良好的表达能力;
3、有一定的项目管理及团队管理能力;
4、精通Hadoop、Spark生态圈中的常用组件原理及应用;
6、理解媒体业务,精通数据仓库的规划和设计;
5、精通掌握Java或Python编程,有性能调优能力;
4、熟悉NLP算法原理及应用;
6、对新生事物或者新技术有浓厚兴趣,学习能力强。
大数据架构师的职责 篇15
职责:
1、负责大数据开发团队建设;
2、负责行业大数据产品架构设计与研发;
3、负责带领团队进行行业大数据产品关键技术攻关。
任职要求:
1、有三年以上大数据应用、开发经验;具备海量数据加工处理(ETL)相关经验,对数据挖掘及机器学习有较为深刻的理解;
2、熟悉Hadoop相关技术,对HDFS、MapReduce、Hive、HBase有一定的使用和开发经验;
3、熟悉Linux,熟练使用Shell或Python,进行脚本编写;
4、对数据结构和数据统计分析算法有较为深刻理解;
5、掌握至少一种主流关系数据库开发技术:Oracle、SQL Server、MySQL等;
6、掌握实时流计算技术,有Spark、Storm开发经验者优先;
7、需要具备2年以上研发团队管理经验。
大数据架构师的职责 篇16
职责:
1、负责大数据平台的技术选型,基于Spark、Hadoop大数据平台建设和开发;
2、完成包括数据模型设计、数据采集、数据存储等方面的大数据系统架构的设计和数据层架构设计;
3、构建数据中台,为多种行业应用提供主数据(画像标签/关系图谱)、数据模型、人工智能业务算法及数据服务。
4、对海量数据处理的业务需求进行评估和方案设计、拆分任务并指导工程师完成开发;
5、带领大数据技术团队提供并实现大数据平台上各项数据分析和数据可视化的架构设计,支撑解决方案实施。
任职要求:
1、本科及以上学历,具有5年及以上大数据架构设计和开发经验;2年及以上带领团队经验;沟通能力强。在大型互联网企业从事大数据架构设计者优先考虑;有分布式大型商业软件系统设计经验、主导过大型商业软件的架构设计并取得过市场商业成功者优先考虑;
2、熟悉整个大数据的完整处理流程,包括数据的采集、清洗、预处理、存储、分析挖据、机器学习和数据可视化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一种主流数据库的使用,并能进行性能调优;
4、具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战。
大数据架构师的职责 篇17
1、负责大数据平台资源规划、权限控制、运维架构设计,为各产品业务提供稳定、高效、安全的运行环境;
2、负责实时,离线数据分析处理及实时平台的建设和搭建
3、熟悉 Flink 流式计算引擎的使用以及源码原理,并且有相关的流式处理平台的经验。
4、Java基础扎实,熟练掌握垃圾回收,网络,多线程编程,了解 python 或 scala
5、负责大数据平台技术架构、数据架构的分析与设计;
大数据架构师的职责 篇18
职责:
1. 深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路线;
2. 对接业务研究和技术部门,主动搜集和转化需求,组织数据中心业务开发,进行数据相关产品需求分析和设计;
3. 搭建数据仓库,研发数据库管理系统,搜集、提取、处理业务积累的海量数据,开展数据分析和挖掘;
4. 根据公司战略和发展需要,规划数据中心重点工作和任务;落实部门人员、事务管理,开展跨部门、跨地区协作,协助对外交流与合作。
职位要求:
1. 5年以上相关工作经验,有团队管理和项目管理经验者优先;
2.了解政府运作机制,掌握财政行业知识,有电子政务行业经验者优先;
3. 熟练掌握使用Java或Python,精通数据库查询语言如SQL,Oracle等,在机器学习模型和算法方向有应用经验者优先;
4. 具备数据中心产品策划整体思维,有大数据处理、分析、挖掘经验者优先;
5. 逻辑思维严密,具备业务抽象、分解和标准化的能力,口头和书面表达优秀;
6. 有较强的大局意识和良好的团队合作意识,富有领导力,具备优秀的人际交往和沟通能力。
大数据架构师的职责 篇19
职责:
1. 负责设计企业级大数据平台的整体架构,从技术层面制定清晰的大数据产品与系统技术架构,并负责实现关键技术和产品。
2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等,带领团队完成有质变的技术解决方案。
3. 负责组织同事研究行内最前沿的技术发展方向,突破现有的技术难题。
4. 负责研究院对外项目合作协调与支持,编写项目建设方案及后期项目建设支持。
任职要求:
1. 硕士及以上学历,计算机相关专业。
2. JAVA基础扎实,不少于8年的一线开发经验,精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术,熟悉Maven或Ant.,熟悉Python语言开发加分。
3. 不少于4年大数据的直接研发经验,精通Hadoop/Spark系统,有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。
4. 掌握分布式系统原理,对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。
5. 熟悉分布式系统的监控、运维、故障恢复,高可用原理和设计理念。
6. 算法基础扎实,熟悉常见的数据结构,掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。
7. 必须要有千万级别的项目管理经验,包括但不限于前期需求沟通,建设方案编写,中期项目实施,进度汇报,后期项目维护。
大数据架构师的职责 篇20
职责:
1、负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;
2、负责公司项目的整体评估、设计、架构及关键模块的开发;
3、负责架构优化,协助团队解决开发过程中遇到的技术难题;
4、负责新技术的调研和大数据相关开源组件的研究,并能在团队进行推广应用;
5、参与数据分析、数据建模、项目核心模块及核心框架的开发;
6、负责大数据平台的性能条有和问题诊断。
任职要求:
1、计算机相关专业,本科及以上学历,3-5年以上工作经验,2-3年大数据相关经验;
2、具有扎实的大数据和数据仓库理论功底,负责过大数据平台或数据仓库设计;
3、对基于Hadoop的大数据体系有深入的认识,具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)项目应用研发经验,有Hadoop集群搭建和管理经验,度过Hadoop和Spark源码;
4、熟悉Linux和Python语言,了解Scala原理和底层技术;
5、熟悉分布式系统的架构及对其进行设计和优化,对海量数据的清晰、分析处理及存储有相关的实战经验;
6、算法基础扎实,熟悉常见的数据结构,深入理解分布式算法和以上提到的分布式系统,
7、必须有一线coding的能力;
8、有统计学、数学知识,海量数据处理、分析和挖掘,大型互联网公司从业经历着优先。
大数据架构师的职责 篇21
职责:
1、负责规划科技大数据平台及科技数据入库自动化的方案设计;
2、负责大数据平台的开发和维护,以及对外服务接口的开发;
3、负责大数据平台的优化和改进工作。
任职要求
1、计算机相关专业本科及以上学历,5年以上开发经验,其中3年以上为互联网、大数据相关的开发经验;
2、熟知Hadoop生态圈体系,精通Hadoop/Spark/Storm/Kafka中的一项或几项,深刻理解MapReduce的运行原理和机制,有MPI经验者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作,尤其是数据库集群的构建和操作,熟悉Neo4j者尚佳;
4、具有机器学习相关项目经验者优先。
大数据架构师的职责 篇22
职责:
1.负责过多个大数据项目的架构;
2.精通Hadoop、Spark, HBase等主流的大数据平台、精通各组件优化设计原理;
3.精通大数据实时流式处理的设计和应用;
3.熟悉大数据平台调优,具备大数据生产平台调优经验;
4.金融行业,运营商行业大数据架构经验更优;
5.研究大数据技术的最新发展,并引入到公司技术架构;
6.指导大数据工程师的日常工作,并培养技术骨干。
任职资格:
1.计算机相关专业本科或以上学历;
2.具有5年以上大数据相关开发经验;
3.具有2年以上带团队经验
4.对Hadoop/Hive/Spark/HBase/ES等等大数据常用技术有深刻理解,能够带领团队进行技术攻坚,完成中间件的实施、改造、调优;
5.精通海量数据和实时数据的分析处理,能对线上的数据处理性能问题做调优;
6.精通数据仓库以及维度建模原理,有大型数据仓库建设经验;
7.精通关系型数据库和NoSQL数据库的使用,熟悉相关理论;
8.沟通顺畅,重点突出,高效。
大数据架构师的职责 篇23
职责:
1、数据分析软件平台架构搭建
2、负责深度学习核心框架或高性能后台服务系统的架构设计工作,包括系统总体规划、架构设计、系统分析、软件实现、性能优化;
3、指导开发人员开发,并解决系统出现的问题,理解物业需求;
4、制定开发计划和控制开发进度,负责指导研发团队开展设计工作;
任职要求:
1、硕士以上,计算机或先关专业;
2、5年左右软件开发经验,含3年以上系统分析、设计经验,有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验,
3、 具备良好的组件级建模能力,熟悉HTTP、TCP等协议
4、熟练使用UML进行软件架构设计,至少精通EA,RATIONAL, VISIO等一种设计工具.
5、精通至少一种编程语言,熟悉 Linux 相关技术,能独立在上面进行开发、测试和部署
6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术
大数据架构师的职责 篇24
职责:
(1) 负责公司大数据平台搭建,相关的设计和技术开发工作,负责大数据存储系统、分布式计算系统、数据集成、挖掘算法等的设计、研发以及维护、优化工作;
(2) 通过数据分析技术,挖掘有利于营销中各业务场景的变量或规则类标签,以提升模型效果,为文旅、教育业务提供数学模型理论及编程支撑;
(3) 对接沟通业务系统研发团队和产品部门,提供数据驱动方面的专业咨询方案,并对业务的大数据应用场景提出建设性意见;
(4) 配合部门领导进行项目需求分析、设计开发工作。
任职要求:
(1) 计算机、统计学,数学等相关专业本科以上学历,5年以上大数据或文旅、教育数据产品设计开发经验,高效高质量产出需求和技术文档;
(2) 精通Hadoop,熟悉大数据生态技术,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等,有大规模集群架构、开发及运维经验;熟悉HDFS/MapReduce等;
(3) 熟悉Java,能够独立应用python、R、SAS或类似分析工具进行数据分析;
(4) 熟悉大数据挖掘、可视化分析,各种BI算法和产品等,在计算广告、搜索引擎、推荐系统、用户画像等有一个或多个算法领域的研发经验,能够运用数据作为产品解决业务方运营及决策问题;
(5) 有互联网行业工作经验者优先,有海量数据的机器学习算法实践经验优先;
(6) 工作认真、负责,有良好的团队合作精神,良好的分析能力、沟通技巧。
大数据架构师的职责 篇25
职责:
根据大数据业务需求,设计大数据方案及架构,实现相关功能;
搭建和维护大数据集群,保证集群规模持续、稳定、高效平稳运行;
负责大数据业务的设计和指导具体开发工作;
负责公司产品研发过程中的数据及存储设计;
针对数据分析工作,能够完成和指导负责业务数据建模。
职位要求:
计算机、自动化或相关专业(如统计学、数学)本科以上学历,3年以上大数据处理相关工作经验;
精通大数据主流框架(如 Hadoop、hive、Spark等);
熟悉 MySQL、NoSQL(MongoDB、Redis)等主流数据库,以及rabbit MQ等队列技术;
熟悉hadoop/spark生态的原理、特性且有实战开发经验;
熟悉常用的数据挖掘算法优先.
大数据架构师的职责 篇26
职责:
1、 基于公司大数据基础和数据资产积累,负责大数据应用整体技术架构的设计、优化,建设大数据能力开放平台;负责大数据应用产品的架构设计、技术把控工作。
2、 负责制定大数据应用系统的数据安全管控体系和数据使用规范。
3、 作为大数据技术方案到产品实现的技术负责人,负责关键技术点攻坚工作,负责内部技术推广、培训及知识转移工作。
4、 负责大数据系统研发项目任务规划、整体进度、风险把控,有效协同团队成员并组织跨团队技术协作,保证项目质量与进度。
5、 负责提升产品技术团队的技术影响力,针对新人、普通开发人员进行有效辅导,帮助其快速成长。
任职资格:
1、 计算机、数学或相关专业本科以上学历,5-20xx年工作经验,具有大型系统的技术架构\应用架构\数据架构相关的实践工作经验。
2、 有分布式系统分析及架构设计经验,熟悉基于计算集群的软件系统架构和实施经验。
3、 掌握Hadoop/Spark/Storm生态圈的主流技术及产品,深入了解Hadoop/Spark/Storm生态圈产品的工作原理及应用场景。
4、 掌握Mysql/Oracle等常用关系型数据库,能够对SQL进行优化。
5、 熟悉分布式系统基础设施中常用的技术,如缓存(Varnish、Memcache、Redis)、消息中间件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有实践经验者优先。
6、 熟悉Linux,Java基础扎实,至少3-5年以上Java应用开发经验,熟悉常用的设计模式和开源框架。