USDP 智能大数据平台发布 v3.1 新版本啦

USDP 智能大数据平台发布 v3.1 新版本啦新版本发布USDP v3.1 发布v3.1 新增特性USDP平台管理服务集群资源池管理新增 YARN/Impala 的集群动态资源池可视化(YA

大家好,欢迎来到IT知识分享网。

新版本发布

USDP v3.1 发布

USDP 智能大数据平台发布 v3.1 新版本啦

v3.1 新增特性

USDP平台管理服务

集群资源池管理

  • 新增 YARN/Impala 的集群动态资源池可视化(YARN 为容量调度模式、Impala 为公平调度模式)配置功能。通过该工具,用户可便捷的对管理集群整体的计算资源池进行动态划分,使得集群算力资源更合理的服务于不同业务,优化资源争抢等问题。

易用性扩展

  • 新增自定义监控图表(集群/主机/服务)的功能。用户可按业务关注点,自主的对关键的监控指标进行汇总/对比等方式进行图表化展示,达到轻松快速捕获集群/主机/服务的关键状态反馈的目的。
  • 支持用户自定义业务监控扩展。该功能的开放,可通过扩展采集端的方式采集平台默认未采集系统/服务的监控指标,借助 USDP 监控模块实现满足业务需要的监控自定义拓展目的。

平台升级扩展

  • 增加集群升级可视化向导(含 UDH 服务版本比对和升级检查功能)。在对平台/集群进行升级操作时,能更加简单高效的完成升级操作,降低升级维护的操作难度。

安全管理

  • 扩展支持 LDAP 服务配置集成,新增一键配置 LDAP 服务组装配置向导及一键解除 LDAP。LDAP 的扩展,有利于对企业诸多用户在各业务系统及大数据集群所有服务中实现统一用户管理的能力。
  • 新增操作日志审计功能,通过筛选器快速检索,辅助实现操作行为追溯的能力。
  • 一键 Kerberos 功能增加支持 FreeIPA 类型的 KDC(目前支持 MIT / FreeIPA 两种类型的 KDC),兼容将 FreeIPA 作为身份管理系统解决方案的使用场景。

智能运维

  • 新增平台/集群/服务运行中的关键信息(异常)事件的记录、展示。辅助管理员快速发现已发生的异常情况,及时介入诊断并处理事件异常

大数据生态服务

服务组件扩展

新增 Flink、Atlas、Kyuubi、Hudi、Kylin、Zeppelin、Canal、KafkaEagle、ZKUI 服务,及其与集群生态服务兼容、配置、监控等模块的支持;

  • Flink:处理数据流的有态分布式处理引擎;
  • Atlas:为 Hadoop 集群提供含数据分类、集中策略引擎、数据血缘、安全和生命周期管理等的元数据治理服务;
  • Kyuubi:用于在数据湖上提供 Serverless SQL 的分布式、多租户网关;
  • Hudi:构建在 Hadoop 文件系统之上的数据湖平台,提供更新数据和删除数据的能力;
  • Kylin:在 Hadoop/Spark 之上的多维分析(OLAP)巨量数据 SQL 查询的分布式分析引擎;
  • Zeppelin:可以启用数据驱动、交互式数据分析和与 SQL,Scala,Python,R 等的协作的 Web 的笔记本;
  • Canal:数据库增量同步工具,常用于实时数据分析架构的数据采集业务中;
  • KafkaEagle:Kafka 可视化管理工具;
  • ZKUI:Zookeeper 可视化管理工具;

组件兼容性提升

  • 支持 Hive on Spark 引擎运行模式;
  • 为 Hue 自动配置类 SQL 开发模式的组件(新增 Trino、Spark SQL、Kyuubi)的可视化编辑器,实现服务创建即用,无需手动配置;
  • 支持 Ranger 的用户自动化同步;
  • 支持 Ranger Plugin 可视化管理;
  • 增加 HDFS DataNode 退役及恢复上线功能;
  • YARN 新增实例 TimelineReader;
  • 调整 Oozie 部署,支持 Hue 接入;
  • 开放 HBase 数据存储目录设置;
  • 支持 Prometheus 自定义 Targets 设置;

关于 v3.1 支持所有大数据服务生态,请查看 UDH 发行版支持的大数据生态服务列表 。

USDP 智能大数据平台发布 v3.1 新版本啦

v3.1 特性优化

  • Hue 集成 Solr 配置,可通过 Hue 对 Solr 进行开发操作,提升服务组件兼容的体验;
  • 调整 USDP Server DB (MySQL) 为高可用架构,提升平台整体的以及各服务元数据存储的稳定性;
  • 服务配置项支持模糊查询,用户可快速检索到需要调整的配置项,提升维护效率;
  • 环境初始化工具增加时区设置,默认设置 Asia/Shanghai 时区;
  • 调整 SparkThriftServer 实例默认不部署,使用户可按需添加该服务实例;
  • 新增 HDFS YARN WebUI 配置 http kerberos(支持本地浏览器用 kinit 后的用户访问开启了 kerberos 的 HDFS / YARN WebUI),增强大数据服务在多种访问形式下的一致安全性能力;
  • 调整 HDFS 上 spark jars 包目录(hive 和 spark 共用一个目录调整为分别一个目录);
  • 修复任务错误时日志截断的问题;
  • 修复新增/删除主机时 Prometheus 监控未更新问题;

未来即将支持的新特性

  • v3.x 信创版本发布及取得相关厂商认证并颁发的《兼容测试适配证书》;
  • 集群业务任务监控(YARN/Impala);
  • 系统及服务日志采集/存储/分析/检索/展示功能;
  • MPP 类数据库扩展支持;

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://yundeesoft.com/67790.html

(0)

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注微信