DolphinScheduler 进阶(资源中心)

news/2024/5/19 15:44:22/文章来源:https://blog.csdn.net/weixin_45417821/article/details/127093219

文章目录

  • 内置参数
  • 引用依赖资源

内置参数

DolphinScheduler 提供了一些时间相关的系统参数,方便定时调度使用。

1)基础内置参数

变量名参数说明
system.biz.date${system.biz.date}定时时间前一天,格式为 yyyyMMdd
system.biz.curdate${system.biz.curdate}定时时间,格式为 yyyyMMdd
system.datetime${system.datetime}定时时间,格式为 yyyyMMddHHmmss

2)衍生内置参数

可通过衍生内置参数,设置任意格式、任意时间的日期。

(1)自定义日期格式

可以对 $[yyyyMMddHHmmss] 任意分解组合,如 $[yyyyMMdd], $[HHmmss], $[yyyyMM-dd]。

(2)使用 add_months() 函数

该函数用于加减月份, 第一个入口参数为[yyyyMMdd],表示返回时间的格式 第二个入口参数为月份偏移量,表示加减多少个月。

参数说明
$[add_months(yyyyMMdd,12*N)]后 N 年
$[add_months(yyyyMMdd,-12*N)]前 N 年
$[add_months(yyyyMMdd,N)]后 N 月
$[add_months(yyyyMMdd,-N)]前 N 月

(3)直接加减数字

在自定义格式后直接“+/-”数字,单位为“天”。

参数说明
$[yyyyMMdd+7*N]后 N 周
$[yyyyMMdd-7*N]前 N 周
$[yyyyMMdd+N]后 N 天
$[yyyyMMdd-N]前 N 天
$[HHmmss+N/24]后 N 小时
$[HHmmss-N/24]前 N 小时
$[HHmmss+N/24/60]后 N 分钟
$[HHmmss-N/24/60]前 N 分钟

3)配置示例

若执行的脚本需要一个格式为 yyyy-MM-dd 的前一天日期的参数,进行如下配置即可

${system.biz.date}

在这里插入图片描述

日志结果如下

在这里插入图片描述

引用依赖资源

有些任务需要引用一些额外的资源,例如 MR、Spark 等任务须引用 jar 包,Shell 任务需要引用其他脚本等。DolphinScheduler 提供了资源中心来对这些资源进行统一管理。资源中心存储系统可选择本地文件系统或者 HDFS 等。资源中心除了提供文件资源管理功能,还提供了 Hive 自定义函数管理的功能。

下面以 Shell 任务为例,演示如何引用资源中心的其他脚本。

1)点击资源中心,点击创建文件

在这里插入图片描述

2)创建文件

在这里插入图片描述

3)确保HDFS可以查询到 hello.sh 脚本

在这里插入图片描述

4)编辑Node-A中的内容,保存并执行

在这里插入图片描述

5)查看任务实例中Node-A结果

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_15607.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

资深腾讯架构师耗时2个月整理的Redis全套学习笔记,涵盖所有核心知识点

Redis 是一个开源、基于内存、使用 C 语言编写的 key-value 数据库,并提供了多种语言的 API。它的数据结构十分丰富,基础数据类型包括:string(字符串)、list(列表,双向链表)、hash&a…

18【命令设计模式】

文章目录十八、命令设计模式18.1 命令设计模式简介18.1.1 命令设计模式概述18.1.2 命令设计模式的UML类图18.2 命令设计模式的实现18.3 命令设计模式的优缺点十八、命令设计模式 18.1 命令设计模式简介 18.1.1 命令设计模式概述 命令设计模式(Command Pattern&am…

元宇宙人均月入过万?智联报告大揭秘(附下载);华盛顿大学·线性代数进阶课程;电子书·深度神经网络应用(Keras);前沿论文 | ShowMeAI资讯日报

👀日报合辑 | 📆电子月刊 | 🔔公众号下载资料 | 🍩韩信子 📢 人均『月入过万』?元宇宙领域就业现状究竟如何 自2021年元宇宙元年之后,大批元宇宙相关岗位如雨后春笋涌现在市场上。从耳熟能详的…

罗克韦尔 Rockwell RSLogix 500 Crack

罗克韦尔自动化除了提供自动化基础硬件外,还提供大量的软件工具,并在其产品中包含了最新的Microsoft的32位Windows NT及ActiveXTM技术。这些软件为用户采用开放式的工业标准提供方便。另外借助DDE、ActiveX和ODBC兼容技术等,使现场数据能容易…

Chrome 浏览器的 ChromeOptions 参数介绍,selenium 动态渲染必看

背景 在使用 selenium 浏览器渲染技术,爬取网站信息时,默认情况下就是一个普通的纯净的chrome浏览器,而我们平时在使用浏览器时,经常就添加一些插件,扩展,代理之类的应用。相对应的,当我们用ch…

SpringBoot+SpringSecurity+JWT

声明: 该文章为b站博主“三更草堂”视频讲解文档。 视频链接: https://www.bilibili.com/video/BV1mm4y1X7Hc/?spm_id_from333.1007 文章目录SpringSecurity从入门到精通课程介绍0. 简介1. 快速入门1.1 准备工作1.2 引入SpringSecurity2. 认证2.1 登陆校…

Windows系统深度学习Anaconda、PyTorch软件安装教程

1.作者介绍 陈梦丹,女,西安工程大学电子信息学院,2022级研究生,张宏伟人工智能课题组 研究方向:机器视觉与人工智能 电子邮件:1169738496qq.com 安装思路: 根据电脑显卡选择cuda版本&#xf…

软件供应链中代码签名的重要性

你怎麼知道你的代碼是可信的? 在一個難以獲得信任的世界裡,這是一個重要的問題要問自己。 我們如何知道我們正在運行的應用程序、我們正在部署的容器或我們交付給客戶的代碼是真實的? 我們怎麼知道它沒有被篡改? 這一切都歸結為…

VUE3-实习笔记02

本节:ant design 3 的自定义校验规则 这里是获取数据,保存数据,有两个接口,测试邮箱的校验是非必要的,点击“发送测试邮件”才校验,所以规则是要另外加进去的,然后点击保存的时候,把…

python基本操作的作业

查看变量类型的Python内置函数是____。type () 返回单字符在unicode编码表中的值的函数为____。ord() Python中的布尔型只有两个值,分别为:____和____。True 和 False 执行下列语句后,从键盘输入10,程序的结果是: 1…

ActiveReportsJS 在 React 应用程序中添加和自定义查看器

谷歌搜破解版:ActiveReportsJS 3.2中文版是一个客户端报告解决方案,可用于各种不同的前端框架和库。从 vanilla JavaScript 到 NuxtJS,ARJS 在设计应用程序和使用其组件时非常灵活。在本文中,我们将讨论如何通过 Visual Studio Co…

Delphi 开发过程中简单的版本管理与回退

前言 很多时候,我们在进行代码编写或者窗体设计的时候,如果需要回退某些早前修改的内容,基本是使用CtrlZ做刚刚修改内容的回退处理,但如果某些修改已经过了一段时间我们就不能再这样退回,并且CtrlZ只能按顺序一个一个回…

用QT的modbus相关类编写ModbusTcp主站

目标程序运行界面, 1.新建Qwiget工程,工程文件如下, #------------------------------------------------- # # Project created by QtCreator 2022-09-28T14:53:02 # #------------------------------------------------- QT co…

MYSQL介绍——数据库查询

条件查询 很多时候,我们使用数据库时并不是关心表里所有的数据,而是一部分满足条件的数据,这类条件要用WHERE子 句来实现数据的筛选。 SELECT …… FROM …… WHERE 条件 [ AND | OR ] 条件 …… ;下面给出一个示例: SELECT * …

Android init.rc语言全解析

读懂init语言并不难,难的是有人愿意去做这个事情然后分享出来,如果不是接触到这块的知识,没有谁会专门研究这个,这也是为什么我写第一篇initrc文章到现在过去了7年多了一直没更新的原因,经常有小伙伴私信我希望我写一篇关于init文件解读的文章,或者是想请教下如何在custo…

vue搭建项目、创建登录页面和后台交互之引入axios

目录 1. 搭建项目 1.1 使用vue-cli创建项目 1.2 通过npm安装element-ui 1.3 导入组件 2 创建登录页面 2.1 创建登录组件 2.2 引入css(css.txt) 2.3 配置路由 2.4 在Login组件中将提交按键调整为100%宽度 2.5 运行效果 3. 后台交互 3.1 引入ax…

北京跨境电商开发

受疫情影响,许多国际航班停运,民众只能通过网络购买海外商品。越来越多的商家嗅到了这个商机,于是扩大经营范围。2021年以来,跨境电商投资不断升温,随着SaaS体系的完善,需求也在增加。跨境电商在市场上的潜…

SpringCloud之注册中心

1.SpringCloud电商示例 1.1.示例架构 以常见的电商业务为例 cloud-demo:- order-service # 订单服务- user-service # 用户服务- product-service # 商品服务— cloud-common # 不是应用服务,主要用于存放一些公共的内容,如pojo、baseservice这种、还有utilsc…

冰冰学习笔记:反向迭代器的模拟

欢迎各位大佬光临本文章!!! 还请各位大佬提出宝贵的意见,如发现文章错误请联系冰冰,冰冰一定会虚心接受,及时改正。 本系列文章为冰冰学习编程的学习笔记,如果对您也有帮助,还请各位…

06-使用pytorch实现手写数字识别

目录 1.思路和流程分析 2.准备训练集和测试集 2.1 torchvision.transforms的图形数据处理方法 2.1.1 torchvison.transforms.ToTensor 2.1.2 torchvision.transforms.Normalize(mean,std) 2.1.3 torchvision.transforms.Compose(transforms) 2.2 准备MNIST数据集的Datas…