|
|
@ -74,7 +74,7 @@ mysql -h {host} -u {user} -p{password} -D {db} < quartz.sql |
|
|
|
|
|
|
|
|
|
|
|
## 创建部署用户 |
|
|
|
## 创建部署用户 |
|
|
|
|
|
|
|
|
|
|
|
因为escheduler worker都是以 sudo -u {linux-user} 方式来执行作业,所以部署用户需要有 sudo 权限,而且是免密的。 |
|
|
|
- 在所有需要部署调度的机器上创建部署用户,因为worker是以 sudo -u {linux-user} 方式来执行作业,所以部署用户需要有 sudo 权限,而且是免密的。 |
|
|
|
|
|
|
|
|
|
|
|
```部署账号 |
|
|
|
```部署账号 |
|
|
|
vi /etc/sudoers |
|
|
|
vi /etc/sudoers |
|
|
@ -86,61 +86,30 @@ escheduler ALL=(ALL) NOPASSWD: NOPASSWD: ALL |
|
|
|
#Default requiretty |
|
|
|
#Default requiretty |
|
|
|
``` |
|
|
|
``` |
|
|
|
|
|
|
|
|
|
|
|
## 伪分布式部署 |
|
|
|
## ssh免密配置 |
|
|
|
|
|
|
|
在部署机和其他安装机器上配置ssh免密登录,如果要在部署机上安装调度,需要配置本机免密登录自己 |
|
|
|
### 2,根据实际需求来创建HDFS根路径 |
|
|
|
|
|
|
|
|
|
|
|
- [将 **主机器** 和各个其它机器SSH打通](http://geek.analysys.cn/topic/113) |
|
|
|
根据 **common/common.properties** 中 **hdf.startup.states** 的配置来判断是否启动HDFS,如果启动,则需要创建HDFS根路径,并将 **owner** 修改为**部署用户**,否则忽略此步骤 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 3,项目编译 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
如上进行 **项目编译** |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 4,修改配置文件 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
根据 **配置文件说明** 修改配置文件和 **环境变量** 文件 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 5,创建目录并将环境变量文件复制到指定目录 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- 创建 **common/common.properties** 下的data.basedir.path、data.download.basedir.path和process.exec.basepath路径 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- 将**.escheduler_env.sh** 和 **escheduler_env.py** 两个环境变量文件复制到 **common/common.properties**配置的**escheduler.env.path** 和 **escheduler.env.py** 的目录下,并将 **owner** 修改为**部署用户** |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
## 分布式部署 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 1,创建部署用户 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
- 在需要部署调度的机器上如上 **创建部署用户** |
|
|
|
|
|
|
|
- [将 **主机器** 和各个其它机器SSH打通](https://blog.csdn.net/thinkmore1314/article/details/22489203) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 2,根据实际需求来创建HDFS根路径 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
根据 **common/common.properties** 中 **hdfs.startup.state** 的配置来判断是否启动HDFS,如果启动,则需要创建HDFS根路径,并将 **owner** 修改为**部署用户**,否则忽略此步骤 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 3,项目编译 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
如上进行 **项目编译** |
|
|
|
## 产品部署 |
|
|
|
|
|
|
|
|
|
|
|
### 4,将环境变量文件复制到指定目录 |
|
|
|
### 1. 修改环境变量文件 |
|
|
|
|
|
|
|
|
|
|
|
将**.escheduler_env.sh** 和 **escheduler_env.py** 两个环境变量文件复制到 **common/common.properties**配置的**escheduler.env.path** 和 **escheduler.env.py** 的目录下,并将 **owner** 修改为**部署用户** |
|
|
|
- 根据业务需求,修改conf/env/目录下的**escheduler_env.py**,**.escheduler_env.sh**两个文件中的环境变量 |
|
|
|
|
|
|
|
|
|
|
|
### 5,修改 install.sh |
|
|
|
### 2. 修改部署参数 |
|
|
|
|
|
|
|
|
|
|
|
修改 install.sh 中变量的值,替换成自身业务所需的值 |
|
|
|
- 修改 install.sh 中变量的值,替换成自身业务所需的值 |
|
|
|
|
|
|
|
|
|
|
|
### 6,一键部署 |
|
|
|
### 3. 一键部署 |
|
|
|
|
|
|
|
|
|
|
|
- 安装 pip install kazoo |
|
|
|
- 安装 pip install kazoo |
|
|
|
|
|
|
|
|
|
|
|
- 安装目录如下: |
|
|
|
- 安装目录如下: |
|
|
|
|
|
|
|
|
|
|
|
``` |
|
|
|
``` |
|
|
|
bin |
|
|
|
bin |
|
|
|
conf |
|
|
|
conf |
|
|
|
escheduler-1.0.0-SNAPSHOT.tar.gz |
|
|
|
|
|
|
|
install.sh |
|
|
|
install.sh |
|
|
|
lib |
|
|
|
lib |
|
|
|
monitor_server.py |
|
|
|
monitor_server.py |
|
|
@ -151,10 +120,18 @@ escheduler ALL=(ALL) NOPASSWD: NOPASSWD: ALL |
|
|
|
|
|
|
|
|
|
|
|
- 使用部署用户 sh install.sh 一键部署 |
|
|
|
- 使用部署用户 sh install.sh 一键部署 |
|
|
|
|
|
|
|
|
|
|
|
- 注意:scp_hosts.sh 里 `tar -zxvf $workDir/../escheduler-1.0.0.tar.gz -C $installPath` 中的版本号(1.0.0)需要执行前手动替换成对应的版本号 |
|
|
|
- jps查看服务是否启动 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
```aidl |
|
|
|
|
|
|
|
MasterServer ----- master服务 |
|
|
|
|
|
|
|
WorkerServer ----- worker服务 |
|
|
|
|
|
|
|
LoggerServer ----- logger服务 |
|
|
|
|
|
|
|
ApiApplicationServer ----- api服务 |
|
|
|
|
|
|
|
AlertServer ----- alert服务 |
|
|
|
|
|
|
|
``` |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
### 7,启停服务 |
|
|
|
## 启停服务 |
|
|
|
|
|
|
|
|
|
|
|
* 启停Master |
|
|
|
* 启停Master |
|
|
|
|
|
|
|
|
|
|
|