当容错对您的应用程序至关重要时,请使用外部卷。如果主机发生故障,本地 Marathon 实例会在其他主机上重新安排您的应用程序及其相关数据,而无需用户干预。外部卷通常提供较大的存储量。
Marathon 应用程序通常在终止和重新启动时失去状态。在某些情况下,例如,如果您的应用程序使用 MySQL,您将希望应用程序保存其状态。您可以使用外部存储服务,例如 Amazon 的 Elastic Block Store (EBS),创建跟随应用程序实例的持久卷。
请注意,卷的大小以吉字节 (GiB) 为单位指定。
创建具有外部持久卷的应用程序
Marathon 应用定义
您可以在 [Marathon 应用定义][6] 中指定外部卷。
使用 Universal Container Runtime
此应用定义中 cmd
将 date
命令的输出附加到 test.txt
. 如果您看到应用程序连续运行的日志显示越来越多的 date
输出行,则可以确定外部卷已被正确使用。
{
"id": "hello",
"instances": 1,
"cpus": 0.1,
"mem": 32,
"cmd": "date >> test-rexray-volume/test.txt; cat test-rexray-volume/test.txt",
"container": {
"type": "MESOS",
"volumes": [
{
"containerPath": "test-rexray-volume",
"external": {
"size": 100,
"name": "my-test-vol",
"provider": "dvdi",
"options": { "dvdi/driver": "rexray" }
},
"mode": "RW"
}
]
},
"upgradeStrategy": {
"minimumHealthCapacity": 0,
"maximumOverCapacity": 0
}
}
卷配置选项
containerPath
:卷装载在容器内的路径。对于 Mesos 外部卷,这必须是相对于容器的单层路径;不能包含正斜杠 (/
). 有关更多信息,请参阅[数据目录上的 REX-Ray 文档][7]。mode
:卷的访问模式。目前,"RW"
是唯一可能的值,它将允许您的应用程序从卷中读取及写入卷。external.size
:以 GiB 为单位的卷大小。external.name
: name 卷驱动程序用于查找外部卷的名称。当您的任务在代理程序上暂存时,卷驱动程序将在存储服务中查询具有此名称的卷。如果不存在,则是[隐式创建的][8]。否则,将重用现有卷。external.options["dvdi/driver"]
:用于存储的 Docker 卷驱动程序。随 DC/OS 提供的唯一靠 Docker 卷驱动程序是rexray
. 了解有关 [REX-Ray][9] 的更多信息。- 您可以通过
container.volumes[x].external.options[optionName]
来指定其他选项。Mesos 容器的 dvdi 提供程序适用dvdcli
,它提供以下[选项][10]。任何选项的可用性取决于您的卷驱动程序。 - 通过在
container.volumes
阵列中添加其他项来创建多个卷。 - 创建应用程序后,无法更改卷参数。
- 如
upgradeStrategy.minimumHealthCapacity
大于 0.5 或upgradeStrategy.maximumOverCapacity
不等于 0,Marathon 将不会启动具有外部卷的应用程序。
使用 Docker 引擎
下面是一个示例应用定义,它使用 Docker Engine 并指定外部卷。此应用定义中 cmd
将 date
命令的输出附加到 test.txt
. 如果您看到应用程序连续运行的日志显示越来越多的 date
输出行,则可以验证是否正确使用了外部卷。
{
"id": "/test-docker",
"instances": 1,
"cpus": 0.1,
"mem": 32,
"cmd": "date >> /data/test-rexray-volume/test.txt; cat /data/test-rexray-volume/test.txt",
"container": {
"type": "DOCKER",
"docker": {
"image": "alpine:3.1",
"network": "HOST",
"forcePullImage": true
},
"volumes": [
{
"containerPath": "/data/test-rexray-volume",
"external": {
"name": "my-test-vol",
"provider": "dvdi",
"options": { "dvdi/driver": "rexray" }
},
"mode": "RW"
}
]
},
"upgradeStrategy": {
"minimumHealthCapacity": 0,
"maximumOverCapacity": 0
}
}
卷配置选项
containerPath
必须是绝对的。- 只有某些版本的 Docker 与 REX-Ray 卷驱动程序兼容。请参阅 [REX-Ray 文档][11]。
从 DC/OS UI 创建应用程序
- 单击 Services 选项卡,然后 RUN A SERVICE。
- 如果您正在使用 Docker 容器,请单击 Container Settings 并配置您的容器运行时间。
- 单击 Volumes 并输入卷名称和容器路径。
- 单击 Deploy。
隐式卷
默认隐式卷大小为 16 GiB。如果您使用的是 Universal Container Runtime,则可以通过设置 来修改特定卷的此默认值。volumes[x].external.size
. 如果您使用的是 Docker Engine,则无法修改特定卷的此默认值。但是,对于这两个运行时间,您可以通过修改 [REX-Ray configuration][4] 来修改所有隐式卷的默认大小。
扩展应用程序
使用外部卷的应用程序只能扩展为单个实例,因为卷一次只能附加到单个任务。
如果将应用程序减容到 0 个实例,该卷将从装载它的代理程序中分离,但不会被删除。如果您再次扩展应用程序,则与其关联的数据仍然可用。
使用第三方 Docker 卷驱动程序
如果您想使用第三方的 Docker 卷驱动程序,而非 REX-RAY(例如,Netapp Trident),那么您需要在每个代理节点上执行以下步骤(以下步骤以 Trident 为例):
-
将卷驱动程序安装为 Docker 插件。
$ docker plugin install netapp/trident-plugin:19.10 --alias netapp --grant-all-permissions
-
将卷驱动程序注册到 Docker 插件目录。请参阅 Docker 插件 API,以了解 Docker 如何发现插件。
$ sudo mkdir -p /etc/docker/plugins/ $ sudo bash -c 'echo "unix:///run/docker/plugins/<plugin-id>/netapp.sock" > /etc/docker/plugins/netapp.spec'
现在,您可以在 DC/OS 中使用卷驱动程序了。创建应用程序时,您需要将选项 external.options["dvdi/driver"]
设为卷驱动程序的名称(如 netapp
)。
潜在问题
- 每个卷只能分配一个任务。您的存储提供程序可能有其他限制。
- 您创建的卷不会自动清除。如果删除群集,则必须转至存储提供程序并删除不再需要的卷。如果您正在使用 EBS,请通过您在 Marathon 应用定义中设置的
container.volumes.external.name
进行搜索来查找它们。此名称对应于 EBS 卷Name
标签。 - 卷由其存储提供程序命名。选择唯一的卷名称以避免冲突。
- 如果使用 Docker,则必须使用兼容的 Docker 版本。请参阅 [REX-Ray 文档][11],了解哪些版本的 Docker 与 REX-Ray 卷驱动程序兼容。
- 对于隐式创建卷的应用程序,启动时间可能会增加。增加的量取决于若干因素,包括卷大小和类型。存储提供程序处理卷的方法也会影响隐式创建卷的启动时间。
EBS 特定
在同一 AWS 账户上创建的卷共享一个命名空间。选择唯一的卷名称以避免在同一帐户下启动多个群集时的冲突。
EBS 卷也由其可用区 (AZ) 命名,并且 EBS 卷 [只能连接到同一 AZ 的 EC2 实例][12]。因此,尝试在不同的 AZ 中运行的代理程序中启动任务将导致创建同名的新卷。如果您在一个 AZ 中创建群集,请将其销毁,如果您希望重用任何外部卷,请确保在同一 AZ 中创建群集。如果群集跨越多个 AZ,请使用 Marathon 限制仅在同一 AZ 中启动实例。
默认情况下,REX-Ray 将在连接 13 个 EBS 卷后失败。使用 [配置选项 useLargeDeviceRange 来扩展此限制][13],这已在 RexRay v0.11.4 中引入。
在某些较新的 EC2 实例类型上,EBS 卷作为非易失性内存主机控制器接口规范 (NVMe) 设备存在。对 NVMe 的支持仅添加到 v0.11.4 的 RexRay。您需要采取以下必要步骤,才能使 RexRay 与 CentOS 上的 NVMe 设备一起使用(在较新的 CoreOS AMI 上,则不需要):
-
安装 NVMe CLI 命令。
$ yum install -y nvme-cli
-
安装必要的 udev 规则和 helper 脚本。这些都取自 RexRay 用户指南.
$ cat <<EOF > /etc/udev/rules.d/999-aws-ebs-nvme.rules KERNEL=="nvme[0-9]*n[0-9]*", ENV{DEVTYPE}=="disk", ATTRS{model}=="Amazon Elastic Block Store", PROGRAM="/usr/local/bin/ebs-nvme-mapping /dev/%k", SYMLINK+="%c" EOF
-
创建 helper 脚本。
$ cat <<EOF > /usr/local/bin/ebs-nvme-mapping #!/bin/bash #/usr/local/bin/ebs-nvme-mapping vol=$(/usr/sbin/nvme id-ctrl --raw-binary "${1}" | \ cut -c3073-3104 | tr -s ' ' | sed 's/ $//g') vol=${vol#/dev/} [ -n "${vol}" ] && echo "${vol/xvd/sd} ${vol/sd/xvd}" EOF
1. 在脚本上设置文件权限,然后重新加载 udev 规则。
```bash
$ chown root:root /usr/local/bin/ebs-nvme-mapping
$ chmod 700 /usr/local/bin/ebs-nvme-mapping
$ udevadm control --reload
```
## 外部卷
有关外部卷的故障排除,请参阅代理程序或系统日志。如果您在 DC/OS 上使用 REX-Ray,还可以查阅 `systemd` 日志中的 `dcos-rexray.service` 单元记录。
[4]: https://rexray.readthedocs.io/en/v0.9.0/user-guide/config/
[5]: http://rexray.readthedocs.io/en/v0.9.0/user-guide/storage-providers/
[6]: /mesosphere/dcos/2.1/deploying-services/creating-services/
[7]: https://rexray.readthedocs.io/en/v0.9.0/user-guide/config/#data-directories
[8]: #implicit-vol
[9]: https://rexray.readthedocs.io/en/v0.9.0/user-guide/schedulers/
[10]: https://github.com/emccode/dvdcli#extra-options
[11]: https://rexray.readthedocs.io/en/v0.9.0/user-guide/schedulers/#docker-containerizer-with-marathon
[12]: https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/ebs-attaching-volume.html
[13]: https://rexray.readthedocs.io/en/v0.11.0/user-guide/storage-providers/aws/#configuration-notes