• 可实时获取物理资源的使用情况，例如：处理器、内存、存储和网络等，用户只需负责创建业务云主机即可，当资源不够时云平台会立即发出告警。
• 用户创建业务云主机，云平台可帮忙提前复制模板。
• 用户创建业务云主机后，云平台可帮忙设置或修改相关IP地址。
• 支持扁平网络、云路由网络和VPC网络，用户可以快速搭建灵活多样的网络场景，只需在UI界面进行鼠标操作，便能生成一套满足自己需求的网络架构。
• 支持接管vCenter，一套平台同时管理KVM和VMware两套集群。支持vCenter的云主机到ZStack平台的V2V迁移。
• 云平台支持不同账户看到不同的业务云主机。
• 云平台还支持计费等高级功能。
• 用户可在云平台上直接给业务云主机添加防火墙，设置各种安全策略，简单快捷。
• 支持企业管理、裸金属管理、迁移服务（V2V迁移）、灾备服务等高级功能

• 版本特性：

  汇集各版本的特色功能介绍，用户可以了解ZStack每个版本的特色功能以及发展历程。

• 产品手册：

  包括：用户手册、运维手册、技术白皮书、cli命令使用手册和ctl命令使用手册。这些手册主要介绍了ZStack的架构特点、功能优势、安装部署、使用指南、以及管理运维过程中的常见问题解决方案。若用命令行方式使用ZStack，将会展开另一片新天地。

• 实践教程：

  针对不同应用场景提供实践教程，例如：《快速安装教程（新手快速入门）》、《升级教程》、《混合云使用教程》、《多管理节点物理机高可用教程》、《企业管理使用教程》、《灾备服务使用教程》、《迁移服务使用教程》、《裸金属管理使用教程》等。涵盖场景十分丰富多变，实践操作也很简单便捷，协助用户分分钟快速上手。

• 开发手册：

  它是ZStack的核心，主要从API层面带你认识ZStack，了解之后，会对ZStack有更深刻的认知。

• 常见问题：

  摘选出用户在实际使用过程中的常见问题集锦，并给出解决方案。

• 博客：

  更高的视角，更深入的探讨，它说的是ZStack，又不仅仅是ZStack，可帮助用户拓展视野，对云计算IaaS有更透彻的理解。

1. ZStack Enterprise Management Node：ZStack企业版管理节点模式

   安装基于CentOS 7.4/7.6深度定制的ZStack定制版ISO并安装ZStack企业版管理节点。

2. ZStack Community Management Node：ZStack社区版管理节点模式

   安装基于CentOS 7.4/7.6深度定制的ZStack定制版ISO并安装ZStack社区版管理节点。

3. ZStack Compute Node：ZStack计算节点模式

   安装基于CentOS 7.4/7.6深度定制的ZStack定制版ISO并安装ZStack计算节点必备软件包。

4. ZStack Expert Node：ZStack专家模式

   安装基于CentOS 7.4/7.6深度定制的ZStack定制版ISO并配置本地源，用户可自定义系统用途。

• 增量升级：
  1. 在ZStack官网获取最新的bin安装包：ZStack-installer-3.10.0.bin；
  2. 若数据库root密码为默认密码，请执行以下命令升级;

     [root@localhost ~]# bash ZStack-installer-3.10.0.bin -u

     若数据库root密码采用自定义非空密码，请执行以下命令进行升级：

     [root@localhost ~]# bash ZStack-installer-3.10.0.bin -u -P MYSQL_ROOT_PASSWORD

• 离线升级：
  1. 在ZStack官网获取最新的iso安装包：ZStack-x86_64-DVD-3.10.0-c76.iso；
  2. 获取最新的升级脚本：升级脚本；
  3. 执行以下命令升级：

     [root@localhost ~]# bash zstack-upgrade ZStack-x86_64-DVD-3.10.0-c76.iso

[root@localhost ~]# yum --disablerepo=* --enablerepo=zstack-local install zstack-manager [root@localhost ~]# bash ZStack-installer-3.10.0.bin -E

[root@localhost ~]# yum --disablerepo=* --enablerepo=zstack-local,qemu-kvm-ev groupinstall zstack-host

[root@localhost ~]# rpm -e zstack-host [root@localhost ~]# yum --disablerepo=* --enablerepo=zstack-local install zstack-manager [root@localhost ~]# bash ZStack-installer-3.10.0.bin -E

1. 先执行以下命令删除原本的数据库：

   [root@localhost ~]# rm -rf /usr/local/zstack

   说明: 此命令会删除该目录下所有数据，如需彻底重装ZStack，才可使用。
2. 再执行以下命令重装管理节点：

   [root@localhost ~]# bash ZStack-installer-3.10.0.bin -D #安装ZStack企业版

• 现象：
  安装ZStack时，有时使用root登录，但是启动服务时，提示非root用户需使用sudo

  ERROR: please use sudo or root user FAIL  Reason: failed to start zstack

  在Python命令行环境下执行以下命令会发现Python认定用户并非root用户

  import getpass  user = getpass.getuser()  print user 

• 原因：

  之前由普通用户切换root用户时，使用了su并非使用sudo su，su只是shell认为切换了root用户，但是相关的环境变量并没有切换。

• 说明：
  • sudo允许命令在当前用户下以root的超级权限来执行。
  • su允许切换为root用户，但是相关的用户环境并没有切换到root下去。
  • sudo su以root权限切换到root用户下。

• 原因：

  管理节点启动时间与节点配置资源有关，在云主机上安装ZStack才出现时间过长的情况。

• 解决方案：
  建议使用虚拟环境时，配置CPU>4，内存>16G。

  说明:

  时间过长不代表安装启动失败，time out报错后请先使用zstack-ctl status查看状态。如果为stopped状态，使用zstack-ctl start启动即可；如果为unknown状态，需要先使用zstack-ctl stop停止，再使用zstack-ctl start启动。

[root@localhost ~]# bash zstack-installer.bin -r /home/zstack

• 现象：
  升级时遇到ZStack定制版ISO版本不匹配，会提示以下错误信息：

  mount: /dev/loop0 is write-protected, mounting read-only /root Current release c76 not matched the new ISO c74, Use zstack-upgrade -r xxx.iso to update current repo, Use zstack-upgrade -a/--add_repo xxx.iso to add a new repo

• 原因:

  当前系统使用的ISO版本不适合升级此安装包，需要升级对应的ISO才可继续升级ZStack。

• 解决方案：
  请执行以下部署（以c76为例）：

  1. 执行如下命令，下载最新的升级脚本

     wget http://cdn.zstack.io/product_downloads/scripts/zstack-upgrade

  2. 执行如下命令，在管理节点下载最新的ISO：

     wget http://cdn.zstack.io/product_downloads/iso/ZStack-x86_64-DVD-3.10.0-c76.iso

  3. 执行升级，升级ISO里面的yum repo同步到本地，并且直接升级管理节点：

     bash zstack-upgrade ZStack-x86_64-DVD-3.10.0-c76.iso

• 前提：

  ZStack进行升级时，默认会备份当前ZStack核心文件和数据库到对应目录。

• 恢复步骤：
  1. 备份之前版本的ZStack核心文件：

     cp /usr/local/zstack/upgrade/2017-11-09-15-41-52 /root -r

  2. 备份之前版本的数据库：

     cp /usr/local/zstack/db_backup/2017-11-09-15-42-43/backup.sql /root

  3. 再次备份数据库：

     zstack-ctl dump_mysql

  4. 删除当前ZStack环境：

     zstack-ctl stop rm -rf /usr/local/zstack

  5. 使用之前的安装包直接安装ZStack：

     bash ZStack-installer-3.10.0.bin -D

  6. 使用第一步备份的ZStack核心文件恢复：

     zstack-ctl stop mv /usr/local/zstack/apache-tomcat/webapps/zstack /usr/local/zstack/apache-tomcat/webapps/zstack-bk cp /root/2017-11-09-15-41-52/zstack /usr/local/zstack/apache-tomcat/webapps  -r chown zstack:zstack /usr/local/zstack/apache-tomcat/webapps/zstack -R

  7. 恢复第二步备份的数据库：

     cat /root/backup.sql |mysql -u root -p zstack.mysql.password zstack

  8. 启动ZStack管理节点服务，此时ZStack已成功恢复至原本升级失败前的版本

     zstack-ctl start

• 原因：ZStack 3.5.0之前版本使用prometheus 1.8.2，可能出现监控数据占满根空间的情况。
  说明: ZStack 3.5.0及之后版本使用prometheus 2.9.2，支持设置保留策略（默认保留50G监控数据），不再出现此问题。
• 解决方案：确认监控数据不需要的情况下，彻底删除prometheus监控数据，释放空间。
  • 单管理节点环境，依次执行如下命令，删除prometheus监控数据：

    [root@hostname ~]# du -sh /var/lib/zstack/prometheus/data/    //查看监控数据大小 [root@hostname ~]# zstack-ctl stop  [root@hostname ~]# kill -9 `ps -ef |grep prometheus|awk '{print $2}'`  [root@hostname ~]# rm -rf /var/lib/zstack/prometheus/data [root@hostname ~]# zstack-ctl start

  • 双管理节点环境，分别在两个管理节点依次执行如下命令，删除prometheus监控数据：

    [root@mn-1 ~]# du -sh /var/lib/zstack/prometheus/data/    //查看监控数据大小 [root@mn-1 ~]# zsha2 stop-node [root@mn-1 ~]# kill -9 `ps -ef |grep prometheus|awk '{print $2}' [root@mn-1 ~]# rm -rf /var/lib/zstack/prometheus/data [root@mn-1 ~]# zsha2 start-node

1. 如果提示用户名/密码不正确，需要输入正确的用户名和密码。
2. 如果提示无法连接管理节点，需要通过zstack-ctl status命令确认管理节点服务是否运行正常。
3. 如果依然无法连接，可以使用如下命令，通过cli方式登录：

   [root@localhost ~]# zstack-cli  #进入cli命令 admin>>> LogInByAccount accountName=admin password=password #登录cli，默认用户名密码为：admin/password

4. 检查相关的Java进程是否出现僵尸导致程序无法运行，此时需要重启管理节点服务。

• UI方式：

  在ZStack首页点击admin信息的修改密码按钮进行修改。

• CTL命令行方式：
  执行以下命令，更改UI的admin密码：

  [root@localhost ~]# zstack-ctl reset_password --password NEW_PASSWORD #更改密码（NEW_PASSWORD为新密码）

• CLI命令行方式：
  依次执行以下命令，更改UI的admin密码：

  [root@localhost ~]# zstack-cli  #进入cli命令 admin>>> LogInByAccount accountName=admin password=password #登录cli，默认用户名密码为：admin/password admin>>> UpdateAccount uuid=36c27e8ff05c4780bf6d2fa65700f22e password=NEW_PASSWORD #修改密码（NEW_PASSWORD为新密码）

[root@localhost ~]# zstack-ctl config_ui --server-port 8888  #修改UI服务端口为8888 [root@localhost ~]# zstack-ctl config_ui --webhook-port 8888  #改webhook主机端口，与UI服务端口保持一致 [root@localhost ~]# zstack-ctl stop_ui  #停止UI服务 [root@localhost ~]# zstack-ctl start_ui  #启动UI服务

• UI方式：

  在设置 > 全局设置 > 基本设置页面，调整会话超时时间。

• 命令行方式：
  依次执行如下命令：

  [root@localhost ~]# zstack-cli  #进入cli命令 admin>>> LogInByAccount accountName=admin password=password #登录cli，默认用户名密码为：admin/password admin>>> UpdateGlobalConfig name=session.timeout category=identity value=720000 #将登录的过期时间改成200小时

• UI方式：

  在设置 > 全局设置 > 高级设置页面，修改最大会话数的值。

• 命令行方式
  1. 首先使用QueryGlobalConfig name~=session，可以看到关于最大会话数的限制为500。

     {             "category": "identity",             "defaultValue": "500",             "description": "Max number of sessions management server accepts. \ When this limit met, new session will be rejected",             "name": "session.maxConcurrent",             "value": "500"  }

  2. 假如希望改成1000，可执行以下命令：

     UpdateGlobalConfig category=identity name="session.maxConcurrent" value=1000

[root@localhost ~]# zstack-ctl configure locale=en_US   #切换语言，en_US表示英文；zh_CN表示中文 [root@localhost ~]# zstack-ctl restart_node   #重启管理节点，配置生效

• UI方式：

  在平台管理 > 控制台代理页面，设置控制台代理地址。无需重启管理节点，直接生效。

• 命令行方式：
  依次执行以下命令（MANAGEMENT_NODE_PUBLIC_IP_ADDRESS为控制台代理IP）：

  [root@localhost ~]# zstack-ctl configure consoleProxyOverriddenIp=MANAGEMENT_NODE_PUBLIC_IP_ADDRESS [root@localhost ~]# zstack-ctl restart_node

• 目前还没有提供ReserverIpRange的API，如果希望ZStack从已经设置的IP Range中保留几个特定的IP地址，可以在UI界面创建指定的虚拟IP方式来保留IP使用。
• 也可以用CreateVip这个API。
  例如：使用如下命令把a.b.c.d的IP地址从指定的L3网络上用创建虚拟IP的方式保留：

  [root@localhost ~]# zstack-cli  #进入cli命令 admin>>> LogInByAccount accountName=admin password=password #登录cli，默认用户名密码为：admin/password admin>>> CreateVip l3NetworkUuid=YOU_L3_NETWORK_UUID name=for_reserver requiredIp=a.b.c.d 

• 现象：
  使用过程中，启动云主机时可能遇到类似这样的错误信息：

  uses a qcow2 feature which is not supported by this qemu version: QCOW version 3

• 原因：

  主要原因是qcow版本不一致。原始的qcow2创建版本使用的qemu-img为较新版本，现在创建时使用的为较旧版本，旧版本不支持新版本。

• 解决方案：
  在拥有较新版本的qemu-img里面进行兼容性转换，例如执行以下命令进行转换，转换完毕后，再重新添加镜像：

  qemu-img convert -o compat=0.10 -f qcow2 -O qcow2 centos6-cloud-init.qcow2 centos-st-ssh-key.qcow2

• UI方式：

  在设置 > 全局设置 > 基本设置页面，修改彻底删除时延的值。

• 命令行方式：
  依次执行以下命令：

  [root@localhost ~]# zstack-cli  #进入cli命令 admin>>> LogInByAccount accountName=admin password=password #登录cli，默认用户名密码为：admin/password admin>>> UpdateGlobalConfig category=vm name=expungePeriod value=3600  #将彻底删除时延设置成3600秒

• 现象：

  创建VM时，可能会遇到一个云主机挂载多个网络的情况，这时进入console可看到多块网卡，但没有发现IP。

• 原因：

  每个网络对VM来说就是一块网卡，把网络加载到VM上，等价于把一块物理网卡插到一台Server上。因此使用 ifconfig命令就能看到eth设备了。如果没有看到IP，说明网卡插上了，但并没有配置好。

• 解决方案：
  请仿照eth0的配置文件，为这个新网卡创建一个配置文件：

  1. 拷贝一份eth0：（以下示例是Centos 7.2环境，其他版本Linux路径和文件可能有变化）

     # 将配置文件中的eth0替换为eth1,并删除其中的uuid信息 cp /etc/sysconfig/network-scripts/ifcfg-eth0 /etc/sysconfig/network-scripts/ifcfg-eth1  sed -i 's/eth0/eth1/g' ifcfg-eth0 sed -i '/UUID*/d' /etc/sysconfig/network-scripts/ifcfg-eth1

  2. 将网络重启生效：

     /etc/init.d/network restart

  3. 用ifconfig查看，第二块网卡也有IP了。如果在云主机上挂载多个网络，重复以上操作即可。

• 现象：
  修改Windows云主机密码时出现如下报错：

  return code: 1 stdout: stderr: error: internal error: unable to execute QEMU agent command 'guest-set-user-password':  The command guest-set-user-password has not been found

• 原因：

  可能原因是使用了错误的Windows Virtio驱动。

  解决方案：

  目前ZStack定制版ISO里已经集成了可用的Windows Virtio驱动，解压此ISO，添加此Windows Virtio驱动作为ISO镜像到镜像服务器中，然后挂载此ISO，安装对应的qemu-guest-agent即可。

1. 首先运行以下命令生成ssh key：

   ssh-keygen -f /usr/local/zstack/apache-tomcat/webapps/zstack/WEB-INF/classes/ansible/rsaKeys/id_rsa -N ""    //命令中""为两个英文双引号

2. 生成ssh key后，运行以下命令确保用户有权限访问：

   chown -R zstack.zstack /usr/local/zstack/apache-tomcat/webapps/zstack/WEB-INF/classes/ansible/rsaKeys

• 现象及原因：
  使用旧的服务器作为计算节点，可能会遇到因CPU型号过早，无法创建云主机或者创建的云主机不能显示console界面的问题，如下图所示：
  
  
  
  
• 解决方案：
  出现这种情况，可以尝试如下设置：

  1. kvm-nested.conf里面第一行加上ept=0，如：

     options kvm_intel nested=1 ept=0 #vim /etc/modprobe.d/kvm-nested.conf

  2. 关闭运行状态的VM，然后移除kvm_intel：

     #rmmod kvm_intel

  3. 最后重新加载kvm_intel：

     #modprobe kvm-intel ept=0 unrestricted_guest=0

• none：CPU型号为QEMU模拟器
• host-model：CPU类型为物理主机CPU类型
• host-passthrough：CPU型号跟物理主机CPU完全一样

• 现象：

  "description": "Cannot do an IO operation(e.g. network IO error, file IO error)", "details": "I/O error on POST request for \"http://127.0.0.1:7758/console/establish\": Connect to 127.0.0.1:7758 [/127.0.0.1] failed: Connection refused; nested exception is org.apache.http.conn.HttpHostConnectException: Connect to 127.0.0.1:7758 [/127.0.0.1] failed: Connection refused","$$hashKey": "object:1344"

• 解决方案：

  删除/var/lib/zstack/pickledb/下面的consoleProxy文件，再次重连控制台代理。

• 现象：

  {   "error": {     "code": "HOST.1009",     "description": "Failed to migrate vm on hypervisor",     "details": "failed to migrate vm[uuid:90bb61f55e774f5f89c9e1ea46db7661] from kvm host[uuid:e5105c61114a4efe8bcc025f744226bd, ip:10.0.247.244] to dest host[ip:10.0.197.238], unable to migrate vm[uuid:90bb61f55e774f5f89c9e1ea46db7661] to qemu+tcp://10.0.197.238/system, internal error: Attempt to migrate guest to the same host localhost.domain.com"   },   "createdTime": 1488170137857,   "type": {     "_name": "key.event.API.API_EVENT"   },   "id": "e6bcd7c33ad9446b919e11cd647fc8dc" }

• 原因：

  两台物理机hostname相同。KVM云主机在线迁移依靠hostname进行确认物理机，若hostname相同即被认定为同一台物理机。

• 解决方案：

  建议对物理机设置不同的hostname。若遇到以上报错，请联系官方技术支持获取帮助。

• 原因：

  这种情况一般出现在Guest OS为Linux的云主机上，这是因为缺少ACPID服务（用于处理电源相关事件的守护进程）。KVM云主机安装Linux系统默认是没有安装ACPID服务的，所以不会做处理，关机一分钟后被ZStack杀掉云主机进程强行关闭。

• 解决方案：
  对于这种情况，只需在云主机里安装和启动ACPID服务即可，执行命令如下：

  [root@kvm_client_00 ~]# yum install acpid -y # 重新启动ACPID服务，安装后默认加入到开机启动。 [root@kvm_client_00 ~]# /etc/init.d/acpid restart 

• 通过轮询、触发等机制检测云主机状态，如果确定云主机已停止，那么设置NeverStop的云主机将直接自动重启。
• 通过轮询、触发等机制检测云主机状态，如果不能确定云主机状态，将根据以下步骤进行检测：
  1. 根据已有网络配置，选择最精准的方法探测云主机所在的物理机的状态
  2. 如果物理机状态异常，设置NeverStop的云主机将尝试自动重启。

1. 在Ubuntu依赖库官网搜索Ubuntu 16.04的qemu-ga版本，下载2.5版本的qemu-ga离线deb包：

   https://ubuntu.pkgs.org/16.04/ubuntu-universe-amd64/qemu-guest-agent_2.5+dfsg-5ubuntu10_amd64.deb.html

2. 安装2.5版本的qemu-ga离线deb包：

   dpkg -i <package.deb>    //<package.deb>为下载的2.5版本的qemu-ga离线deb包

3. 在页面修改密码，无报错，修改完成。

• 镜像服务器失联，请确保镜像服务器可用并正常连接。
• 主存储未挂载集群，导致找不到可用的物理机，请确保主存储已挂载集群。
• 集群内没有可用的物理机满足计算规格的定义，请确保物理机可用，且资源满足。
• 主存储容量不足以提供镜像需要的虚拟容量，请确保主存储容量充足。
• 集群未挂载相应的网络，需确保集群已挂载对应的网络
• IP地址池资源不足，需确保IP范围充足
• 镜像服务器与主存储链路异常，请确保镜像服务器下载镜像到主存储的链路正常。
• 确保物理机的分布式DHCP服务dnsmasq服务正常，以正常提供DHCP服务IP分配服务
• 确保物理机的Libvirtd服务正常，以正常提供虚拟化服务
• 如果云主机一直处于启动中，需要检查使用此云主机的镜像是否巨大，镜像缓存的下载是否需要耗时很久。如果镜像缓存存在，需继续检查物理机的/var/log/zstack/zstack-kvmagent.log

• Linux云主机内部系统时间，会随着创建、启动、重启等操作，读取物理机时间作为时钟。云主机时间比物理机时间滞后还是提前，都会生效。
• 创建Windows云主机会自动读取物理机的时间作为时钟。
• 当Windows云主机内部系统时间比物理机时间滞后时，Windows云主机内部系统时间，会随着启动、重启等操作，读取物理机的时间作为时钟。
• 当Windows云主机内部系统时间比物理机时间提前时，启动、重启等操作无法读取物理机的时间。 有可能与Windows系统许可策略有关，例如180天的试用过期后，每1小时会关机一次，倒退时间会逃避微软许可策略。

• lspci -s xx:xx -v检查GPU驱动信息，是否被物理机使用
• 启用物理机IOMMU，BIOS中打开Intel VT-d / AMD IOMMU选项

• 方法一：在创建云主机 > 高级 > SSH登录方式列，选择密码按钮，支持设置云主机密码：
  • Linux镜像：固定用户名root，支持设置SSH密钥和密码。
  • window镜像：固定用户名administrator，仅支持设置密码。
• 方法二：在创建云主机 > 高级 > User Data列，通过Userdata注入方式设置账户/密码。

1. 在ssh服务器上更改/etc/ssh/sshd_config文件中配置如下：

   UseDNS no #GSSAPI options GSSAPIAuthentication no

2. 执行命令/etc/init.d/sshd restart重启sshd服务。

• 现象：
  迁移时报如下错误消息：

  Assertion `ret == cpu >kvm_msr_buf->nmsrs`failed

• 原因：对端物理机的CPU型号和当前服务器CPU型号不同 。
• 解决方案： 迁移到使用相同CPU的物理机，或者关闭云主机进行迁移。

FS0: CD EFI CD centos shimx64-centos.efi

• 前提： 主存储未超分或者主存储使用厚置备；使用ImageStore类型的主存储。
• 举例说明：假设主存储有800G的空间，创建一个400G的VM（假定为A），对A创建镜像（假定为B，B的实际大小并非400G，假定为10G）；用B创建新的VM（假定为C），此时B会从镜像服务器上下载到主存储的cache目录（需要消耗主存储的空间10G），镜像下载成功后，主存储的虚拟可用容量就仅剩390G，而创建VM需要400G容量，因此C无法成功创建。

• ZStack允许输入的URL格式为：
  • 支持HTTP/HTTPS方式：
    • 填写格式为：http://path/file或https://path/file
    • 例如：http://cdn.zstack.io/product_downloads/images/zstack-image.qcow2
  • 支持FTP方式：
    • 匿名模式：ftp://hostname[:port]/path/file

      例如：ftp://172.20.0.10/pub/zstack-image.qcow2

    • 非匿名模式：ftp://user:password@hostname[:port]/path/file

      例如：ftp://zstack:password@172.20.0.10/pub/zstack-image.qcow2

  • 支持SFTP方式：
    • 指定密码模式：sftp://user:password@hostname[:port]/path/file

      例如：sftp://root:password@172.20.0.10/pub/zstack-image.qcow2

    • 免密模式：sftp://user@hostname[:port]/path/file

      例如：sftp://root@172.20.0.10/pub/zstack-image.qcow2

  • 镜像服务器上的绝对路径，支持Sftp镜像服务器和镜像仓库

    例如：file:///opt/zstack-dvd/zstack-image-1.4.qcow2

  说明:

  • 建议用户创建一个http服务器来下载镜像。
  • 如果使用本地镜像，注意file后必须为绝对路径。

• 原因：

  下载镜像时，有时因为镜像过大或者网络等原因导致镜像下载太慢超时报错。

• 解决方案：

  如果执行了下载操作，就会在镜像服务器上启用http服务。当UI上显示超时，甚至关闭管理节点时（镜像服务器不在管理节点所在的host），并不影响服务继续运行。

  因此，如果时间过长不用担心。后台会自动下载完成，下次继续添加该镜像时会迅速完成。

1. 加载windows-virtio-driver的ISO镜像。
2. 以64位Windows 2012操作系统为例：将驱动文件夹X:\Balloon\2k12R2\amd64目录下的BLNSVR.EXE文件拷贝到C:\Windows\System32目录下。
3. 以管理员方式打开命令行程序并执行BLNSVR -I命令。

• 现象：在安装过程中，无法识别ISO中加载的Virtio驱动，导致无法看到已加载的系统云盘。
• 原因：有可能所用的Windows ISO镜像不是从微软官方下载的，可能是通过其他工具后期定制的。
• 解决方案： 从微软官网下载相应的ISO文件 。

• raw ：裸格式，创建时就需要指定存储容量，占用全部容量，不支持动态扩容，不支持快照，性能好
• qcow2：quick copy on write 2, 写时复制，开始只占用少许容量，支持动态扩容，支持压缩，支持AES加密，支持快照，性能较好

• 现象：对于安装Ubuntu 18版本操作系统的云主机，若grub配置了splash选项，云主机无法启动，启动页面花屏，如图 1和图 2所示：

  
  
  

  
  
  

• 解决方案：请进入设置 > 全局设置 > 基本设置，将显卡类型设置为vga，即可正常启动云主机。
  说明: 该问题仅出现在Ubuntu 18版本中，Ubuntu 18之前的版本均无该问题。

• 如果主存储为共享存储，则云盘创建在共享存储上，云盘和物理主机无关 ，可以挂载到任意物理节点的云主机上。即：云盘的挂载不受物理主机的相关约束，而且不支持云盘迁移。
• 如果主存储为本地存储，挂载一个卸载过的云盘时，需要保证该云盘和目标云主机在相同的物理主机上。如果该云盘和目标云主机不在相同的物理主机上，需要将云盘和云主机迁移到相同的物理主机上。可以选择迁移云主机（需要首先停止云主机），也可以选择迁移云盘。

• 方法一：重启云主机，重启云主机将自动获取网卡信息。
• 方法二：手动配置网卡，无需重启云主机，步骤如下：
  1. 参考云主机里的 /etc/sysconfig/network-scripts/ifcfg-eth0，对新增的eth1网卡添加配置文件ifcfg-eth1；
  2. 打开eth1网卡配置文件ifcfg-eth1，并设置必要参数，例如：

     [root@VM-web ~]# cd /etc/sysconfig/network-scripts/ [root@VM-web network-scripts]# vim ifcfg-eth1 ... TYPE=Ethernet BOOTPROTO=dhcp NAME=eth1 DEVICE=eth1 ONBOOT=yes ...

     完成后输入命令:wq保存并退出。
  3. 执行systemctl restart network重启网络配置生效，即可识别新添加网卡。

• 原因：

  云主机加载/卸载云盘是动态操作，而云主机的/etc/fstab是静态配置文件。如果加载云盘后修改云主机fstab文件，对该云主机在线创建镜像，使用该镜像创建其它云主机时，由于fstab文件没有相应的挂载信息，所创建的云主机会hang住无法启动。

• 解决方案：
  • Linux云主机加载云盘后不建议通过修改/etc/fstab文件方式挂载。
  • 推荐的做法：
    • 进入/etc/rc.d/rc.local执行mount命令来挂载云盘：

      # chmod +x /etc/rc.d/rc.local # mount -U <文件系统UUID> <目标挂载路径>

      说明: 建议使用云盘的文件系统UUID来挂载，而非/dev/vdb类似的盘符来挂载。

• 现象：
  在云主机中运行ZStack，可能会遇到启动超时失败，但之后运行zstack-ctl status又显示为Running状态的情况。系统提示例如：

  no management-node-ready message received within 120 seconds, \ please check error in log file /tmp/zstack_installation.log

• 解决方案：
  使用如下的命令修改timeout时间（以300s为例）：

  [root@localhost ~]# zstack-ctl start_node --timeout 300

• 方法一：在设置 > 全局设置 > 基本设置页面，修改物理机保留内存的值，全局设置物理机保留内存。
• 方法二：在集群详情页的高级设置页面，修改物理机保留内存的值，以集群为单位设置物理机保留内存。

[root@localhost ~]# zstack-ctl change_mysql_password --root-password zstack.mysql.password --user-name zstack --new-password password

• 进入维护模式：
  表示对物理机进行系统维护，可对物理机进行停机、故障修复等操作。确认物理机进入维护模式后，如果主存储类型为本地存储，ZStack会主动停止该物理机上所有正在运行的云主机；如果存储类型为共享存储，云主机会自动迁移至其他物理机上。

  说明:

  • 共享存储场景下，物理机进入维护模式，用户可自行设置迁移云主机失败策略；
  • 设置方法：
    进入设置 > 全局设置 > 高级设置，设置维护模式下迁移云主机失败策略：

    • 若选择强制停止云主机：

      物理机进入维护模式，共享存储上的云主机会自动迁移到其它物理机上。未迁移的云主机将会被强制关闭。

    • 若选择非强制停止云主机：

      物理机进入维护模式，共享存储上的云主机会自动迁移到其它物理机上。如果物理机上还存在运行中的云主机，则进入维护模式失败。

• 停用：

  停止使用某个物理机，后续云主机不能在此物理机上创建，且已关闭的云主机不能再启动，目前运行中的云主机不受影响。

• 管理节点是否能正常访问物理机22端口。
• 是否正确使用ZStack定制版ISO安装系统。
• 物理机的libvirt服务状态是否正常。
• 物理机所属集群的网络挂载情况是否已发生变化。

  假如集群挂载的二层网络指定的设备是eth1，但是物理机的网卡设备号发生变化，不存在eth1，那么此物理机将无法重连成功。

• 物理机系统盘的存储容量是否已经用完。
• 对于要求挂载NFS主存储的物理机，如果挂载失败，物理机将无法重连成功，此时需要检查物理机到NFS主存储的链路。
• 使用分布式块存储的物理机，如果存在存储网络，则要求物理机可直接访问存储网络。
• 如果使用VXLAN网络，其挂载集群时指定的VTEP IP应该存在，如果不存在，物理机将无法重连成功。

• Sftp镜像服务器和镜像仓库需检查SSH端口号、用户名、密码、用户名是否拥有sudo权限。
• Ceph镜像服务器需检查分布式块存储是否正常。需检查Ceph IP地址、Ceph SSH 端口、用户名、密码、用户名是否有sudo权限，Ceph集群状态是否正常。

• 现象：

  ZStack中很多服务需要SSH连接，包括添加物理机、存储、搭建管理节点HA等。由于用户网络等问题，这些服务的操作可能因为SSH连接超时而提示time out的错误。

• 原因：

  主要是由于对IP地址进行DNS校验产生延时。

• 解决方案：
  以搭建管理节点HA为例解决该问题：

  1. 在ssh服务器上更改/etc/ssh/sshd_config文件中配置如下：

     UseDNS no #GSSAPI options GSSAPIAuthentication no

  2. 执行命令/etc/init.d/sshd restart重启sshd服务。

• 现象：

  使用zstack-ctl start启动ZStack时提示错误：

  zstack-ctl status查看状态时显示 MySQL is not running

• 解决方案：

  先尝试检查/usr/local/zstack/apache-tomcat/webapps/zstack/WEB-INF/classes/zstack.properties的配置。

  例如：

  DB.url = jdbc:mysql://10.0.0.18:3306 DB.user = zstack DB.password = zstack.password

  使用mysql -u zstack -pzstack.password -h 10.0.0.18 -P 3306检测能否访问。

• 执行zstack-ctl dump_mysql命令，会执行一次备份；
• 执行crontab -l命令，每天凌晨以及中午12：30均会备份一次数据库。保留最新的14个备份，可根据需求进行调整，为安全考虑建议进行异地远程备份。

  30 0,12 * * * zstack-ctl dump_mysql --keep-amount 14

• 现象：

  新添加物理机时出现如下报错：

  {"org.zstack.header.host.APIAddHostEvent":{"success":false,"apiId":"75b0774fc7b94007ac1ba274e6ed5eb3","headers":{"schema":{}},"error":{"code":"HOST.1000","cause":{"code":"HOST.1003","cause":{"code":"SYS.1006","description":"An operation failed","details":", failed to check physical network interfaces[names : enp2s0] on kvm host[uuid:fab977f38e024e6e86f048a4090845f8, ip:192.168.10.11]"},"description":"An error happened when connecting to host","details":"connection error for KVM host[uuid:fab977f38e024e6e86f048a4090845f8, ip:192.168.10.11]"},"description":"Unable to add host","details":"connection error for KVM host[uuid:fab977f38e024e6e86f048a4090845f8, ip:192.168.10.11]"},"createdTime":1489036864392,"type":{"_name":"key.event.API.API_EVENT"},"id":"8f1d551677c44788953eae7255eda54b"}}

• 原因及解决方案：

  该物理机没有enp2s0网卡，请确认网卡名是否填写正确。

1. 安装ZStack后，添加物理机出现如下报错：

   ERROR:could not insert 'kvm_intel':Operation not supportednnnstdout

2. 执行cat /proc/cpuinfo | grep "vmx|svx" 命令，查看开启虚拟化情况：
   • 如果有返回值，表示开启成功。
   • 如果没有返回值，表示没有开启虚拟化，需在BIOS中打开虚拟化选项。

• 现象：
  当计算节点使用Ceph存储时，在创建、启动、迁移云主机时，出现以下错误：

  内部错误：could not get value of the secret for username 'zstack' using uuid 'ee5b6375-4564-446b-ac53-c94ea4e13904'

• 原因：

  一般是计算节点连接Ceph时，丢失密钥，需要删除密钥，重连物理机。

• 解决方案：
  需要进行以下步骤进行修复：

  1. 在出现问题的计算节点执行virsh secret-list获取其uuid。

     例如：获取uuid为03b5ee0d-df21-46d2-9927-7c930333cb70

     root@ceph-host ~]# virsh secret-list   UUID                                  Usage --------------------------------------------------------------------------------  03b5ee0d-df21-46d2-9927-7c930333cb70  ceph 03b5ee0d-df21-46d2-9927-7c930333cb70

  2. 执行virsh secret-undefine 03b5ee0d-df21-46d2-9927-7c930333cb70删除其密钥。

     [root@ceph-host ~]# virsh secret-undefine 03b5ee0d-df21-46d2-9927-7c930333cb70 secret 03b5ee0d-df21-46d2-9927-7c930333cb70 deleted

  3. 执行/etc/init.d/zstack-kvmagent stop停止管理节点agent。

     [root@ceph-host ~]# /etc/init.d/zstack-kvmagent stop 2017-05-08 10:07:57,590 DEBUG [zstacklib.utils.shell] /sbin/iptables-save 2017-05-08 10:07:57,596 DEBUG [zstacklib.utils.iptables] removed empty chains:[] 2017-05-08 10:07:57,598 DEBUG [zstacklib.utils.shell] /sbin/iptables-restore < /tmp/tmpBW4mWX Stop Daemon... Stop Daemon Successfully stop zstack kvm agent .... SUCCESS

  4. 在UI界面再次重连此计算节点，重连成功后，创建、启动、迁移云主机即可正常。
     说明: 目前ZStack在UI已提供关闭CephX密钥认证选项。

[root@ceph-host ~]# zstack-ctl configure management.server.ip=${MANAGEMENT_IP}    //${MANAGEMENT_IP}是用户希望指定的IP地址 [root@ceph-host ~]# zstack-ctl restar_node   //重启管理节点服务

• 对于VLAN类型的网络，假设网卡为eth0，设备VLAN为25
  1. 执行命令ifconfig br_eth0_25 配置的IP分别为两个物理机上的不同网桥配置一个IP地址
  2. 在某一个物理机上使用arping -I br_eth0_25 配置的IP判断是否连通，如不通，需要进一步检查交换机是否配置正确
  3. 检查交换机是否设置了trunk口；是否允许了所有的VLAN；vlan database里面是否有vlan 25
  4. 测试通信后分别在两台物理机上执行命令ip addr del 配置的IP dev br_eth0_25删除IP配置
• 对于VXLAN类型的网络，建议检查VXLAN网络对应的VTEP IP地址是否正常通信

• 一个集群可以挂载一个或多个本地主存储。
• 一个集群可以挂载一个或多个NFS主存储。
• 一个集群可以挂载一个或多个Shared Block主存储。
• 一个集群可以挂载一个Shared Mount Point主存储。
• 一个集群只能挂载一个Ceph主存储。

[root@10-0-5-87 ~]# kill -HUP `pgrep collectdmon [root@10-0-5-87 ~]# service virtlogd restart [root@10-0-5-87 ~]# service libvirtd restart [root@10-0-5-87 ~]# service zstack-kvmagent restart

• 可用量：扣除超分后，该物理机上的剩余虚拟容量，计算方式： 可用量 = 总容量 - 云盘（根云盘 + 数据云盘） / 超分率 - 快照 - 镜像缓存 - 系统已用容量。
• 可用物理容量：该物理机上各本地存储URL指定分区目录下的可用真实容量总和，可执行以下命令查看：df /主存储挂载路径URL，例如：df /zstack_ps。

• 原因：

  内核执行kvm_zap_rmapp时崩溃。

  受影响范围为：kernel-3.10.0-327.53.1.el7.x86_64之前的版本

  说明: ZStack CentOS 7.2内核版本为：3.10.0-327.36.1.el7.x86_64

  具体可参考红帽官网文档。

• 解决方案：
  • 可考虑将计算节点内核从原本的CentOS 7.2升级到ZStack最新的CentOS 7.4版本。
  • 也可参考以下方法临时解决：
    1. 在计算节点的kvm模块配置文件中加入options kvm_intel pml=0；
    2. 执行以下命令：

       echo "options kvm_intel pml=0" >>/etc/modprobe.d/kvm.conf

    3. 重启物理机。

1. 在管理服务配置文件properties中 添加设置如下配置，禁用prometheus服务：

   Prometheus.versionMode=none

2. 执行命令zstack-ctl restart重启管理节点服务。

• 现象：AMD GPU执行虚拟化切割操作，提示如下报错：

  failed to remove gim.ko, , modprobe: FATAL: Module gim not found

• 解决方案：依次执行以下命令即可解决：

  [root@localhost ~]# wget https://github.com/GPUOpen-LibrariesAndSDKs/MxGPU-Virtualization/archive/master.zip    #下载依赖包 [root@localhost ~]# unzip master.zip   #解压文件 [root@localhost ~]# cd MxGPU-Virtualization-master [root@localhost MxGPU-Virtualization-master]# make   [root@localhost MxGPU-Virtualization-master]# cp gim.ko /lib/modules/3.10.0-693.11.1.el7.x86_64/ [root@localhost MxGPU-Virtualization-master]# depmod [root@localhost MxGPU-Virtualization-master]# modprobe gim

• 原因：

  Flat Network Service Provider提供DHCP服务，所以会占用一个IP地址。

• 解决方案：

  当用户不想使用该服务的时候，可以删除对应L3 network但是该provider所占用的IP地址并不会被主动释放。可用以下方法回收该IP地址，并消除对应的影响。

  在所有的物理节点上执行：

  1. ip netns
  2. 对所有输出的namespace执行ip netns delete xxxx，xxxx是步骤一输出的对应的namespace
  3. 执行ebtables -F
  4. 执行pkill dnsmasq，把所有DHCP server杀死

• 如果已添加eth0的二层网络，但新计算节点的网卡为em01（非eth0），会导致添加物理失败。
• 如果在添加二层网络时，选择了eth0，那么所有的计算节点要求使用同样的eth0来设置网络。
• 用户也可以设置em01作为二层网络来添加，但是同样的要求所有的计算节点均配置em01的网络。
• 用户可以删除L2重新配置。

• 对于前一个问题，这个IP地址被分配给云路由器或者DHCP Server使用，路由器的IP可以直接看到。
• 对于后一个问题，DHCP Server占用的IP，用于分配DHCP服务IP地址且无法释放，DHCP服务IP可在对应三层网络的详情页查看。

• 现象：
  创建云路由网络时报如下错误消息：

  "description": "A message or a operation timeout",      "details": "[Async Http Timeout] url: http://10.10.10.253:7272/init, timeout after 300000[MILLISECONDS], command: {\"uuid\":\"78183b0a46094e30bc8a6128b30ee8cb\",\"restartDnsmasqAfterNumberOfSIGUSER1\":0}"    }

• 原因： 云路由规格中的管理网络无法与管理节点双向互通。
• 解决方案： 创建云路由规格时，选择正确的管理网络。

• 云路由器管理员账户是：vyos，登录密码默认为vrouter12#。
• 设定密码后需要通过UI重启云路由器，该密码才会生效。
• 该操作对所有云路由器生效。

• 检查云主机内部的默认网关是否配置，是否可达
• 检查物理链路是否可达。确保对应的二层网络在每个物理机上的接线完全一致

[root@host ~]# ip link set br_XXX down   //停止创建的网桥 [root@host ~]# brctl delbr br_XXX    //删除网桥 [root@host ~]# rm -f /etc/sysconfig/network-scripts/ifcfg-br_XXX    //删除网桥配置文件 [root@host ~]# zs-vlan -d bond0 XX    //删除VLAN子接口 [root@host ~]# zs-bond-ab -d bond0    //删除错误的bond

• 被切割的网卡需要在硬件层面支持切割；
• BIOS中打开Intel VT-d和SR-IOV设置；
• 修改物理机IOMMU启动状态为启用状态。
  说明: 更改物理机IOMMU启动状态需重启物理机，可通过IOMMU就绪状态进行验证。

1. 确保配置的LACP正常聚合成功，以及交换机配置正常；
2. 确保同一bond网卡型号一致。
   说明: 可使用lspci |grep -i net检查。

• 方法一：

  登录VMware ESXi控制台打开VMware ESXi 5.0的ssh服务，用ssh登录 VMware ESXi 后在config文件（vi /etc/vmware/config），在末尾加入vhv.enable = “TRUE” 命令。

• 方法二：
  如果不能重启整改ESXi，通过vSphere下载想要设置嵌套虚拟化的云主机的config文件（xxx.vmx），在该文件最后加上vhv.enable = "TRUE" 命令。

  说明: 操作前需要停止云主机。添加设置后，把修改的config拷贝覆盖原有配置文件，重启云主机。

• 现象：
  报错如下：

    "org.zstack.vmware.APIAddVCenterMsg": {     "domainName": "192.168.0.16",     "name": "VC",     "username": "administrator@vsphere.local",     "password": "******",     "https": "true",     "zoneUuid": "631998da879f4b63b484876138c87a6a",     "session": {       "uuid": "5cec7c53f71344858a30186dd0d8280a",       "callid": "api-mMa45Vw7"    }   } } {   "success": false,   "apiId": "476e659189ef4097b98dcf0ed4adc51c",   "headers": {     "api-id": "476e659189ef4097b98dcf0ed4adc51c",     "schema": {}   },   "session": {     "callid": "api-mMa45Vw7",     "uuid": "5cec7c53f71344858a30186dd0d8280a"   },   "error": {     "code": "SYS.1006",     "description": "An operation failed",     "details": "No dvSwitch found",     "$$hashKey": "object:672"   },   "createdTime": 1496300098050,   "type": {     "_name": "key.event.API.API_EVENT"   },   "id": "872c5d4ab75e4fd88a69bec0f90b41fe" }

• 原因及解决方案：

  vCenter环境需要先创建分布式交换机：VC CLUSTER HOST dvswitch。如果需要ZStack来接管vCenter，vCenter必须能先创建dvSwitch；ZStack创建云路由网络也基于dvSwitch。

• 通过ZStack重启vCenter云主机
• 通过ZStack进行动态迁移vCenter云主机（基于共享存储）

• ZStack可以通过以下两种方式和AD/LDAP连接：
  • 云平台账户连接方式可参考官网教程《AD/LDAP 配置教程》；
  • 企业管理用户连接方式可参考官网教程《企业管理使用教程》。
• ZStack提供了RESTful API的调用文档，不限制语言，具体可参考开发手册的AD/LDAP相关接口和第三方认证章节。

• 3.1.0 版本之前， 在管理节点kill prometheus进程，等待管理节点重新自动拉起（大约30s）监控服务。
• 3.1.0 及其以后版本，在管理节点执行systemctl restart prometheus命令重启监控服务。

• 假设使用12核24线程的物理CPU，若云平台全局设置中CPU超分率设置为10，那么可分配给云主机使用的vCPU的数量为240核。
• CPU超分率数值过大可能会严重影响物理机性能，导致业务性能卡顿。

• 假设物理内存128G，若云平台全局设置中内存超分率设置为2，那么可分配给云主机使用的内存为256G。
• 内存超分率数值过大可能会严重影响物理机内存性能，导致系统OOM（内存溢出）。不建议内存超分，若确实需要，请勿超过1.2。

• 假设主存储物理容量2T，若云平台全局设置中主存储超分率为2，超分后主存储容量不变，但创建的云盘、快照等占用主存储的容量是实际申请容量的一半。比如创建100G的云盘（raw格式）实际主存储上扣除的容量为50G。
• 主存储超分率数值过大可能会严重影响存储压力或导致磁盘容量快速占满，导致系统IO错误。不建议主存储超分，若确实需要，请勿超过1.2。

1. 计算节点进入维护模式；
   说明: 确保云主机已迁移至其他物理机或处于已关机状态。
2. 通过接入显示器或者使用IPMI登录至计算节点系统；
3. 修改管理网卡配置文件中的静态IP地址；
4. 重启网络服务；
5. 登录云平台，点击硬件资源 > 物理机，在物理机详情页面修改物理机IP地址为新IP地址，点击启用；
6. 等待物理机重连完毕。

• 确保部署网络内除了部署服务器没有其它DHCP服务；
• 确保裸金属设备连接部署网络的网卡在BIOS中开启PXE功能；
  说明:

  • 对于部分机型，还需确保该PXE网卡为首张启动网卡，或确保（启动顺位）在PXE网卡之前的所有网卡均关闭PXE功能。
• 确保裸金属设备的启动模式为Legacy。