经验啦

  1. 首页 > 生活百科 > >

阿里云发布香港可用区C服务中断事件说明，称将尽快处理赔偿事宜( 二 )

生活百科可用区


12月18日10:37 ， 阿里云香港可用区C的部分存储服务OSS开始受到停机影响，此时客户暂不会感知，但持续高温会导致磁盘坏道，影响数据安全，工程师对服务器进行停机操作 ， 从11:07至18:26中断了服务 。阿里云在香港Region可用区C提供了2种类型的OSS服务，一种是OSS本地冗余LRS服务（通常叫单AZ冗余服务） ， 仅部署在可用区C；另一种是OSS同城冗余ZRS服务（通常叫3AZ冗余服务），部署在可用区B、C和D 。在此次故障中，OSS同城冗余ZRS服务基本没有受到影响 。可用区C的OSS本地冗余服务中断时间较长，因不支持跨可用区切换，需要依赖故障机房的恢复 。从18:26开始，存储服务器重新分批启动 。其中，单AZ本地冗余LRS服务有部分服务器因消防问题需要做隔离处理 。恢复服务前，我们必须要确保数据可靠性，花费了较多的时间进行完整性检验工作 。直至12月19日00:30，这部分OSS服务（单AZ冗余服务）才恢复了对外服务能力 。
阿里云网络少量单可用区产品（如：VPN、Privatelink以及少量GA实例）在此次故障中受到影响 。12月18日11:21，工程师启动网络产品可用区容灾逃逸，12:45完成SLB等大部分网络产品可用区容灾逃逸 ， 13:47NAT产品完成收尾逃逸 。除上述少量单可用区产品以外，各网络产品在故障期间保持了业务连续性 ， NAT有分钟级业务受损 。
12月18日10:17开始，阿里云香港Region可用区C部分RDS实例出现不可用的报警 。随着该可用区受故障影响的主机范围扩大，出现服务异常的实例数量随之增加，工程师启动数据库应急切换预案流程 。截至12:30，RDSMySQL与Redis、MongoDB、DTS等跨可用区实例完成跨可用区切换 。部分单可用区实例以及单可用区高可用实例，由于依赖单可用区的数据备份，仅少量实例实现有效迁移 。少量支持跨可用区切换的RDS实例没有及时完成切换 。经排查是由于这部分RDS实例依赖了部署在香港Region可用区C的代理服务 ， 由于代理服务不可用，无法通过代理地址访问RDS实例 。我们协助相关客户通过临时切换到使用RDS主实例的地址访问来进行恢复 。随着机房制冷设备恢复，21:30左右绝大部分数据库实例恢复正常 。对于受故障影响的单机版实例及主备均在香港Region可用区C的高可用版实例，我们提供了克隆实例、实例迁移等临时性恢复方案，但由于底层服务资源的限制，部分实例的迁移恢复过程遇到一些异常情况 ， 需要花费较长的时间来处理解决 。
我们注意到，同时在多个可用区运行业务的客户，在这次事件中依然可以维持业务运行 。对于业务需要绝对高可用的客户 ， 我们持续建议您采用全链路多可用区的业务架构设计，以应对各种可能的意外事件 。
问题分析与改进措施
1、冷机系统故障恢复时间过长
原因分析：机房冷却系统缺水进气形成气阻，影响水路循环导致4台主冷机服务异常，启动4台备冷机时因主备共用的水路循环系统气阻导致启动失败 。水盘补水后，因机房冷却系统的群控逻辑，无法单台独立启动冷机，手工修改冷机配置，将冷机从群控调整为独立运行后，陆续启动冷机，影响了冷却系统的恢复时长 。整个过程中，原因定位耗时3小时34分钟，补水排气耗时2小时57分钟 ， 解锁群控逻辑启动4台冷机耗时3小时32分钟 。
改进措施：全面检查机房基础设施管控系统，在监控数据采集层面，扩大覆盖度，提升精细度，提高对故障的排查和定位速度；在设施管控逻辑层面，确保系统自动切换逻辑符合预期，同时保证手工切换的准确性，防止内部状态死锁从而影响故障的恢复 。

相关经验推荐


上一篇：英伟达中国区Omniverse Lead何展：技术裂变，让元宇宙变得触手可及

下一篇：南天竹怎么养，有哪些注意事项