4月8日下午，騰訊云突然發(fā)生服務故障，表現(xiàn)為接口響應報錯、內(nèi)部服務錯誤、網(wǎng)頁顯示504錯誤等。
504錯誤代表的是網(wǎng)關(guān)超時(Gateway timeout)，也就是服務器作為網(wǎng)關(guān)或代理沒有及時從上游服務器收到請求。
當天傍晚，騰訊云回復稱，官網(wǎng)控制臺相關(guān)服務出現(xiàn)異常，正在緊急修復，部分地區(qū)已恢復，其他地區(qū)也正在繼續(xù)搶修中。
現(xiàn)在，騰訊云官方公布了對此次故障的復盤及情況說明。
根據(jù)騰訊云的說法，4月8日15點23分，騰訊云團隊收到告警信息，云API服務處于異常狀態(tài)，隨即在騰訊云工單、售后服務群、微博等渠道開始大量出現(xiàn)騰訊云控制臺登錄不上的客戶反饋。
經(jīng)過故障定位發(fā)現(xiàn)，客戶登錄不上控制臺正是云API異常所導致。
云API是云上統(tǒng)一的開放接口集合，客戶可以通過API以編程方式管理和操控云端資源，云控制臺通過組合云API提供交互式的網(wǎng)頁功能。
故障發(fā)生后，依賴云API提供產(chǎn)品能力的部分公有云服務，也因為云API的異常出現(xiàn)了無法使用的情況，比如云函數(shù)、文字識別、微服務平臺、音頻內(nèi)容安全、驗證碼等。
此次故障一共持續(xù)了近87分鐘，期間共有1957個客戶報障。
從客戶的視角來看，云服務大概可以分為數(shù)據(jù)面和控制面，其中數(shù)據(jù)面承載客戶自身的業(yè)務，控制面負責操作云上不同產(chǎn)品。
此次發(fā)生故障的控制臺和云API，是對控制面的影響。
通俗來講，如果把云服務類比為酒店，控制臺相當于酒店的前臺，一旦發(fā)生故障就會導致入住、續(xù)住等管理能力不可用，但已入住的客房不受影響。
這次故障中，客戶已經(jīng)配置好的服務器等IaaS資源，包括已經(jīng)部署運行的業(yè)務，沒有受到云API異常的影響。其他以非云API方式提供服務的PaaS、SaaS服務，也都正常服務。
4月8日當天騰訊云全產(chǎn)品進出流量趨勢圖，可以看到不受影響
但是，使用API提供的服務類產(chǎn)品受到不同程度的影響，比如騰訊云存儲服務調(diào)用當天有明顯下滑。
4月8日當天騰訊云存儲服務調(diào)用數(shù)據(jù)趨勢圖，可以看到存儲服務調(diào)用有一個明顯的波動
本次故障處理過程如下：
15:23，監(jiān)測到故障，立即執(zhí)行服務的恢復，同時進行原因的排查；
15:47，發(fā)現(xiàn)通過回滾版本沒能完全恢復服務，進一步定位問題；
15:57，定位出故障根因是配置數(shù)據(jù)出現(xiàn)錯誤，緊急設(shè)計數(shù)據(jù)修復方案；
16:02，對全地域進行數(shù)據(jù)修復工作，API服務逐地域恢復中；
16:05，觀測到除上海外的地域API服務均已恢復，進一步定位上海地域的恢復問題；
16:25，定位到上海的技術(shù)組件存在API循環(huán)依賴問題，決定通過流量調(diào)度至其他地域來恢復；
16:45，觀測到上海地域恢復了，此時API和依賴API的PaaS服務徹底恢復，但控制臺流量劇增，按九倍容量進行了擴容；
16:50，請求量逐漸恢復到正常水平，業(yè)務穩(wěn)定運行，控制臺服務全部恢復；
17:45，持續(xù)觀察一小時，未發(fā)現(xiàn)問題，按預案處理過程完畢。
騰訊云表示，故障的原因是云API服務新版本向前兼容性考慮不夠，以及配置數(shù)據(jù)灰度機制不足。
本次API升級過程中，由于新版本的接口協(xié)議發(fā)生了變化，在后臺發(fā)布新版本之后，對于舊版本前端傳來的數(shù)據(jù)處理邏輯異常，導致生成了一條錯誤的配置數(shù)據(jù)，而灰度機制不足導致異常數(shù)據(jù)快速擴散到了全網(wǎng)地域，造成整體API使用異常。
發(fā)生故障后，按照標準回滾方案將服務后臺和配置數(shù)據(jù)同時回滾到舊版本，并重啟API后臺服務，但此時因為承載API服務的容器平臺也依賴API服務才能提供調(diào)度能力，即發(fā)生了循環(huán)依賴，導致服務無法自動拉起。
通過運維手工啟動方式才使API服務重啟，完成整個故障恢復。
近年來，國內(nèi)各家云服務多次發(fā)生故障：
2024年4月9日支付寶崩潰，2023年12月3日騰訊視頻崩潰，2023年11月27日滴滴崩潰，2023年11月12日阿里云和阿里系服務集體崩潰，2023年3月5日B站崩潰……
本文鏈接：http://m.88neiyi.com/news-128543.html騰訊云突發(fā)故障 87分鐘波及1957個客戶！官方公開內(nèi)幕
