3月10日,埃塞俄比亞航空公司一架波音737MAX8客機在起飛6分鐘之後墜毀,機上搭乘的149名乘客和8名機組成員全部遇難,其中包括8名中國乘客。

這是近五個月來第二架波音737MAX8客機墜毀。

該機型的上一次空難發生在2018年10月29日,當時印尼獅航的一架載有189人的波音737MAX8客機在起飛13分鐘後墜海,機上人員全部遇難。

(當地時間2019年3月10日,埃塞俄比亞首都亞的斯亞貝巴,墜毀客機的乘客親屬在機場大哭,悲痛欲絕。)

短期內連續兩場空難,346條鮮活的生命瞬間消逝,這樣的慘劇已經引起了全球輿論震動,而兩次空難背後的留下的思考已經超越空難本身。對於金融投資領域來說,人們關心的是今晚的波音公司股價波動,但是我們更應該關心的是,人類到底應該在何種程度上信任AI技術。

1

目前尚無證據表明這兩起空難之間存在聯繫,但波音737MAX8是一款新機型,兩年前才完成首飛,埃航墜毀的這架飛機才僅僅使用了4個月,而去年獅航墜毀的那架飛機機齡才77天,二者都不存在機械老化問題。這種情況意味着,這款新機型有可能存在設計隱患。

航空製造業對於這類隱患一直都是零容忍的。飛機屬於高端製造業,自有飛機以來,安全問題就備受關注,人們可能無法記錄這世上的每一起車禍,但每一起空難的經過都有案可查。假如波音737MAX8真的有設計隱患,那波音公司可就攤上大事兒了,隨之而來巨額索賠可能會讓它遭受致命打擊。CNN航空分析師、美國運輸部前監察長瑪麗·夏沃昨日對埃航事件發表評論時說:「新款飛機,一年內兩次墜毀,這種情況根本不應該發生。」

對於波音來說,目前的形勢非常糟糕,因為兩起空難之間存在着不少相似之處。

比如獅航空難是起飛後13分鐘就墜毀,埃航這次空難是起飛6分鐘後墜毀,都屬於起飛後不久即出現問題。另外,獅航那次空難前幾秒鐘,飛機高度出現劇烈波動,而埃航這次出事前,飛機的高度確實是下降了,然後在墜毀前恢復了高度。

埃航空難原因目前仍不明朗,但去年10月發生的獅航空難中,有一種比較主流的觀點認為,事故的根源在於波音737MAX8安裝的那套全新的安全系統。

獅航空難一周後,波音公司曾向全球737MAX用戶發出了通告,要求所有的737MAX機組注意,在事故調查過程中發現,飛機AOA迎角傳感器錯誤數據,會導致飛機的尾翼配平系統啟動自動保護功能,在未經飛行員操縱的情況下,自動讓機頭向下。

據稱,這個隱藏很深的自動保護功能可以在AOA迎角傳感器數據錯誤導致的自動駕駛斷開後,在飛行員手動飛行情況下,自動觸發的飛機水平尾翼配平「子程序」。但這一點事先並沒有寫進飛行手冊里,飛行員並不知道有這個設計。如果知道這個設計,那麼還是有方法可以控制飛機的。

這個子程序只有在飛機遇到某種特定故障時候,才會自動觸發啟動保護功能。它只干一件事:壓低機頭,讓飛機進入俯衝狀態。

那麼是不是這個子程序本身存在的致命問題呢?這個事其實也不好說。觸發該子程序的條件是,飛行控制系統通過機身傳感器獲知機頭上揚的角度不斷增大,將要進入失速狀態,如果不立刻壓低機頭,飛機就會有墜毀的風險。由此看來,該子程序設計的初衷是沒有問題的。

但是,有不少專業人士認為,為了達到省油的目的,MAX加大了發動機尺寸,無奈起落架太短,只好把發動機在機翼上的位置上移,但會造成更大的抬頭力矩而容易失速。波音給MAX設計了一個自動低頭的配平系統MCAS,但這個系統只要收到錯誤的信號,就會自動讓飛機低頭。

資料圖:埃塞俄比亞航空公司的飛機。

這個失速保護的子程序非常強勢,它能在手動模式下自動開啟失速保護,也就是說,它可以在特殊情況下,對飛行員的操作行使「一票否決權」。這套AI系統超級自信,它有極高的權限,它可以否定飛行員的判斷,堅持按照自己的程序邏輯一條道走到黑,哪怕前方等待着人們的是死亡,它也不會有絲毫猶豫。

根據這種程序邏輯,在某些特殊情況下,當飛行員還不知道發生了什麼事情的時候,該子程序可能會自行啟動「拯救」飛機的操作,直接控制水平尾翼,讓飛機低頭俯衝。而當機組人員發現時,通常會首先啟動手動模式。所謂手動模式,一般來說,就是飛行員取回飛行掌控權,自控系統必須聽命于飛行員的指揮,但是該子程序可能在手動模式下自動開啟失速保護,也就是說,在飛行員認為完全掌控飛機的時候,它仍然在悄悄地爭奪控制權。這種人機大戰模式相當危險,在空難發生前的短時間內很可能就決定了上百人的生死。

波音考慮過「人機大戰」的可能性,所以控制系統內是有命令該子程序徹底停止運行的方法的,但是它隱藏得太深,加上這種情況本身就是極小概率事件,因此很多飛行員不熟悉關閉方法。

在去年的獅航事故中,波音公司辯稱,飛行員本應確認該系統正在運行,並將其關閉。但是波音自己心裏是清楚的,這個指責多少有點牽強,所以在獅航事故之後,波音立刻發佈緊急通告,要求所有航空公司確保他們對飛行員進行了關機程序的培訓。

埃航事故原因是否和獅航事故原因一致,目前尚未有結論,但埃航事故發生之後,中國民航總局已經通知國內航空公司立刻停止波音737MAX客機的運行,改由其他機型執行航線運行任務。

2

近年來,汽車的無人駕駛技術進入了大眾視野,很多人在暢想未來無人駕駛汽車普及之後的社會場景。在當前的設想場景里,安裝了無人駕駛系統的汽車首先應有一個全方位的雷達感應器,它可以感知車身一定距離之外的全景環境,並通過計算機技術實現精算,再作出即時反應,這就是無人駕駛。這種技術聽起來似乎很玄妙,但實際上並不高深,它比飛機的自動駕駛系統要簡單得多。

那麼,既然技術上沒有大的障礙,無人駕駛汽車是不是很快就會到來呢?考慮到很多社會配套體系尚未完備,無人駕駛汽車時代可能還要等上一些年頭。

飛機為什麼要有自動駕駛系統呢?軍事無人機是為了最大限度降低降低己方飛行員戰損數量,而民用飛機的自動駕駛系統主要是出於駕駛安全本身的考量。人類會疲勞,而駕駛飛機需要飛行員精神高度集中,這種狀態會讓飛行員更加容易疲勞,但是自動駕駛系統不存在這個問題。

幾十年前人類就發明了自動駕駛儀,由機載計算機控制飛機自動飛行。那個時代的自動駕駛儀比較簡單,由高度表、陀螺儀、加速度計、簡單的電路和檢測飛機狀態信息的設備構成,由於儀錶精度不高,最終校正飛行狀態的工作還是需要飛行員去完成,但自動駕駛儀已經在很大程度上減少了飛行員的工作量。

現代的自動駕駛系統則已經有了極大的變化,儀器越來越精密,精準度早已超越了人工所能達到的極限,飛機在自動控制狀態下飛行時,任何一點點狀態的改變系統都可以察覺出來。飛機在飛行中利用計算機產生精確的信號與地勤保持聯繫,飛機航線無需飛行員人工干預,校正工作則由衛星定位系統完成。

如此看來,似乎飛行員這個職業已經可以退出歷史舞台了,但是實際上並非如此

由於歷史原因,大多數東方人對於科學的認知總是處於極端狀態,人們時而視科學如洪水猛獸,時而又視科學如無所不能的神跡。這兩種認知都有很大的問題,相對而言,西方人對於科學技術的態度比東方人更加謹慎。

科技的進步有時候是存在重大bug的,而這種bug有時候隱藏得很深。精準的檢測、精細的算法、完美的運算過程,這一切看起來都沒有問題,但它們並不總是帶來正確的結果。AI技術的難點在於,它實在是過於精準了,以致於做出的判斷都是非常剛性的,它們習慣於對事物採取一刀切的處理方式,而遺憾的是,世間事有許多並無明晰的界定,甚至那些看似明晰的界定本身也是在不斷變化不斷修正中的。

隨便舉個例子。比如判定一個人是不是禿頂,這個標準其實就很模糊。假如他確實一根頭髮都沒有,那麼事情就清楚明白了,無論是AI還是普通人,都會認為他就是禿頂。但假如他只有一根頭髮呢?在AI看來,哪怕它只有一根頭髮,他也已經不是禿頂了,但在普通人的習慣性認知里,他依然是個禿頂。那麼,如果要給AI設計一個程序,到底這個量級應該設置在多少呢?一根頭髮?兩根頭髮?還是一萬根頭髮?這是一個界限很模糊的事情,在AI的認知中極難判定,但在人類的認知中這幾乎不是什麼難題。

已故科學巨匠霍金一直對AI保持警惕的態度。

2016年10月19日,霍金劍橋大學發表演講。他在演講中批評了人工智能的無節制發展,他認為,人工智能技術的確有希望帶來巨大的福利,比如根除疾病和貧困,但是它同樣也可能帶來危險,比如強大的自主式武器,或者幫助少數人壓迫多數人。

AI是有漏洞的,它處理問題過於剛性,有時候會釀出慘禍。因此在西方科學界,很多大咖都提醒人類,對待AI要慎重,這是一把雙刃劍,它的副作用必須引起警示。

自動駕駛技術也是這樣。在飛機上,當然應該裝自動駕駛系統,但是在最後決定權的歸屬上,一般默認人類應該有超越AI的權限。

這個星球上依然有很多人對於AI心存警惕。比如當獅航空難和埃航空難發生之後,仍然有很多人認為,對於關乎人類性命的事情,最後的裁決權依然應該交給人類,而不能交給冰冷的AI,即便它無比強大。