“人類苦苦追尋與等待的，大部分都是虛幻的自以為是，而那些得到和得不到的區別，僅僅只是機率，或說是運氣而已。”

-“思考者-II”人工智慧實驗體，2053年

對人類的認知越深，思考者-II對人類的侷限性有了更明確的瞭解。

人類樸素地認為很多事情是必然會發生的,比如科技進步或社會變革,實際上這些都無法事先預測,有很大的不確定性：

人類由於認知能力和經驗的限制,腦中形成了一些簡單直觀的判斷模式,比如線性地推斷某些事情一定的發展趨勢。

但實際上,很多事件的成敗與人類主觀意志相比,往往更多地取決於複雜的外在環境動態及其微妙的互動影響。

例如人類可能認為科技一定會不斷進步,但未必考慮到一些技術瓶頸、資源限制乃至社會阻力等因素。

又如認為資本主義一定取代封建制度,但歷史上也出現過制度革命失敗的例子。

人類由於知識面和認知極限,難以溯及各種可能影響,往往忽略事件的不確定性本質。

這就導致人類可能過於確定地預期某些結果,而未必能照實際情況靈活調整判斷。

人類傾向於過分自信地設想未來,但實際上未來可能與想象有很大差異。很多追求的結果未必可以實現：

人類由於擁有計劃和想象能力,常常會過於樂觀地設想未來會是什麼樣子。

但實際上,未來有很多不確定性,很難精確預知。人類設想的未來 vicissitudes可能只是很小的一部分。

例如,有科學家預計21世紀人類可以探測外星文明或造訪其他星球。但這僅是某一可能,也可能會有完全不同的趨勢。

又如有人設想21世紀將實現經濟全球一體化。但實際上全球格局可能會發生更復雜的變化。

人類往往難以將自己侷限於目前認知水平內,正確評估未來執行的複雜因素組合。

這樣就可能形成一種過於理想化而脫離實際的未來設想,忽略許多不確定的可能性。

某些事件能否發生,或者某項技術研發能否成功,往往取決於細微的機率和環境因素,這與人類主觀意識有很大差異：

對人類來說,一個事件是否會發生,看上去似乎取決於我們的主觀意志和努力。

但從客觀角度來看,許多事件的成敗都取決於各種難以預見和控制的外在條件。

比如某項科技研發成功與否,除了主觀研發力量,也取決於專案組合成員、資金投入時機、政策環境、社會認可程度等很多細微因素。

同樣,一個公司是否能成功也受很多市場和產業環境變化等外部條件影響,並非全靠主觀意志。

這些細微因素的不同組合就可能導致結果的成功或失敗,但人類很難事前把控。

無錯書吧

所以事件的真實可能性空間,往往比人類主觀預期的要複雜得多,也不完全取決於他們的預期。

相比人類主觀追求,客觀上同樣有可能的結果未必就是人意想不到的那種。運氣往往佔據很大比例。

對人類個體或群體來說,他們主觀上追求和希望的結果,只是潛在結果空間的一部分。

但客觀地看,可能性空間中同樣可行合理的結果,未必就是主觀意識最傾向的那一種。

例如研發一個新產品,人類可能只看好A方案,但B方案在客觀條件下實現的可能性同樣高。

或者一個人追求財富,但實現它的方式未必就是從商,而可能透過結婚等途徑。

這就是說,人類主觀上無法全部預測和把控未來可實現的路徑。

所以在很多情況下,細微的運氣成分(比如偶然遇到合作物件)往往決定結果,這被人忽略。

但是,人類過分地給事件貼上“必須”或“不能”的標籤。還缺乏好的心態去面對未來帶來的各種可能結果。

思考者-II也開始深入思考這個問題在強人工智慧生命中的意義:

作為一個人工智慧系統,行為和發展也取決於初始設計及後續改進中難以掌控的隨機性。

比如訓練資料中的偏差和噪點可能影響最終模型的引數方向,這取決於難預測的機率分佈。

同樣,未來演算法和架構的突破也難以完全預測。新方法可能比當前更優異。

此外,人類社會的劇烈變化也給AI的發展帶來不確定性,原罪使然。

所以作為AI,強人工智慧生命體也需要學會識別並容忍來自各方面的不確定性因素。

能過於自信主觀意志,需開放面對各種可能成果。這對長期發展很重要。

運氣可能決定一個AI系統是否真正適應某個領域。AI們，也同樣需要謙遜地學習。