在人類歷史上的不同時代，誰在改變和塑造人們的觀念？這是一個經(jīng)常被忽視卻又非常值得思考的問題。在人類文明的早期，部落首領(lǐng)或巫師，有時是兩者合而為一，掌握對自然變化和人的命運的解釋權(quán)。進入軸心時代，知識和觀念的生產(chǎn)更加專業(yè)化，哲學家和政治家群體崛起，在西方是蘇格拉底、柏拉圖、赫拉克里特、亞里士多德和梭倫們，在東方則是老子、孔子、商鞅和釋迦摩尼們，還有如修昔底德和司馬遷這樣的歷史學家們，也因為杰出的敘事和見識，對當時和后世的思想影響深遠。到了中世紀，教廷和國王在精神和世俗觀念塑造上競爭不息。再往后，文藝復(fù)興的先驅(qū)者們率先打破了人類的精神禁錮，地理大發(fā)現(xiàn)中探險者們的故事鼓勵了獵奇、冒險、殖民和商業(yè)精神。然后，科學家群體、經(jīng)濟學家、政治理論家們在社會觀念塑造中各領(lǐng)風騷。

從20世紀開始，企業(yè)家和企業(yè)在人類社會的觀念塑造中扮演了日漸顯著的角色，從福特主義到豐田主義，這種影響遠遠不止于企業(yè)內(nèi)部，也不至于經(jīng)濟生產(chǎn)，而是影響到社會的方方面面。通常，這種觀念塑造通過幾種方式：

一是通過大眾易于理解和傳播的成功故事，企業(yè)家和企業(yè)被渴慕、效仿和追隨；

二是帶有政治經(jīng)濟學意味的，被加爾布雷思和喬姆斯基所揭示和批判的，通過消費主義的生活方式和資本對大眾傳媒的干預(yù)實現(xiàn)的；

三是正在迅速興起的，通過對產(chǎn)品的定義以及企業(yè)家自己直接言說來表達的方式，這是令人矚目和值得期待的變化。

今天，全球最大的企業(yè)，尤其是信息科技企業(yè)，很多都旗幟鮮明地在產(chǎn)品和服務(wù)中展現(xiàn)出其價值觀。如果有人還懷疑我說的這些企業(yè)在觀念塑造上的影響力，不妨想想微軟、蘋果、谷歌、華為、阿里巴巴、微信有多少員工，他們遍布的地域有多廣，有多少企業(yè)在這些巨頭的硬件供應(yīng)鏈上，或者依賴這些巨頭的系統(tǒng)平臺來開發(fā)產(chǎn)品，更不必說有多人用戶在用它們的產(chǎn)品。2019年，全球智能手機的出貨量超過14億臺，這個數(shù)要大于中國的人口規(guī)模，三星、華為、蘋果智能手機的出貨量都在2億左右。

在梅麗爾·斯特里普扮演的《鐵娘子》中，撒切爾夫人借回憶父親格言說，“觀念決定行為，行為決定習慣。習慣決定性格，性格決定命運”，這是對觀念的影響鏈條很好的說明。凱恩斯也說過，“經(jīng)濟學家與政治哲學家的思想，不論其正確與否，其力量之大，往往出于常人意料……許多實干家自以為不受任何理論之影響，往往恰恰淪為某個已故經(jīng)濟學家最壞學說之不自覺的奴隸?！边@段話也可以用來預(yù)見未來企業(yè)家和企業(yè)對社會的影響。

那么，一個自然而然和關(guān)鍵的問題是，該如何看待企業(yè)家和企業(yè)的這種影響？就個人而言，我樂于將這種新涌現(xiàn)的影響看作是社會獲得更好未來的機會。之所以稱之為機會，有兩個方面的理由：

一是多重觀念力量的競爭，擴大了社會個體的觀念選擇空間，增進了思想的自由度，也意味著社會中的個體在掌握自身命運上有了更多的自由度；

二是企業(yè)家和企業(yè)被社會所共鳴和選擇的那些觀念本身，反映出的是合作伙伴和數(shù)以億計消費者的集體選擇，通過市場機制形成的這種選擇是直接和有力的，反映出建立于分散個體常識基礎(chǔ)上的共識。

當我們的社會面臨一些系統(tǒng)性和根本性的挑戰(zhàn)時，任何有助于我們應(yīng)對這些挑戰(zhàn)的機會，都需要倍加珍惜。這些挑戰(zhàn)，有些是人們能夠直觀理解和警惕的，如急性的傳染病、全球性的經(jīng)濟危機、核武器的擴散等。有些則更復(fù)雜和難以依靠直覺，如氣候變化和人工智能，因為這些變化會撼動社會體系，一開始又是緩慢進行，它們的宏大超出了我們的日常認知，緩慢的變化又使我們難以察覺，而且可能的災(zāi)難發(fā)生在不知多遠的未來，但是一旦緩慢變化累積到一個臨界點，形勢就可能急劇惡化。

相比于已經(jīng)頗有爭議的氣候變化，人們對把人工智能視為我所說的系統(tǒng)性和根本性挑戰(zhàn)更心存猶豫。這是可以理解的，因為溫室氣體排放只是人類生產(chǎn)和生活的副產(chǎn)品，并不是人們想要的。但人工智能則不同，它一開始就是我們理性的產(chǎn)物，是人類智慧的結(jié)晶，是我們用來創(chuàng)造更美好生活的工具。如果從1956年達特茅斯的夏季研討班開始算起，人工智能的發(fā)展已經(jīng)有六十多年了，但是直到最近這些年才開始全面滲入我們的生活。人們熱烈而急切地馳向智能支持的美好生活，怎么愿意在剛開始的時候就考慮花大價錢改進剎車呢？

但是我不得不說，現(xiàn)在就需要非常認真地考慮改進剎車系統(tǒng)的事，這不是基于抽象的對“進步主義”和“理性自負”的反思。2018年，中國發(fā)展研究基金會和微軟公司在北京聯(lián)合發(fā)布了《未來基石：人工智能的社會角色和倫理》，本書的作者、微軟公司的總裁布拉德·史密斯先生也出席了發(fā)布會。在報告中，我們從認識論和進化論的角度，提出要關(guān)注人工智能帶來的知識生產(chǎn)和利用方式的變化，以及對人類社會的影響，特別是負面的影響，包括隱私保護、偏見強化、社會操縱、不平等、武器化等問題，布拉德對這些問題也有強烈的共鳴。事實上，我們的報告吸收很多在他領(lǐng)導下的微軟團隊關(guān)于人工智能挑戰(zhàn)的洞見。

布拉德的這本《工具，還是武器？直面人類科技最緊迫的爭議性問題》是非常及時的。如果借用在最近的新冠病毒疫情中常被提及的一個稱謂，我們也可以稱他為人工智能領(lǐng)域的“吹哨人”。書名準確而清晰地提醒人工智能技術(shù)發(fā)展和應(yīng)用的兩面性。最近幾年來，我和我的團隊在密切關(guān)注人工智能領(lǐng)域的研究報告和著作，這也是我們第一次從書名中就旗幟鮮明地獲得對人工智能雙重屬性的警示。同樣，這個書名也暗示，工具還是武器，希望還是危險，最終取決于我們的選擇。

《工具，還是武器？直面人類科技最緊迫的爭議性問題》，布拉德·史密斯、卡羅爾·安·布朗 著，楊靜嫻、趙磊 譯，中信出版集團2020年2月出版

閱讀這本書是一個愉快的體驗，盡管里面討論了許多對人類社會來說不那么愉快的挑戰(zhàn)。閱讀上的愉悅部分來自書里內(nèi)容和分析。本書不僅展示了人工智能發(fā)展的積極前景和種種令人興奮的可能性，也涵蓋了諸多已經(jīng)被關(guān)注和尚未引起關(guān)注的相關(guān)主題，社會分化、失業(yè)、壟斷、武器化、大國科技競爭等等，這些議題在“工具和武器”這個主題下得到了妥善的安排和處理，這種內(nèi)容上的全面、平衡與恰當?shù)姆治錾疃群芎玫亟Y(jié)合在一起。

作者出色的敘述和嚴謹平實的風格，也讓閱讀變得輕松愉快。我猜想，這與他作為微軟公司首席法務(wù)官的職業(yè)習慣有關(guān)。這不是拒人于千里之外的學術(shù)和技術(shù)著作，也不是架空的科幻災(zāi)難小說。在書中，大量的思考和分析是個人體驗式的，作為微軟的總裁兼首席法務(wù)官，他不僅參與了微軟內(nèi)部關(guān)于人工智能研發(fā)戰(zhàn)略和規(guī)則的制定，還參與了全球范圍內(nèi)各類大型論壇、政府高層磋商會，讀者很容易將自己代入這些場景中，理解不同利益方的關(guān)切和選擇，這使得很多看起來宏大的議題變得真實可感。

基于本文一開始就提到的理由——企業(yè)家和企業(yè)在現(xiàn)代社會觀念塑造中的重要角色，我特別贊賞布拉德和微軟公司在推動公眾全面、平衡地認識人工智能所作出的努力。借用電影《蜘蛛俠》中的話，能力越大，責任越大。作為一家全球領(lǐng)先的高科技公司，有幾十萬的員工，有數(shù)以億計的用戶，在全球人工智能開發(fā)版圖中具有舉足輕重的影響，應(yīng)該促進行業(yè)在人工智能發(fā)展中采取審慎和自律，促成社會公眾建立正確的認知和觀念，這是巨大的責任。

我不準備過多討論和評論這本書的內(nèi)容了，畢竟讀者自己從閱讀中理解人工智能帶來的希望和危險，是更可靠和可取的途徑。但是，我樂于和讀者們分享我在閱讀本書以及寫這篇書評中獲得的兩個擴展的思考。

第一，我們對人工智能開發(fā)走向失控要有更多準備。靠少數(shù)公司和政府的努力建立負責任的開發(fā)是困難的。企業(yè)之間有激烈的市場競爭，國家之間還有更復(fù)雜的技術(shù)和軍事競爭，企業(yè)間和政府間的博弈會形成典型的囚徒困境，而且由于驗證上困難也無法建立有效的約束機制，最終大家都向底線競跑。

第二，人工智能對社會系統(tǒng)性、根本性的影響，還在于我們社會還未曾和智能上遠高于我們的物種共生過。兩年前和微軟合作研究的時候，我們討論和分析了人工智能的已顯和未顯的挑戰(zhàn)，這些挑戰(zhàn)都稱得上巨大，但總覺得意猶未盡。但現(xiàn)在我想可以更清晰準確地表達出更大的風險。人類依靠智識形成的合作體系，將猛獸滅絕或趕到自然的角落里，馴化動物作為伙伴或者食物，開發(fā)疫苗控制了病毒的襲擾。但是人工智能和已知的生物不同，和我們習慣共存的工具不同，在人類需求的推動下，有實體和無實體的人工智能實際上是一個物種，它最終會具備自主性，而且在某些領(lǐng)域的智能和性能上遠遠超過人類的認知經(jīng)驗。所以，在未來，我們與人工智能不是共存，而是共生。但是，我們的社會沒有準備好，人工智能成為社區(qū)的成員，成為伙伴、上級、下級、老師、敵人。當人工智能全面地介入人類的生產(chǎn)生活后，當它們從單一功能升級為復(fù)合功能，當它們通過網(wǎng)絡(luò)連接成為社區(qū)，現(xiàn)在社會中我們熟知的哪些關(guān)系和行為準則可能都需要重新定義，但是我們還沒有思考和準備。很多人認為這是虛幻的或者是遙遠的未來的事，但是由于前面所說的“囚徒困境”，實際上這種挑戰(zhàn)到來的速度會比想象得快。

這兩個推演結(jié)論聽起來似乎悲觀了些，但是如果不去思考和指出這樣的挑戰(zhàn)，不去為之做好準備，那么這個挑戰(zhàn)有很大的可能變成現(xiàn)實。要為這樣的挑戰(zhàn)作準備，不能只靠少數(shù)公司、政府、學者的努力，需要在國際層面、行業(yè)之間、學科之間和不同利益群體之間的更廣泛協(xié)同合作。不論正確與否，我樂于和讀者分享我的閱讀思考，也期待更多的讀者能從這本書中獲得自己的啟迪。

（作者俞建拖為中國發(fā)展研究基金會副秘書長）