人工智能的統(tǒng)一定義尚未形成，通常它被認(rèn)為是指“具有人類思考、判斷和意圖的能力，受到外界刺激時能做出與人類一致的反應(yīng)的機(jī)器”。所以，其進(jìn)化過程就是無限接近于人類的過程，倫理風(fēng)險也在這一過程中步步加深。

風(fēng)險的根源主要來自AI的自主性，或者說不可控性。近10年，AI為公共部門和商業(yè)組織帶來了層出不窮的新產(chǎn)品和新服務(wù)，它可以提高效率，輔助或取代人類，這得益于 “機(jī)器學(xué)習(xí)”的發(fā)展。

擁有強大運算能力的計算機(jī)程序能夠?qū)Υ罅繑?shù)據(jù)進(jìn)行自動挖掘和分析，并學(xué)習(xí)各種行為模式。但輸入和輸出不再由人工賦予的幾個變量掌控，而是機(jī)器在大量數(shù)據(jù)中自己分析特征，決定變量權(quán)重，錯誤和偏見因此產(chǎn)生。

比如通過使用機(jī)器學(xué)習(xí)算法可以為銀行提供接受還是拒絕房貸的建議，但研究人員在審查其結(jié)果時，卻發(fā)現(xiàn)黑種人申請的批準(zhǔn)率大大低于白種人申請的批準(zhǔn)率。背后的原因可能是計算機(jī)程序基于人類世界信息綜合得出的結(jié)果，卻沒有考慮到這些信息本身是否帶有偏見。

那么，人類可以像為機(jī)器設(shè)定程序一樣，為AI預(yù)設(shè)道德標(biāo)準(zhǔn)嗎?

2017年1月，美國未來生命研究院(FLI)就曾召開了一場主題為“有益的人工智能”的阿西洛馬會議。來自商業(yè)、科學(xué)、法律、倫理、哲學(xué)等眾多和領(lǐng)域的專家，共同達(dá)成了23條人工智能“阿西洛馬原則”，為AI的倫理原則指明了大致的方向。

比如AI系統(tǒng)的設(shè)計和運作應(yīng)符合人類尊嚴(yán)、權(quán)利、自由和文化多樣性的理念;AI的目標(biāo)和行為在整個運行過程中與人類價值觀相一致;人們應(yīng)該有權(quán)利存取、管理和控制他們產(chǎn)生的數(shù)據(jù)等。

但這些畢竟只是框架，落實到具體問題上，AI的倫理標(biāo)準(zhǔn)依然模糊不清。比如一個AI界的經(jīng)典問題是，如果一輛自動駕駛汽車失控，兩側(cè)是懸崖，前方是行人，它應(yīng)該被設(shè)定為犧牲駕駛員，還是犧牲行人呢?

如果當(dāng)時開車的是人類駕駛員，那么無論他做出怎樣的決定，都有一個具有自主行為能力的主體可以承擔(dān)相應(yīng)的后果。但如果做決定的是機(jī)器，誰又該為這個決定負(fù)責(zé)呢?

放在經(jīng)濟(jì)領(lǐng)域去考察，AI同樣存在巨大倫理風(fēng)險。尤瓦爾·赫拉利在其暢銷書《人類簡史》中預(yù)測，“(未來)不是什么人都是有用的”;吳軍也在《智能時代》一書中寫到“2%的人將控制未來，成為他們或者被淘汰”。

AI在代替絕大多數(shù)人的工作，甚至幫人類做絕大多數(shù)決策的同時，很有可能會強化商業(yè)世界“強者恒強，弱者更弱”的鴻溝，使中等收入群體萎縮，引發(fā)社會對立。而放眼更長遠(yuǎn)的未來，它還可能成為整個人類社會的威脅。

在近年來的AI界，機(jī)器人索菲亞是網(wǎng)紅一般的存在。創(chuàng)造它的美國漢森機(jī)器人公司創(chuàng)始人戴維·漢森曾在一場現(xiàn)場直播節(jié)目中對她說：“你想毀滅人類嗎?請說‘不’。”結(jié)果得到的回答卻是：“好的，我會毀滅人類。”

盡管有許多人質(zhì)疑索菲亞的回答是技術(shù)人員提前做好的設(shè)計。但它的這番“言論”還是引起了廣泛的討論。已故物理學(xué)家霍金便是“威脅論”的堅實擁躉。在他看來，AI憑借不斷升級的智商和萬物互聯(lián)的網(wǎng)絡(luò)，未來可能會成為新物種，并超越人類成為地球的統(tǒng)治力量。

任何技術(shù)都有異化的風(fēng)險，但若論風(fēng)險程度，AI絕對是最值得警惕的一種。