出席會議的專家們普遍認(rèn)為，人工智能研究和應(yīng)用的各個結(jié)構(gòu)性層面，有眾多問題需要技術(shù)專家與人文學(xué)者一起來探討和解決。人工智能與人文學(xué)這一次歷史性的互動和嵌合，對于雙方的發(fā)展而言都是一種歷史的機遇。

而筆者對這里的“發(fā)展”的理解是，它不只是指向更先進(jìn)的技術(shù)、更快的迭代速度等，也是一個讓人類停下來等一等倫理重建的問題。正如一位與會者所言，人工智能作為一種歷史性的技術(shù)進(jìn)步，它的“仿人類性”特征，使得它從一開始就不可避免地面臨了如何跨越人文價值種種界面的挑戰(zhàn)。

早在1978年9月，日本一家工廠的切割機器人突然“發(fā)瘋”，把正在值班的工人當(dāng)成鋼板切割了，這是歷史上首起機器人殺人事件。自那以后，人們就開始不斷想象機器人失控的可能性。好萊塢大片《終結(jié)者》系列中，人類研制的高級計算機控制系統(tǒng)“天網(wǎng)”有了自己的意志，將人類視為仇敵，剝奪了數(shù)以億計的生命，就可以視為這方面的一種巔峰想象。

不久前，一則有關(guān)人工智能的消息引起了很多人的關(guān)注——韓國科學(xué)技術(shù)院(KAIST)研發(fā)“殺手機器人”的計劃遭到了多國人工智能(AI)及機器人工學(xué)的專家聯(lián)合抵制。在強大的壓力之下，KAIST隨后不得不宣布取消“殺手機器人”計劃。

其實，2015年，人工智能領(lǐng)域的1000多名專家就聯(lián)合發(fā)表一封公開信，呼吁在世界范圍內(nèi)禁止“殺手機器人”。當(dāng)時還在世的著名科學(xué)家斯蒂芬·霍金，以及特斯拉首席執(zhí)行官埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克都在這封信上簽了名。聯(lián)合國也曾耗時兩年完成了機器人倫理報告。

事實上，人工智能所面臨的科學(xué)倫理問題不只是機器可能失控而對人類構(gòu)成威脅，隨著它與人類生活的深度重合，隨著機器人與人類的界限變得日益模糊，許多隱藏的倫理問題都會逐漸暴露出來。

比如，人類能不能和機器人談戀愛?如果機器人能夠與人類互通心意，如何防止機器人深入個人生活、威脅人類隱私?多年前，有一道高考作文題叫《假如記憶可以移植》， 如果有一天，與人類身份界限打破了的、具有人類記憶的人工智能能夠進(jìn)行記憶移植，該如何避免倫理的混亂與失控?

一種普遍性共識是，無論技術(shù)如何發(fā)展，機器不能被賦予人的道德地位并且繼承人的尊嚴(yán)。近年來，多國科學(xué)家一直在呼吁，人們需要通過新的管理和監(jiān)管手段，為人工智能、機器人和“自主”系統(tǒng)的設(shè)計、生產(chǎn)、使用和治理，建立一個通用的、國際公認(rèn)的道德和法律框架。同樣，我們也需要在人文價值層面、科學(xué)倫理層面，建立對人工智能發(fā)展的必要審思，學(xué)會讓技術(shù)等一等人類的靈魂。