隨著(zhù)技術(shù)的加速發(fā)展，人工智能（AI）在決策過(guò)程中發(fā)揮著(zhù)越來(lái)越重要的作用。人類(lèi)越來(lái)越依賴(lài)算法來(lái)處理信息、推薦某些行為，甚至代表他們采取行動(dòng)。

但是，如果真的讓 AI 幫助、甚至代替我們來(lái)做決策，尤其是涉及主觀(guān)的、道德倫理相關(guān)的決策，你能接受嗎？

近日，一個(gè)來(lái)自廣島大學(xué)的研究小組探究了人類(lèi)對引入人工智能決策的反應。具體來(lái)說(shuō)，他們通過(guò)研究人類(lèi)與自動(dòng)駕駛汽車(chē)的互動(dòng)，探討了一個(gè)問(wèn)題：“社會(huì )準備好接受人工智能道德決策了嗎？”

該團隊于2022年5月6日在 Journal of Behavioral and Experimental Economics 上發(fā)表了他們的發(fā)現。

在第一個(gè)實(shí)驗中，研究人員向529名人類(lèi)受試者展示了駕駛員可能面臨的道德困境。在研究人員創(chuàng )建的場(chǎng)景中，汽車(chē)駕駛員必須決定是將汽車(chē)撞向一群人還是另一群人，而且碰撞是不可避免的。也就是說(shuō)，事故將對一組人造成嚴重傷害，但會(huì )挽救另一組人的生命。

實(shí)驗中的人類(lèi)受試者必須對汽車(chē)駕駛員的決定進(jìn)行評分，駕駛員有可能是人類(lèi)，也有可能是人工智能。以此，研究人員旨在衡量人們可能對人工智能道德決策產(chǎn)生的偏見(jiàn)。

（來(lái)源：廣島大學(xué)）

在他們的第二個(gè)實(shí)驗中，563名人類(lèi)受試者回答了研究人員提出的一些相關(guān)問(wèn)題，以確定人們對AI在成為社會(huì )的一部分后，對人工智能倫理決策有何反應。

在這個(gè)實(shí)驗中，有兩種情況。其中一個(gè)涉及一個(gè)假設的政府，該政府已經(jīng)決定允許自動(dòng)駕駛汽車(chē)做出道德決定；另一個(gè)場(chǎng)景允許受試者“投票”是否允許自動(dòng)駕駛汽車(chē)做出道德決定。在這兩種情況下，受試者都可以選擇支持或反對技術(shù)做出的決定。

第二個(gè)實(shí)驗旨在測試將人工智能引入社會(huì )的兩種替代方式的效果。

研究人員觀(guān)察到，當受試者被要求評估人類(lèi)或人工智能駕駛員的道德決定時(shí)，他們對兩者都沒(méi)有明確的偏好。然而，當受試者被問(wèn)及是否應該允許人工智能在道路上做出道德決定的明確意見(jiàn)時(shí)，受試者對人工智能駕駛的汽車(chē)有更強烈的意見(jiàn)。

（來(lái)源：jonesday）

研究人員認為，這兩個(gè)結果之間的差異是由兩種因素共同造成的。

第一個(gè)要素是，很多人認為整個(gè)社會(huì )不希望人工智能做與倫理道德相關(guān)的決策，因此當被問(wèn)及對此事的看法時(shí)，他們會(huì )被自己的觀(guān)念所影響。

“事實(shí)上，當參與者被明確要求將他們的答案與社會(huì )的答案區分開(kāi)來(lái)時(shí)，人工智能和人類(lèi)司機之間的差異就會(huì )消失�！睆V島大學(xué)人文社會(huì )科學(xué)研究生院助理教授 Johann Caro-Burnett 說(shuō)。

第二個(gè)要素是，在將這項新技術(shù)引入社會(huì )時(shí)，是否允許討論該相關(guān)話(huà)題的結果，因國家而異�！霸谌藗冃湃握�府并擁有強大政府機構的地區，信息和決策權有助于受試者評估人工智能道德決策的方式。相比之下，在人們不信任政府且制度薄弱的地區，決策能力惡化了受試者評估人工智能道德決策的方式�！盋aro-Burnett 說(shuō)。

“我們發(fā)現，社會(huì )對 AI 道德決策存在恐懼。然而，這種恐懼的根源并不是個(gè)人所固有的。事實(shí)上，這種對人工智能的拒絕來(lái)自個(gè)人認為是社會(huì )的看法�！睆V島大學(xué)人文社會(huì )科學(xué)研究生院教授 Shinji Kaneko 說(shuō)。

圖 | 平均而言，人們對 AI 駕駛員的道德決策的評價(jià)與人類(lèi)駕駛員的評價(jià)沒(méi)有區別。但是，人們并不想讓人工智能在路上做出道德決定（來(lái)源：廣島大學(xué)）

因此，當沒(méi)有被明確詢(xún)問(wèn)時(shí)，人們不會(huì )表現出任何對人工智能道德決策有偏見(jiàn)的跡象。然而，當被明確詢(xún)問(wèn)時(shí)，人們表現出對人工智能的厭惡。此外，在增加了關(guān)于該主題的討論和信息的情況下，人工智能的接受度在發(fā)達國家有所提高，而在發(fā)展中國家則惡化。

研究人員認為，這種對新技術(shù)的拒絕，主要是由于個(gè)人對社會(huì )意見(jiàn)的信念，很可能適用于其他機器和機器人�！耙虼�，重要的是要確定個(gè)人偏好如何匯總為一種社會(huì )偏好。此外，正如我們的結果所表明的那樣，這類(lèi)結論在各國之間也必須有所不同。