人工智能商業環境下的消費者信任

前言：想要寫出一篇引人入勝的文章？我們特意為您整理了人工智能商業環境下的消費者信任范文，希望能給你帶來靈感和參考，敬請閱讀。

［摘要］伴隨著人工智能的快速發展，消費者信任成為人工智能商業應用的主要障礙。文章在對國內外關于人工智能消費者信任相關研究文獻梳理的基礎上，分別從消費者信任與人工智能商業應用的關系研究、消費者信任與人工智能風險因素研究、消費者信任與透明化人工智能發展研究三個方面進行了綜述，并對我國人工智能環境下消費者信任研究提出建議。

［關鍵詞］人工智能;消費者信任;風險;透明化

2019年10月23日英國《自然》雜志刊登了谷歌關于實現“量子霸權”的論文，文中說谷歌公司量子計算機200秒的計算量，當前最先進的傳統超級計算機需要花費1萬年時間［1］。與此同時，一批來自谷歌及加拿大高校、研究所的專家正在通過圖神經網絡來“訓練”人工智能的嗅覺，同時研究人員還嘗試讓機械臂獲得觸覺。人工智能的各個方面都在飛速發展，而人工智能基于算法的自主決策系統早已被廣泛應用于數據挖掘、搜索引擎、自然語言處理、生物特征識別、醫學診斷、新聞、教育、就業、保險、投資、廣告、治安和機器人等領域［2］。據2016年美國自由職業者網站TimeETC研究顯示，盡管人工智能為人類生活帶來很多便利，人們與人工智能的互動也變得越來越頻繁，但許多美國人并不信任它們，54%的美國人甚至稱從未與人工智能接觸過［3］。雖然我國“互聯網+”、數字經濟已經處于世界領先地位，但人們對“貼心”推送廣告的擔憂，以及人工智能可能的風險甚至對超人工智能“奇點”來臨的恐懼［4］，使得許多消費者不信任人工智能或者對人工智能保持警惕。因此，如何讓消費者信任人工智能已經成為人工智能商業應用的關鍵核心問題。

1消費者信任及其與人工智能商業應用的關系研究

如果將消費實踐簡化為消費者與商家之間的交換行為，那么消費者信任是交易行為得以成功的前提［5］，只有有了信任人們才可能去實施某一行為［6］。經濟學家認為消費者信任是經濟交換的潤滑劑。傳統現實消費中，消費者信任會通過感官系統等方式對交易雙方真實信息不斷地掌握、驗證、鞏固，但人工智能環境下，原有的消費者信任模式被打破，消費者信任不僅變為基于符號和信息的判斷性交往，更加復雜的是交往對象也由傳統消費單一的交易主客體關系演進為既包含傳統主客體關系又包含消費者與人工智能環境關系的兩種關系，且在消費者信任建立過程中這兩種關系不是獨立的，而是相互關聯影響的。消費實踐中產生的不確定性和風險是消費者信任產生的根本原因，在完善的契約關系中消費者信任是沒有必要存在的，消費者信任可以降低交易過程中的不確定性和風險。在人工智能商業環境下，存在著較高的不確定性和風險，許多的研究發現消費者信任是消費者智能網購意愿的決定因素［7］。由此可知，人工智能商業應用的核心是消費者信任建設，消費者信任是人工智能商業應用發展的當務之急。

2消費者信任與人工智能風險因素研究

2.1消費者感知風險

感知風險概念是由哈佛大學的鮑爾從心理學引入營銷學的，他將感知風險定義為:由消費者的行為產生的、而他自己不能明確預期的后果［8］。感知風險的后果有兩種類型:一種是產品本身性能屬性的不確定性;另一種是購買產品后帶來的時間、貨幣、心理等損失的不利后果。人工智能既是產品又是環境的雙重屬性，使消費者能夠同時感知到兩者。隨著人工智能由弱人工智能走向強人工智能直到超人工智能，以及人工智能不透明的“思考決策”過程，消費者首先感知到人工智能環境可能帶來“被控制”的不利后果;同時人工智能產品可能產生的隱私侵權甚至人身傷害權責混亂風險，也使得消費者同時感知到人工智能產品“不安全”的不確定性。基于感知風險對消費者信任有負向影響作用，［9］因此，消費者會因為人工智能感知風險大而降低對人工智能的信任度。

2.2消費者被控制風險

現代人已經生活在人工智能算法時代，隨著人工智能算法的不斷演進，算法代替人類做決策越來越多，全球經濟政治的運行模式正在發生改變。人工智能算法不僅是一項新技術，它已經是新的生產要素，更可能是新的權力形態，財富和權力可能會逐步集中在“數字精英”手中。Google(谷歌)、Facebook(臉書)、阿里巴巴、百度等科技企業都是短時間積累了千億、萬億資產的科技型企業，它們無一例外的在人工智能領域投入巨額資金并已經擁有了較大的技術領先優勢。目前，消費者被人工智能算法控制的主要體現是隱私被記錄、意識被誘導，即所謂的“懂你的人傷你最深”［10］。如果未來人工智能算法不透明問題沒有完全解決，消費者被控制風險有可能上升到消費者階級被控制，造成前所未有的社會及政治不平等［11］。再往后甚至有可能演變為消費者種群被控制。因此，消費者普遍對被控制風險表現出擔憂甚至恐懼［3］，所以現階段消費者對人工智能的信任度較低。

2.3消費者責任風險

人工智能的快速發展，在商業應用中必然會逐步替代人類勞動。目前，人工智能自動駕駛交通事故、無人機錯判誤殺平民等現象就遇到了權責混亂、無法追究的問題，人工智能“給我們帶來無盡欣喜與期望的同時，也逐漸挑戰著們既有的法律、倫理與秩序”［12］。即使將人工智能的錯誤或不當行為都歸咎到設計師、程序員，然而“程序有可能是由眾多的人共同開發的，程序的產生可能無法追蹤到某個具體的個人或組織”［13］。因此，消費者使用人工智能產品的責任風險較大，使得消費者對人工智能產品的信任度偏低。科研人員發現，人們對人工智能的錯誤很“敏感”［14］，人們會帶著各種“偏見”放大人工智能的風險因素。在消費者的意識里人工智能的各種風險會成倍增長，這種狀態困擾著消費者并始終揮之不去，其結果是許多消費者選擇不信任人工智能或者對人工智能保持警惕。

3消費者信任與透明化人工智能發展研究

人工智能崛起，要么是人類歷史上最好的事，要么是最糟糕的［15］。人類如何“引導”人工智能決定了其未來的發展方向，現有人工智能風險并非它的天然屬性，而是技術發展不確定性因素導致負面效應的體現［16］。理論上來講人工智能的問題都可以通過新的技術發展得到解決，難點在于如何影響技術向某個方向發展。透明化人工智能就是在人工智能消費者不信任的背景驅動下，通過新技術發展讓人工智能全部的“思考、判斷”過程都能被消費者看到、聽到、感覺到，讓消費者對人工智能“知人知面又知心”。

3.1人工智能軟件透明化

人工智能環境以及智能產品都由智能軟件實際管理運作著。人工智能軟件又被稱為“算法黑箱”，這是因為消費者既看不到它的思考邏輯，也看不出它什么時候思考、思考什么內容，只有完全打開“算法黑箱”才能實現人工智能軟件透明。加利福尼亞大學伯克利分校和馬克斯普朗克信息學研究所的研究提出了一種能夠自我解釋的算法，有助于人類理解人工智能的決策過程。人工智能軟件技術發展不僅要能實現100%透明運行，還要能讓消費者自由的參與，比如允許消費者對軟件算法進行適當的修改。

3.2人工智能硬件透明化

人工智能產品硬件透明化更多的是為了配合軟件透明技術進行的硬件選材。比如智能產品硬件可以采用全透明材料制作，內部選裝光、聲、溫度、煙等感應設備，這樣既可以將軟件反饋信息的字符直接顯示在透明機體上，又可以將軟件運算狀態、反饋信息通過光、溫度、聲音等方法直接、準確地“表達”出來。同時，透明的智能產品材質可以使消費者直觀的看到系統“思考區域”，有效地避免了人工智能產品去中心化衍生的責任安全問題。百度創始人李彥宏說，“‘悶頭憋軟件’的移動互聯網時代已經結束，軟硬件結合的人工智能時代已經來臨”［17］。透明化人工智能通過強大開放的軟件和先進透亮的硬件的結合，真正實現了人工智能既擁有超強能力又獲得消費者信任的設計目標。

4總結

目前國內外對人工智能的研究主要集中在技術研究、倫理建設等角度，從消費者視角探析人工智能商業應用中消費者信任問題的研究比較少。本文從消費者信任與人工智能商業應用的關系入手，重點分析了消費者視角下人工智能的風險因素以及透明化人工智能發展的必要性。雖然影響人工智能發展方向的因素有很多，但是上述研究論述無疑證明了透明化人工智能發展對消費者信任以及對人工智能商業應用的重大意義。我國人工智能的研究幾乎與世界同步，但人工智能商業應用卻走在了世界的前列，在智能支付、智能共享等經濟領域，科技創新結合巨量市場已經打造出了世界第一的人工智能市場經濟。筆者在國內外已有研究基礎上，結合我國人工智能發展現狀來研究人工智能環境下消費者信任情況，構建中國基于消費者信任的人工智能發展理論，這對正確引導我國國民和企業制訂科學合理的發展計劃具有重要的理論意義和現實意義。

作者：李丹丹 單位：桂林理工大學