近日，第十一屆中國（蕪湖）科普產品博覽交易會在安徽省蕪湖市舉行。據了解，本屆科博會95%以上展品可觸摸、可互動。圖為市民在該博覽交易會上體驗虛擬現實技術。新華社
本報記者 | 張守營
人機協同的流行使越來越多的學者開始關注人在AI協助下會產生怎樣的行為和決策變化。北京大學市場營銷學系副教授張穎婕特別關注以人機協同和共同進化為視角的智能策略設計和評估。她的研究發現，人機協同在提高系統性能和效率方面有巨大潛力，但在人機協同過程中也需要充分考慮人的因素和作用。
人與AI共存和合作的可能性和必要性在不斷增強
在AI技術相對成熟的現階段，張穎婕提出了問題：人在AI時代還能發揮多大的作用？人能否挖掘出AI未能觸及或未能實現的價值？她以AI的發展為切入點思考人應如何發揮主觀能動性，并由此引出了她關于人機協作的研究主題和人類如何實現自身價值的問題。
關于人在人機協作中的行為特點，近年來的研究也做了不少嘗試和探索。一方面是AI-Aversion現象，即人由于缺乏信任、依賴個人經驗和直覺，擔心低層次工作被取代等原因，對AI存在一定程度的抵制；另一方面是Cyborg Effect現象，這是前者的極端反面，即在AI給出決策建議后，人的主動性下降，更依賴AI而不愿意主動決策。在張穎婕看來，隨著AI的“類人”性和算法能力的不斷提升，再加上AI在商業領域的不斷發展壯大，人與AI共存和合作的可能性和必要性也在不斷增強。換句話說，人很難避免與AI接觸。
先前的研究表明，消費者不太喜歡機器人客服，因為機器人客服不夠聰明，無法與消費者共情。然而，隨著人工智能技術的不斷發展，如Chat-GPT等智能AI的出現，這些問題正在逐漸解決�，F在的AI產品已經進化到與人相似的程度，消費者可能會慢慢接受這些產品。
因此，張穎婕認為先前的研究結論可能不再適用，她想探索的是在新的技術背景下，消費者對于AI產品的態度和接受度。
當AI成熟了，當世界上AI已經很普遍了，作為消費者的自己，會怎么樣面對？在張穎婕看來，機器學習是一個向上走的趨勢，會越來越智能，這是毋庸置疑的。作為消費者或者作為人這個群體來說，對人工智能的態度，已經或者即將不能用“AI不夠聰明”來作為抵制AI產品的理由了。
“但不知道人們的態度會不會是一個曲線，就是當機器進化到一定程度的時候，人們會先欣然接受并享受AI制造，但是當AI進一步進化之后，消費者或用戶的態度又會如何則是難以預測的。我們需要持續跟進并及時作出預測�！睆埛f婕說。
張穎婕表示，在不同領域，人與AI之間的合作和決策過程可能因情境而異，需要考慮不同的因素。在金融領域進行的研究可能得出的結論與其他領域不同，因為不同行業的工作特點和需求不同。
在某些情況下，人工審核決策可能沒有任何作用，而人工智能能夠以更高的準確率來做出決策。在另外的場景中，人類仍然具有價值，需要通過刺激來發揮他們的作用，這可能涉及提供大量數據、解釋人工智能的決策以及使用激勵方法。
AI的賦能離不開有效的人機協同
在張穎婕看來，AI賦能生產力是現階段AI持續進化帶來的一大益處，甚至是最大益處。但AI的賦能同樣離不開有效的人機協同。機器與人如果能發揮協同作用，決策的整體效果會更好。
張穎婕選取亞洲的小額貸款公司為研究對象，對比了人工和AI在批準借款人違約率方面的決策差異。實驗結果顯示：在AI與人無合作（分別獨自決策）的情況下，AI決策比人工決策結果違約率更低，給AI提供大數據能夠顯著降低違約率（但數據量對人工決策結果違約率無顯著影響）；在給人工提供AI決策建議且這一建議與人工決策結論產生分歧時，有60%~80%的人會選擇接受AI的決策建議改變自己的決策（當提供AI決策依據時這一比例會更高）。
結果揭示了幾個關鍵的發現。首先，當人工和AI各自獨立作決策時，AI的判斷準確率明顯超過人工，特別是當數據量大的情況下，人在決策時明顯存在信息過載等問題。其次，在小數據情況下，人的參與并不能顯著提升合作效率。并且，在大數據環境下，人類只有在被告知AI決策邏輯的前提下，才能對違約率判斷產生積極的價值。
換言之，如果信息復雜度（即大數據環境）和AI決策邏輯信息二者不能同時滿足時，人類信審員在AI的輔助下要么全盤聽從，要么錯誤地堅持己見，從而使得合作效率與AI獨自決策時相差無幾；但兩個條件的同時滿足卻能及時激發人工展現其獨立思考和糾錯能力，這恰恰體現了人類在人機協同場景下的獨特價值。
“在大數據背景下，人工難以有效運用如購買記錄等大數據信息，并將其與自身決策融合，盡管仍依賴傳統數據，人工的判斷能力并未顯著提升�！睆埛f婕說。
相比之下，AI在處理大數據信息上，顯示出更強的提取、轉化和運用能力，從而得出更精準的判斷。另外，當面對中間情況且處于糾結狀態時，人工更傾向于依賴AI的決策，但當申請人的情況較為極端時，人工通常會依賴自己的判斷而非接受AI的建議。
算法面前人的情感不可忽視
張穎婕的研究，揭示了人機協同在提升系統性能和效率方面的巨大潛力。在互聯網金融借貸的實驗中，人機協作行為使得整個系統的預測正確率提升了一倍，系統違約率從原先的6%降低到3.8%。這項研究表明，人機協同可以提高系統的性能和效率，同時也需要充分考慮人的因素和作用。
研究發現，在引入機器學習算法進行先期預測推薦后，人工審核員在大部分情況下會傾向于聽從算法的意見。然而，當提供了用戶大數據以及算法的具體機制解釋之后，人們會在看到算法建議之后，自發地進行一個重思考的過程，不再一味地認為AI是好的，而是對AI進行有效修正。
值得關注的是，人的情感也應當是人機協同中被考量的重要因素，這涉及AI向善和倫理問題。在外賣騎手的例子中，騎手有時候并不會遵從算法規劃的路線。這可能由于算法決策沒有考慮到騎手的情況，例如騎手位置、疲勞程度、實際路況等，亦或是騎手的過往經驗讓他們做出背離算法的決策。
“機器只能給你建議，最后還得是人來完成。”張穎婕表示，算法其實是非常厲害的，如果騎手能夠按照算法推薦的路線，他的收益一定是最高的。但事實卻是，百分之七八十的騎手，都不會完全遵從算法的推薦。
在張穎婕看來，這些問題不是人工智能本身造成的，而是使用者和管理者存在的問題，如平臺方和企業。人機協同固然可以提高系統的性能和效率，但也需要充分考慮人的因素和作用。在設計和應用AI技術時，需要考慮到人的需求和利益，以確保AI技術能夠真正為人類服務。
那么人與AI，什么時候能達到最優的調和效果呢？
一種新的算法策略出現了：算法會去預測人會不會違約，會不會不遵守算法，而把人的情感考慮到算法的模型里邊。在設計者看來，這種策略按算法來說可能不是最優的，但一定是算法加人最優。
“如果在特定的場景下，只能依靠人來做最后決策的話，你就要考慮全局，把人的情感也考慮進去�！睆埛f婕說。
|
