不公平算法應(yīng)用具隱蔽性消費者面臨維權(quán)舉證難題

算法應(yīng)用不公該如何規(guī)制

● 網(wǎng)絡(luò)游戲抽獎概率不明、網(wǎng)絡(luò)消費促銷規(guī)則繁復(fù)、網(wǎng)絡(luò)搜索競價排名推薦、刷好評隱差評使評價結(jié)果呈現(xiàn)失真,、平臺采用算法限制交易等侵害消費者權(quán)益的行為屢禁不絕、備受詬病

● 一些常見的網(wǎng)絡(luò)消費領(lǐng)域不公平算法應(yīng)用具有技術(shù)性和隱蔽性,，潛移默化地影響著消費者的購買決策,，消費者很難通過個體力量與之抗衡

● 應(yīng)加強算法應(yīng)用的有效規(guī)制，一方面加強機構(gòu)設(shè)立和立法規(guī)制,；另一方面加強監(jiān)管協(xié)作和機制建設(shè)

隨著平臺經(jīng)濟快速發(fā)展,，網(wǎng)絡(luò)購物、交通出行,、旅游住宿,、訂餐外賣、網(wǎng)絡(luò)游戲等網(wǎng)絡(luò)平臺逐步興起,，這些網(wǎng)絡(luò)平臺通過大數(shù)據(jù),、人工智能等手段為消費者提供了更豐富的產(chǎn)品或服務(wù)，與此同時,，一些侵害消費者權(quán)益的行為如影隨形,。

大數(shù)據(jù)“殺熟”，也只是冰山一角,。近幾年,，網(wǎng)絡(luò)游戲抽獎概率不明、網(wǎng)絡(luò)消費促銷規(guī)則繁復(fù),、網(wǎng)絡(luò)搜索競價排名推薦,、網(wǎng)絡(luò)直播推送違反法律規(guī)定和公序良俗、刷好評隱差評使評價結(jié)果呈現(xiàn)失真,、平臺采用算法限制交易等侵害消費者權(quán)益的行為屢禁不絕,、備受詬病。

“這些問題的背后,，核心是互聯(lián)網(wǎng)平臺對算法技術(shù)的應(yīng)用,。”中國消費者協(xié)會近日召開網(wǎng)絡(luò)消費領(lǐng)域算法規(guī)制與消費者保護座談會,，中國消費者協(xié)會秘書長朱劍橋坦言,，技術(shù)進步和應(yīng)用總體上有利于增進人類福利，同時也會造成新的困擾和傷害,。在網(wǎng)絡(luò)消費領(lǐng)域,，可能會減少消費者選擇的時間成本，但是也會讓消費者面臨信息安全,、歧視對待等消費風(fēng)險,。

“流量至上”“利潤至上”的算法應(yīng)用，可能會使經(jīng)營者行為有悖法律,、有失道德,、有違倫理?！熬W(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)嚴(yán)格遵守法律規(guī)定,，誠信應(yīng)用算法，反對利用技術(shù)手段,，欺騙,、隱瞞真實情況，欺凌消費者,?！敝邢麉f(xié)呼吁，在算法應(yīng)用中,，網(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)加強自律,，守法經(jīng)營,，承擔(dān)應(yīng)盡義務(wù)和責(zé)任，同時,，各行業(yè)組織應(yīng)加強引領(lǐng)和督導(dǎo),，使網(wǎng)絡(luò)經(jīng)營者合理合規(guī)地應(yīng)用算法,，凈化行業(yè)風(fēng)氣,，促進良性發(fā)展，有效維護消費者合法權(quán)益,。

此外,，應(yīng)加強算法應(yīng)用的有效規(guī)制。中消協(xié)建議,，有關(guān)行政部門加強相互協(xié)調(diào),，細化監(jiān)管職責(zé)；完善執(zhí)法依據(jù),，做好規(guī)章廢改銜接,；加強對算法應(yīng)用的分級標(biāo)識和分類管理，對涉及公共利益,、生命健康,、財產(chǎn)權(quán)利等的算法應(yīng)用強化監(jiān)管，對具有市場支配地位的平臺經(jīng)營者的算法應(yīng)用強化監(jiān)管,，對涉及價值觀,、道德觀特別是未成年人教育的算法應(yīng)用強化監(jiān)管。

大數(shù)據(jù)殺熟維權(quán)難

集體救濟機制待建

2019年3月,，北京市消協(xié)發(fā)布的《大數(shù)據(jù)“殺熟”問題調(diào)查報告》(以下簡稱《報告》)顯示,，88.32%的被調(diào)查者認為大數(shù)據(jù)“殺熟”現(xiàn)象普遍或很普遍，沒有被調(diào)查者認為大數(shù)據(jù)“殺熟”現(xiàn)象不存在,。有56.92%的被調(diào)查者表示有過被大數(shù)據(jù)“殺熟”的經(jīng)歷,。

其中，被調(diào)查者在購物類,、在線旅游類和打車類App或網(wǎng)站經(jīng)歷大數(shù)據(jù)“殺熟”最為常見,，其他依次為外賣類、視頻類和電影類App或網(wǎng)站,。其中,，經(jīng)歷過前三類App或網(wǎng)站大數(shù)據(jù)“殺熟”的被調(diào)查者分別達到44.14%、39.5%和37.17%,。

北京市消協(xié)副秘書長陳鳳翔指出,，表面上是通過數(shù)據(jù)，針對消費者推送服務(wù),，但從深層次看,，大數(shù)據(jù)“殺熟”的本質(zhì)是部分經(jīng)營者對消費者個人信息過度采集和隨意使用,，使消費者的知情權(quán)、選擇權(quán),、公平交易權(quán)以及個人信息保護權(quán)利未得到充分尊重和保證,。

短期來看，大數(shù)據(jù)“殺熟”或許能給企業(yè)賺取更多利潤,，但從長遠來看卻透支消費者對品牌的信任,。專家認為,，大數(shù)據(jù)“殺熟”背離最基本商業(yè)倫理和企業(yè)價值,，違背誠信經(jīng)營原則。

究其原因,，陳鳳翔分析說,，一方面是算法本質(zhì)是互聯(lián)網(wǎng)的一個編程技術(shù)，這種編程技術(shù)由人為參與和輸入,，有的編程者并不懂得法律,，編制過程中會觸及消費者的底線，或者侵害消費者權(quán)利,。

另一方面,，技術(shù)演算出來造成消費者的傷害。這種傷害可能是初期算法的歧視,，或者算法在計算機背后所產(chǎn)生的副作用,。

《報告》顯示，遭遇大數(shù)據(jù)“殺熟”后,，26.72%的被調(diào)查者選擇向消協(xié)或市場監(jiān)管部門投訴,，25.56%的被調(diào)查者選擇不再去這個商家消費，17.43%的被調(diào)查者選擇忍氣吞聲,、自認倒霉,，11.71%的被調(diào)查者選擇與商家理論并要求賠償，10.46%的被調(diào)查者選擇卸載商家App或刪除網(wǎng)址,，8.13%的被調(diào)查者選擇在社交網(wǎng)站或向媒體曝光,。

大數(shù)據(jù)“殺熟”具有隱蔽性，維權(quán)往往難以舉證,。陳鳳翔建議,，通過公益訴訟方式，推動社會各界協(xié)同共治,。

中國政法大學(xué)副校長時建中同樣認為,，大數(shù)據(jù)“殺熟”是商家濫用數(shù)據(jù)優(yōu)勢的一種典型行為。商家是數(shù)據(jù)絕對優(yōu)勢占有者,，濫用數(shù)據(jù)絕對優(yōu)勢,，損害消費者利益的行為并不鮮見,。大數(shù)據(jù)一旦“殺熟”，針對的是該種消費模式的所有消費者,，而非具體消費者,。

解決大數(shù)據(jù)“殺熟”需要建立集體救濟機制。時建中坦言,，對于個體消費者而言,，不一定能夠發(fā)現(xiàn)“殺熟”，而且發(fā)現(xiàn)之后不一定能夠保存證據(jù),，即便保存之后也不一定會尋求救濟,，因為救濟成本太高。

大數(shù)據(jù)“殺熟”是價格歧視的一種,。中消協(xié)披露,，有些經(jīng)營者利用算法進行的價格歧視還包括對不同地區(qū)的消費者制定不同價格；多次瀏覽頁面的用戶面臨價格上漲,；利用繁復(fù)促銷規(guī)則和算法,，實行價格混淆設(shè)置，吸引計算真實價格困難的消費者,。

不公平算法很隱蔽

消費者容易被壓榨

算法本身是一種技術(shù)手段,，經(jīng)營者可以利用算法提升經(jīng)營效率，為消費者提供更豐富,、更優(yōu)良的產(chǎn)品和服務(wù),。

“算法從技術(shù)角度來說，的確對于互聯(lián)網(wǎng)經(jīng)濟的發(fā)展有很大的貢獻,?！睂ν饨?jīng)貿(mào)大學(xué)法學(xué)院教授蘇號朋認為，要客觀認識到的是,，算法對于商家來說,，是一種重要的營銷或者銷售工具；對消費者來說,，亦不能否認算法,，尤其是推薦算法給消費者帶來的便利。

在蘇號朋看來,，算法的正面意義在于,，一是降低復(fù)雜定價成本；二是降低頻繁改價的成本,；三是顯著提高定價決策的質(zhì)量,。

當(dāng)然，商家也可以利用算法鉆法律的漏洞,，實施違法違規(guī)行為,，侵害消費者的合法權(quán)益,。由于商家存在對算法權(quán)利的壟斷，如果這種算法壟斷被濫用,，消費者基本無能為力,，因為無論是取證本身，還是舉證,，以及證據(jù)被相關(guān)執(zhí)法機構(gòu)采納的可能性,，目前都存在巨大難度。

“商家借助算法這種技術(shù)手段,，擴大了商家和消費者之間的技術(shù)鴻溝,。”蘇號朋坦言,，不公平的算法對消費者所造成的侵害,，不僅損害消費者的公平交易權(quán),，而且侵害了自主選擇權(quán)和知情權(quán),。

中消協(xié)此前根據(jù)消費者投訴、有關(guān)調(diào)查和相關(guān)報道,，梳理出網(wǎng)絡(luò)領(lǐng)域涉及消費者權(quán)益的算法應(yīng)用問題包括推薦算法,、評價算法、排名算法等不公問題,。

比如,，通過監(jiān)測分析消費者的消費行蹤軌跡，如瀏覽過的頁面,、廣告,、商品服務(wù)、話題等,，有針對性地對消費者進行商業(yè)營銷,。朱劍橋坦言，這類推薦算法利用消費者的數(shù)據(jù)畫像,，實施所謂的精準(zhǔn)推送,。許多消費者誤以為自己看到的與旁人無異，導(dǎo)致知情,、選擇不足,。有些經(jīng)營者通過算法應(yīng)用推送的商品、服務(wù)內(nèi)容,，甚至違背法律和公序良俗,。

還有部分平臺及平臺內(nèi)經(jīng)營者為獲得好評，運用刷單等方式,，編造虛假高分評價,，或者隱匿中評,、差評，使真實評價無法顯現(xiàn),?！疤摷僭u價、評價失實呈現(xiàn),，不僅破壞經(jīng)營者之間的公平競爭,，也對消費者購買決策產(chǎn)生誤導(dǎo)?！敝靹蛘J為,。

此外，平臺經(jīng)營者制定各類排名榜,，聲稱基于消費者好評率,、銷量等，對各行業(yè)或商品服務(wù)類別進行排序,，引導(dǎo)消費者選擇,，但具體如何計算得出的難以知曉。

一些線上經(jīng)營者開展有獎銷售,、抽獎兌換,，特別是部分網(wǎng)絡(luò)游戲公司經(jīng)常推送游戲道具抽獎活動，雖然公示中獎(掉落)概率,，但是其算法程序不透明,，實際中獎概率缺乏管控，屢遭消費者詬??；還有一些平臺利用所處優(yōu)勢地位通過算法在流量分配、搜索排名等方面設(shè)置障礙和限制,，控制平臺內(nèi)經(jīng)營者開展交易,，影響公平競爭和消費者選擇。

“一些常見的網(wǎng)絡(luò)消費領(lǐng)域不公平算法應(yīng)用,，具有技術(shù)性和隱蔽性,，潛移默化地影響著消費者的購買決策，消費者很難通過個體力量與之抗衡,?！敝靹蛑赋觯绻纹錈o序發(fā)展,，一方面不利于市場經(jīng)濟的公平有序競爭,，不利于經(jīng)濟可持續(xù)發(fā)展；另一方面也會使消費者面臨數(shù)據(jù)算法壓榨，成為技術(shù)欺凌的對象,，甚至被算法扭曲價值取向和道德觀念,，淪為平臺經(jīng)營者的掌中“玩物”。

不斷加強監(jiān)管協(xié)作

有效規(guī)制算法應(yīng)用

中消協(xié)認為,，互聯(lián)網(wǎng)條件下,，由于信息占有、技術(shù)應(yīng)用等原因,，網(wǎng)絡(luò)經(jīng)營者處于更為強勢的地位,。在算法應(yīng)用中，網(wǎng)絡(luò)經(jīng)營者應(yīng)當(dāng)加強自律,，守法經(jīng)營,，承擔(dān)應(yīng)盡義務(wù)和責(zé)任，維護消費者的合法權(quán)益,。

時建中認為,，算法公平監(jiān)管或者公平治理，必須要解決誠信,、透明和公平問題,。此外，除對應(yīng)用算法的企業(yè)所實施行為進行道德評價,、法治評價外,，強化企業(yè)社會責(zé)任的評價也是一個重要路徑,。

清華大學(xué)法學(xué)院副院長程嘯指出,，算法問題可以通過技術(shù)解決。比如,，鼓勵針對市場有壟斷地位企業(yè)的算法采取反制措施的算法研究,，用算法針對算法，讓算法之間形成競爭關(guān)系,，從而重塑市場競爭機制,。

中消協(xié)建議，加強算法應(yīng)用的有效規(guī)制,，并呼吁社會各界通過力所能及的方式,，共同做好社會監(jiān)督，促進算法應(yīng)用的公平,、合理,，防止經(jīng)營者利用算法作惡。一方面,，加強機構(gòu)設(shè)立和立法規(guī)制,。在個人信息保護法、反壟斷法、反不正當(dāng)競爭法,、價格法等相關(guān)法律中,，增加算法應(yīng)用的相關(guān)規(guī)定。

一是國家設(shè)立算法倫理專門機構(gòu),，負責(zé)算法應(yīng)用倫理,、規(guī)則、標(biāo)準(zhǔn)制定,，不公平算法應(yīng)用調(diào)查,、處理等，并指定相關(guān)政府部門負責(zé),，加強對算法應(yīng)用的有效監(jiān)管,。

二是明確算法應(yīng)用結(jié)果一致性要求。規(guī)定算法搜索結(jié)果應(yīng)同時呈現(xiàn)公共選項,，即所有用戶運用同樣的搜索方式,，應(yīng)可得到相同的結(jié)果。且相關(guān)結(jié)果應(yīng)作為優(yōu)先選項推送,，保障消費者有效便捷獲取,。

三是保障算法應(yīng)用的透明、公平,、誠信,。明確經(jīng)營者使用算法應(yīng)做到可知、可查,、可逆,。發(fā)生爭議，負有向有關(guān)行政部門,、司法機關(guān),、第三方機構(gòu)提供算法、后臺數(shù)據(jù),、相關(guān)資料及進行說明的義務(wù),。做到算法應(yīng)用的可驗證、可解釋,、可追責(zé),。

四是明確舉證責(zé)任倒置規(guī)定，強化算法實施方的舉證責(zé)任,，明確其偽造,、篡改證據(jù)的責(zé)任和后果，解決消費者舉證難,、鑒定難的問題,。

另一方面,，加強監(jiān)管協(xié)作和機制建設(shè)。朱劍橋說,，互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用十分廣泛,，建議有關(guān)行政部門加強相互協(xié)調(diào)，細化監(jiān)管職責(zé),；完善執(zhí)法依據(jù),，做好規(guī)章廢改銜接；加強對算法應(yīng)用的分級標(biāo)識和分類管理,，對涉及公共利益,、生命健康、財產(chǎn)權(quán)利等的算法應(yīng)用強化監(jiān)管,，對具有市場支配地位的平臺經(jīng)營者的算法應(yīng)用強化監(jiān)管,，對涉及價值觀、道德觀特別是未成年人教育的算法應(yīng)用強化監(jiān)管,。

朱劍橋指出,，要加強對算法的事前、事中,、事后監(jiān)管,，通過對算法應(yīng)用進行必要的目的審核、法律審核,、道德審核,，以及建立黑名單制度等措施進行有效管理；建立算法投訴審評機制,，保障消費者和社會各界的投訴,、監(jiān)督權(quán)；培育第三方技術(shù)鑒定機構(gòu),，強化對算法應(yīng)用的技術(shù)審核力量,；保障互聯(lián)網(wǎng)經(jīng)濟持續(xù)健康發(fā)展，有力維護消費者合法權(quán)益,。

與此同時，朱劍橋建議,，有關(guān)司法機關(guān)加強對算法應(yīng)用案件的分析研究,，推動出臺有關(guān)司法解釋，充分發(fā)揮司法機關(guān)的審判和監(jiān)督作用,，強化經(jīng)營者舉證責(zé)任,，加強對算法應(yīng)用問題的實質(zhì)審查，通過司法判例弘揚公平正義,，強化對消費者權(quán)益的保護,。

（編輯：鑫果）