未來人工智慧 將進行不公平的區別定價 ?

作者:朱若淼 崔綺雯   |   2017 / 06 / 30

文章來源:好奇心日報   |   圖片來源:Mok


舊金山,6 月 1 日早上 9 點,30 多人圍坐在舊金山一間屋子裡等待科技媒體 GigaOM 的活動“人工智慧工坊 (AI Workshop) ”開場。

只看環境,這是一個典型的矽谷活動。場地租自 Breather,一個類似 Airbnb 但出租裝修洋氣辦公空間的服務。做開場演講的未來學家 Byron Reese 穿著休閒襯衫和牛仔褲,背後是一個巨大的 PPT 投影畫面。Reese 在兩年前收購了在商用技術報導上頗有聲望但陷入資金問題的媒體 GigaOM。

“我們在座的各位,都可能在有生之年目睹人工智慧在各產業實現這些:人類永生,飢餓危機的終結,食物價格的大幅下降,貧窮的終結,想想看這些問題都有可能被解決。在 120 年後,地球的生產力會比現在快 1000 倍。”

一個半小時裡,Reese 對觀眾們描繪了一個人工智慧改變一切的未來。末了,他套用網景創始人、著名投資人馬克·安德爾森的話說,“2011 年,馬克·安德爾森說‘軟體正在吞噬整個世界’,他說對了。而現在,是人工智慧正在吞噬整個世界。”

聽眾們激動地鼓起了掌。這些觀眾大多西裝革履,沒人穿矽谷工程師最愛的 T 恤和帽 T 。他們幾乎都是中年男性,除了的記者外,只有一位女性在座。好幾位都不在本地工作,牆邊放著行李箱。

就像 Byron Reese 口中說的一樣,聽眾來自各行各業 — 地產、法律、機械製造。他們不是技術專家,多為大中型企業的管理者。他們都花了 995 美元,以及一天工作日時間參加這場人工智慧入門級培訓會。

這場培訓正是為他們準備的。培訓師 Christopher Mohritz 接過了麥克風,開始了長達 4 個小時的演講,介紹人工智慧目前到底可以做到什麼。他拿出愛迪生晶片和一個小小的電燈泡,展示就在現場如何搭建一個語音控制燈泡的系統。

Mohritz 的演講就像是一節系統的人工智慧入門課:人工智慧概念是什麼,它和數據分析之間的關係是什麼,現在人工智慧的趨勢是什麼。

會場是可以隨意打斷提問的,當 Mohritz 介紹到具體怎麼選擇人工智慧,聽眾的提問漸漸多了起來。

“我是做房地產的,你們更推薦哪一些人工智慧平台?我們有一些數據是不能存雲端的。”

“我應該多僱一個數據科學家團隊嗎?”

很明顯,無論是現場的培訓師還是與會者,最關注的是企業可以怎麼使用人工智慧來加速業務。就像 Mohritz 演講中穿插著的佈道,“人工智慧加速你的軟體,你的軟體加速你的生意。”

這只是他們今年的第一場,之後,他們還打算巡迴美國,讓更多企業主知道怎麼參與到人工智慧的大潮中去,光是 6 月份就安排了 3 場工作坊。“人工智慧這艘船要開了,你要不要登船?”

科技公司的船已經開出去一段,現在更大的船也出發了。但船的航行方向並不一定是你想看到的。

人工智慧決定你的數位生活已經有一段時間了

對於一家網路公司來說,人工智慧已經無處不在了,它們之間只有應用程度深淺的差異。

“我們實際是在跟人們的睡眠競爭。不是 Hulu 也不是亞馬遜。”出過《紙牌屋 (House of Cards)》、《夜魔俠 (Daredevil) 》的 Netflix  CEO Hastings 今年 4 月在財報會上談起競爭時這麼說著。

說到底,跟你的睡眠競爭的背後其實就是給你推薦內容的演算法。

這家市值達 660 億美元的全球最大影音網站,目前比百度還值錢。但 Netflix 並不滿足於目前所佔有的用戶時間。它甚至希望人們可以熬夜觀看網站上的節目。

為了把更多用戶留在平台上,Netflix 會充分利用你的各種數據,比如你看過什麼、搜過什麼、觀看時間及設備等。最後它們會被用來訓練演算法,讓演算法能推薦最容易被你點擊觀看的影音。

Netflix 的產品設計師 Gomez-Uribe 曾解釋這套演算法時這麼說過,“排序非常重要 ,第一個被推薦的影音最容易被點擊播放。”

20170620032204yOXDb9Rmi12KTYlE.jpg-w600(Netflix)

即使是你不用 Netflix 的服務,這樣的邏輯你也不會陌生。

比如今日頭條。

跟 Netflix 一樣,它的新聞也是演算法推薦的。今日頭條根據用戶的歷史興趣閲讀數據及地理位置訊息等數據為用戶推薦新聞。一篇文章如果在被推薦的用戶中閲讀人數更高,它被推薦給同類型用戶的機率也會更高。

這些演算法推薦的方法看起來不複雜,但隨著這些服務的發展,服務的提供商們能獲得越來越多的數據,而演算法也不再需要由人來手工編寫。基於服務過程中累積的用戶數據,它可以利用機器學習來完善原來的演算法。

亞馬遜利用演算法對平台上的商品進行動態調價,結果就是你在亞馬遜上搜索同類產品的價格永遠會比對手便宜幾毛錢;如果你哪兒都不去,只要你在淘寶上有瀏覽、消費記錄,這些數據也會被阿里巴巴收集起來,最後用來在你的微博、門戶網站頁面上投放廣告。

透過網路,你獲得了各種各樣的服務。最後這些服務累積的數據讓公司更加瞭解你是誰。

但就像 Netflix 要爭奪你的睡眠時間一樣,當科技公司在人工智慧的幫助下向你推薦內容的時候,優先考慮的是怎麼多留住你幾分鐘,讓你多播一段影音、多看一個段子、或者多讀一篇雞湯。

用 Google 的前產品設計師 Tristan Harris 的話說“歷史上從沒有這樣一個時候,這麼十幾個公司裡的十幾個人,可以決定數十億人想什麼。”

Harris 說的這話並非頌歌。今年 2 月接受 Recode 採訪時,他舉例說 Google Inbox 郵箱的產品設計討論會上,正討論到是否需要給新收到的郵件添加提醒推送時,大部分在場的工程師和設計師想都沒想就說“當然要,為什麼不呢?”

大部分產品設計者們追求的還是與產品活躍度相關的一切指標,比如用戶活躍度、停留時間。這就不難解釋,為什麼 Harris 的同事們在看待郵箱提醒這件問題上為什麼意見如此一致了。但 Harris 覺得這個設計其實並不是必要的,實際上一個用戶不需要花那麼多時間查看郵件,從用戶的角度講,這些提醒太浪費時間了。同樣,用戶也不需要被影音網站餵食一個接一個的影音。

於是從 Google 離職以後,他專門成立了一個非營利組織 Time Well Spent,提醒大家在使用現在的網路服務時,學會讓自己的注意力不要過度被移動網路所占用。前段時間他還建議大家把手機調成灰色,說這樣可以降低人們看手機的次數,減少對手機的依賴。

20170620033138kHvtcsouEQ7MFV2K.jpg-w600

很顯然,Harris 不是科技公司裡的主流,這也是為什麼他被《大西洋月刊 (The Atlantic) 》評論為“矽谷最接近良心的存在”。

在人工智慧“幫助”下,一些人已經在為同樣的服務花更多錢

驅動技術作出決定的指標並不是中立的,而是由設定它的人所決定。對於大多數產品來說,技術都在跟著收入、活躍度跑。

就像美國經濟學家米爾頓·傅利曼 (Milton Friedman) 的名言“商業公司的唯一社會責任是增加利潤。”

人工智慧技術的應用加速了效率。但推動它的公司在意的並不只是服務用戶,現在它不僅希望占用更多時間,還會根據消費者身份自動調整產品價格,讓一部分人為同樣的服務花更多的錢。

這件事情 Uber 正在做。

前不久,由於多次被司機抱怨自己拿到的車費收入跟乘客付的車費差距太大,Uber 給出了一個新解釋,說這是因為目前設計了一套新的計價方式。跟按里程、時長等因素綜合計價的傳統方式不同,這套新的計價演算法利用人工智慧來預估乘客願意為某次行程支付的最高價格,從而讓 Uber 的收益最大化。

這意味著,一段相同長度的行程,乘客從富人聚居區叫車到高檔商區,會比叫車到一個更貧困地區的乘客交更多的車費。這不是什麼劫貧濟富,司機分到的收入沒有變化,多出來的錢全部給了 Uber。

Uber 的產品負責人 Daniel Graf 稱這個計價標準是綜合考慮了用戶接受度和實際行程等因素。但他沒有解釋具體是如何計算的,這個演算法到底怎麼運作的根本就還是個黑匣子。

而且我們知道對價格不敏感的情況並不僅僅是消費者收入高低,往往也和事情緊急與否有關。

叫車去醫院的人往往都更不在乎價格,所以就應該被敲一筆嗎?

當人來決定的時候,對此往往會有忌憚。但人工智慧根據預先設定的參數自我調整時並不會考慮這麼多。這也是為什麼早先有過好幾次發生天災人禍,Uber 都自動上調了價格 — 根據供求比例變化所做的調整。但之後 Uber 營運團隊往往會人工干預,取消漲價。

Uber 顯然不是想乘火打劫。但今天的人工智慧並不夠聰明,當它的目標是增加利潤時,還不能透過學習意識到有些時候多要錢不合適 — 儘管這是一個受正常教育的五歲小孩就懂的道理。最終 Uber 還是透過人工干預避免類似情況發生。

但當人工智慧開始根據每個人的狀況調節每一次行程的價格時,這樣的人工干預或許已經不可行。

醫院只是一個例子,還有更多難以預料的情況。比如一個外地人叫車的時候不瞭解價格,天然的也對價格更不敏感。以往很多出租車司機會帶著繞路、多收錢。

現在人工智慧是不是可以直接調整價格多收外地人錢?工程師不用編寫這樣的功能,人工智慧自己發現這個規律就可以了。

當外界不知道具體演算法的時候,誰去判斷這裡的收費是否合理?

不公平的定價已經走出技術公司的產品,進入更多產業

美國媒體 Defense One 的科技記者 Patrick Tucker 在提到今天人工智慧對世界的影響時這麼說,“網路正在向一個預測未來的方程式轉變”。“電腦的輔助預測已經無處不在,從潛在的流感疫情到股市波動。未來 20 年,機器學習和大數據的預測功能會影響更廣泛的領域,包括消費者選擇、醫保、教育機會等。”

不用再等 20 年,人工智慧的影響已經開始了。不只是 Uber 開始利用人工智慧對消費者區別定價,傳統石油公司也很快用上人工智慧來定價了。在沒有使用人工智慧之前,不同公司的加油站之間透過低價競爭來爭奪市場,但人工智慧的應用讓這個規則開始發生了改變。

今年 5 月荷蘭鹿特丹的一個加油站汽油價格漲了 3.5 美分,隨後三英里外另一家它的競爭對手價格也跟著漲了,漲幅差不多。目前在荷蘭汽油的平均價格為 1.7 美元左右,算下來這個漲幅並不低。

兩個漲價的加油站都採用了同一家人工智慧公司 a2i 系統公司提供的動態調價演算法。這套演算法每天會計算幾十次價格數據,除了對歷史價格及競爭對手的價格進行分析以外,它還對這個區域消費者的消費意願進行建模,最後給出定價。

當一個加油站漲價之後,另一家加油站在判斷附近居民消費水平能接受這個價格之後,也跟著漲了價。給這家加油站公司提供演算法服務的 a2i 系統公司的 CEO Ulrik Blichfeldt 這麼解釋這套演算法,“它不是要從消費者那裡獲取更多錢,而是向那些對價格不敏感的人多收費,而對那些對價格敏感的人少收費。”

最終它所保證的還是加油站的收益。

設計這套演算法的 Alireza Derakhshan 在去年西班牙賽爾利亞召開的 AI 大會上稱,這套人工智慧系統為客戶平均提高了 5% 的利潤率。

幾家公司聯合起來抬價,實際上是建立價格聯盟形成壟斷,這是政府嚴格管制的行為。

當公司使用人工智慧對定價進行調控,責任人變得模糊了起來。但背後的邏輯是沒有變的,人為了保證利潤,建立價格聯盟,和程序為了保證利潤,建立價格聯盟沒什麼區別。

20170620033531VL08xgeSKhdruUE6.jpg-w600(美國史泰博公司一家採用了人工智慧進行動態調價的門店 圖: RICHARD B. LEVINE/ZUMA PRESS)

Derakhshan 還舉了另一個零售店的例子,他在 AI 大會上介紹,一名使用了他們動態調價演算法的客戶曾跟他抱怨過系統出現過問題,因為在周邊零售店都在降價的時候,系統給出的定價建議反而是漲價。

但 Derakhshan 解釋,這並不是系統故障,而是因為系統透過對周邊居民付費意願的預估及周邊競爭對手價格的判斷,預計店裡會來更多客人,因為他們不願意為了省錢而排隊結帳。

而結果也的確如此,Derakhshan 在會上說,“價格雖然漲了,但顧客還是源源不斷的來。”

實體店調價還麻煩點,畢竟有人人都能看到的價格牌。如果淘寶、京東、亞馬遜根據個人消費習慣給你漲幾個百分點,你會意識到嗎?

人工智慧怎麼“思考”是不透明的,而這樣的不透明正被用於決定就業和信貸

不止價格,信用評級、招聘也在引入人工智慧。好的方面很明顯,它能考慮的因素更多、它們更有效率。但新的問題也隨著誕生。

京東、百度投資的 ZestFinance 就在用人工智慧評估個人信用。透過公開數據及買來的數據,ZestFinance 可以對信貸用戶進行信用評級。它的創始人 Douglas Merrill 在 2009 年創辦了這家公司,稱“所有的數據都是信用數據。”

2015 年 ZestFinance 推出了一款針對小型企業和個人的借貸產品 Basix,它透過更多與財務數據不相關的訊息來對每個申請人的償還能力進行預估。目前它的服務也被多家網路公司採用,其中包括京東、百度。

Basix 對每個申請人的分析數據多達上萬條,包括申請人是否預付電話帳單,他是否經常更換住所,他在線填寫貸款申請訊息時是否有大小寫錯誤,他們花多長時間閲讀申請訊息等。這些都會作為申請人信用評級的標準。

ZestFinance 稱透過數據模型發現,全部用大寫字母填寫表格的申請者信用風險更高。結果是填表格用大小寫成了影響申請人信用的因素之一。

另一家幫科技公司評估程序員的公司 Gild 會根據他們是否經常去一家日本動漫網站來判斷這個程序員的能力 — 原因是很多高水平的程序員去那裡,於是人工智慧得出了兩個數據相關的結論。

這樣跟之前鬧得很大的用照片預測罪犯沒什麼區別,後者的人工智慧看完一組照片以後,總結出一個規律:沒穿著白領襯衫的,都是罪犯。人工智慧看到的東西就那麼些,它就硬找了個規律。

或者更近一些的例子,美團招聘人員說不招“黃泛區”的人。這個人後來被開除了。但當人工智慧自發得出類似結論的時候,責任在誰呢?甚至,會有人知道麼?

這裡的一個根本原因是今天大多數人工智慧做判斷的過程是一個黑盒子。數據進去、結果出來,設計者根據結果調整參數。

人工智慧更多的是將一個個極為複雜的個體量化成一系列可衡量的數字,並基於這些數字對個人做出判斷。

計算過程中,不僅僅對外界不透明,連設計者也很難明確知道到底演算法是如何得出這個結論的 — 就像 AlphaGo 的設計師並不理解每一步棋是怎麼來的、或者考試機器人的設計師自己看不懂機器的數學演算推理過程一樣。

歐洲一個研究技術與社會關係的學術組織網路與人權中心的高級研究員 Ben Wagner 說,“事實上許多演算法都是個黑匣子,這使得監管者和公眾不可能看見它。這是個問題,因為隨著演算法能力越來越強,但現在我們恰恰卻缺少對演算法任何形式的監督。”

Wagner 不認為這是編寫演算法的人心懷惡意,他說“至少我接觸的科技創業公司都非常清楚黑盒子帶來的問題,但他們並不知道該怎麼解決。”

與此同時,更多敏感的數據正被開放給人工智慧

今年 3 月,美國眾議院的勞動與教育委員會透過了由共和黨議員 Virginia Foxx 提出的一項關於員工健康訊息的法案 HR1313,它讓僱主可以獲取到其僱員及其家人的健康醫療訊息。

這條方案中提到,員工可自願參加僱主提供的健康計劃,接受基因測試,讓僱主獲取其基因訊息評估健康風險。參與這個項目的員工能享受 30% 到 50% 的醫保費用補貼。

支持者稱這是讓員工節省醫療費用開支,並提供一種更健康的生活的一種方式。

包括美國兒科協會,美國退休者協會等 70 多家機構聯名寫信反對該法案。美國人類遺傳學會科學政策主任 Derek Scholes 稱這個政策實際是在強迫員工參與這個項目,交出自己的遺傳數據隱私,因為如果員工不交出自己的健康數據,代價就是由他每年實際要比提供數據的人多交 5443 美元的醫保費。

大部分國家,員工體檢數據都是對公司保密的。當基因數據與人工智慧掛鉤,被用來判斷一個人未來患病的可能性,它帶來的風險遠比 B 型肝炎訊息泄密更大。

保險公司如果將基因數據用於判斷未來患病可能,調整保費。基因存在缺陷的人就會需要支付更多費用,儘管他還什麼事都沒有,一切只是“可能性”增加了幾個百分點而已。

對於家境不好的人來說,醫療成本可能決定生死。而現實是,以目前的進展,基因很可能決定醫療成本。

在談起演算法演算法被應用到社會管理中的趨勢時,吳靖教授這麼說,“現在社會管理是把每個社會成員完全原子化,把每個公民當作問題,社會管理是解決一個個問題。這是一個強化的過程。整個現代社會從 19 世紀末期 20 年代以來,尤其是全球化或者流動性趨勢越來越強,這種趨勢越來越明顯。因為它已經不把個人當作共同體的成員了,而是當作一個一個分離的個體,社會管理或者說社會治理並不是為了社會團結和社會文化 (的發展) ,而是成為了透過數位化的手段減少社會動盪的東西。”。

現在談監管,來得及嗎?

耶魯大學學者 Andrew Tutt 模仿美國的食品藥品監督管理局 (FDA) 設計了一套“演算法監管局” (FDA for Algrorithms) 。他認為當前的演算法已經影響到了人們生活的方方面面,因此也應該有這樣一套管理系統存在。

今天 FDA 決定著什麼藥可以用於臨床、什麼原料不能進入食物、什麼殺蟲劑可以用於農業。

在 Tutt 的設計裡,他借鑑了類似的結構,它的監管層次同樣也包含了對演算法透明程度、演算法使用測試中的安全性、責任機制等幾個方面。

FDA 在美國已經成立了 111 年。和今天的人工智慧一樣,它的出台也跟新技術直接相關,在當時這門新技術是化學藥品。

19 世紀化學藥品逐漸發展起來,嗎啡、Atropine 等這類藥物都在這個時期被研發出來。但是直到 20 世紀的美國幾乎都沒有對國內生產的食品、藥品出台監管法案。

19 世紀後期美國農業部的化學物質司的 Harvey Wiley 開始對市場上的藥品和食品濫用行為展開調查,並在 1887 年到 1902 年期間連續公佈了一系列《食品與食品摻雜物》研究報告。該部門還與當時的聯邦婦女俱樂部、醫療工作者及製藥廠商等多個機構合作遊說制定食品藥品統一標準法案。

1906 年美國作家 Upton Sinclair 出版了小說《屠場 (The Jungle) 》,書中對芝加哥肉類罐頭工廠髒亂的罐頭加工過程做了細緻描寫,引起了民眾的不滿。6 月,當時的美國總統西奧多·羅斯福 (Theodore Roosevelt) 簽署了《純淨食品和藥品法》。次年,美國農業部下屬的化學物質局被重組為食品、藥品和殺蟲劑組織,三年後更名為 FDA。

從化學藥品問題引起廣泛質疑到最後正式成立 FDA 中間花了近 30 年的時間。

只是,面對人工智慧,還有 30 年嗎?

好奇心日報》授權轉載

【延伸閱讀】

喜歡這篇文章?加入你的S夾!

好奇心日報
「好奇心日報」WeChat ID:qdailycom — 與你有關的商業新聞。每日報導與你有關的商業新聞,無論它是科技、設計、營銷、娛樂還是生活方式。另外還有一個“好奇心研究所”供你吐槽生活。
好奇心日報的最新文章
More

追蹤股感的社群