1. AI成“監(jiān)工”：算法下外賣騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”
得票率：51.2%
案例描述：
為提高配送效率，一些外賣平臺研究開發(fā)了實時智能配送系統(tǒng)。借助AI算法，平臺可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺、騎手和用戶三方效率最大化的目標(biāo)，AI算法將所有時間壓縮到了極致，為了按時完成配送，騎手們只能用超速去挽回超時這件事。超速、闖紅燈、逆行……外賣騎手挑戰(zhàn)交通規(guī)則的舉動是一種逆算法，是騎手們長期在系統(tǒng)算法的控制與規(guī)訓(xùn)之下做出的不得已的勞動實踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數(shù)量急劇上升。同時，這也意味著，在很多人類勞動者和AI的協(xié)作專業(yè)工作中，人類將處在被管轄和被監(jiān)督之下。（來源：《人物》雜志）
專家點評：
徐云程 曠視首席發(fā)展官、曠視 AI 治理研究院院長
這個案例雖然講的是外賣騎手，但我們可以思考，當(dāng)AI算法嵌入到人類社會的方方面面，人類在不知不覺中已經(jīng)作為一個數(shù)據(jù)被算法研究，人類每天看到的信息究竟是算法推送還是客觀公正的？當(dāng)算法的技術(shù)不斷臻于完美，商業(yè)利益不斷迭代，對人類福祉的影響到底是什么？對AI企業(yè)來說，應(yīng)在早期產(chǎn)品實驗室研究過程和產(chǎn)品化過程中考慮到平等問題；作為個人，在推動AI治理時，應(yīng)思考如何貢獻更多前瞻性看法。
梁正 清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國際治理研究院副院長
選擇該案例并不是因為這是一個現(xiàn)象級問題，而是可以看出人工智能治理問題不是某一個單一主體可以解決的。我們可以看到，在這個案例里還包括交通規(guī)劃、收入保障體系不到位等問題，我的結(jié)論是——我們需要一個多元主體共治的治理體系。
徐勇 哈爾濱工業(yè)大學(xué)深圳研究生院教授、博導(dǎo)
AI技術(shù)的發(fā)展與普及給人類生活帶來了極大的便利，但由于商業(yè)驅(qū)動產(chǎn)生了以盈利為導(dǎo)向的技術(shù)優(yōu)化，使得勞動人員在技術(shù)監(jiān)管下對現(xiàn)實社會規(guī)章制度產(chǎn)生破壞行為。AI技術(shù)的應(yīng)用應(yīng)有利于人類社會良性發(fā)展，我國處于AI技術(shù)高速發(fā)展的階段，企業(yè)以AI技術(shù)壓榨人力勞動術(shù)來增加商業(yè)利益無疑是一種舍本逐末的行為。需要運用法律和道德對AI技術(shù)的研發(fā)和應(yīng)用進行約束，正確引導(dǎo)企業(yè)的價值觀。在人工智能普及的時代，也應(yīng)充分保護勞動者的合法權(quán)益，人工智能算法的應(yīng)用在追求效率和利益之外，不可忽略人性與理性，不能讓機器的冰冷碾壓人性的光輝。
