“算法要向善”選擇背后的倫理博弈
這種轉型呈現(xiàn)出一種“重組”的力量,將現(xiàn)有的時間空間重新切割,再以一種“光電方式”重新擬定節(jié)奏、劃定規(guī)則、做出決策。線性時間被打碎,信息的“精準推薦”是一種“算法時間”,它調(diào)整信息的呈現(xiàn)序列,插入合適的節(jié)點,指出什么才是“適合你的內(nèi)容”,而不在意“真正的時間”。以算法為核心生產(chǎn)邏輯的數(shù)字平臺,作為社會行動網(wǎng)絡中的主導力量,正在整合性地協(xié)調(diào)社會系統(tǒng)中的多元參與,通過設置代碼規(guī)則,進行算法管理,規(guī)訓的顆粒度被逐層細化,滲透進社會的毛細血管。算法社會的結構轉型正呈現(xiàn)出3個鮮明的趨勢。
“人臉識別”或將重新劃定個體身份邊界。疫情期間,人臉識別作為社會監(jiān)測技術助力公共防疫,但是強制“刷臉”、事后“丟臉”的問題也暴露出來。在一些小區(qū),人臉識別成為居民出入的唯一驗證方式,而一轉眼,在一些黑灰產(chǎn)平臺上,據(jù)說兩塊錢就可以買到千張人臉照片。人臉識別是一種“無目光的注視”,人臉識別的準確性高度依賴數(shù)據(jù)、算法和算力,如果操作不當,泄露出去的面部照片可被用來訓練深度偽造,欺騙識別系統(tǒng),冒充個人身份,惡搞他人隱私,持續(xù)給個體帶來經(jīng)濟風險和身份困擾,造成社會秩序混亂。
去年4月,《自然》雜志上刊登了一篇研究性的綜述,指出未來將是一個“算法無所不在”社會:自動化的新聞推薦、算法輔助法官判案、無人駕駛汽車、針對個體的差別化定價等,都將無縫接入我們的生活。如果以現(xiàn)在的發(fā)展態(tài)勢來看,這個“未來”已來。
我們已經(jīng)看到了這樣的努力。就在前幾日,中共中央印發(fā)《法治社會建設實施綱要(2020—2025年)》,其中明確提出要制定完善對算法推薦、深度偽造等新技術應用的規(guī)范管理辦法。10月,杭州市人民代表大會常務委員會發(fā)布的《杭州市物業(yè)管理條例(修訂草案)》有望成為國內(nèi)首部明確寫入人臉識別禁止性條款的地方性法規(guī);11月23日,國內(nèi)“人臉識別第一案”宣判,未經(jīng)當事人同意的“強制刷臉”被駁回。關注平臺外賣員的生存狀態(tài)和階層流動機制,為老年人、特定身份群體打造友好的數(shù)字生活環(huán)境,對平臺濫用市場支配地位、進行差別性對待等不合規(guī)問題進行監(jiān)管治理等,都是對算法社會中可能會出現(xiàn)的結構性問題的“糾偏”。(作者:方師師)
評論排行