算法和工作(zuò)的未來
- 發布于 2022-11-19
算法是機器用(yòng)于執行數學(xué)運算的一系列精(jīng)确的分(fēn)步指令。使用(yòng)支持算法的系統和設備将為(wèi)職業安(ān)全和健康帶來許多(duō)好處，但與許多(duō)新(xīn)技(jì )術一樣，工人也存在風險。《美國(guó)工業醫(yī)學(xué)雜志(zhì)》的一篇新(xīn)評論重點關注工人管理(lǐ)系統、先進傳感器技(jì )術和機器人設備使用(yòng)中存在的工人風險的新(xīn)來源。确定算法是否适合工作(zuò)場所使用(yòng)，對制造商、程序員、雇主、工人以及職業安(ān)全和健康從業者來說正迅速成為(wèi)一項挑戰。為(wèi)了實現支持算法的系統和設備在未來工作(zuò)中承諾的好處，我們必須研究如何有效地管理(lǐ)它們的風險。評論中的要點在下面突出顯示。文(wén)章中提供了深入的讨論。
作(zuò)者：John Howard，醫(yī)學(xué)博士
機器學(xué)習算法正在為(wèi)多(duō)個行業部門的各種職業安(ān)全和健康應用(yòng)提供動力。算法應用(yòng)存在于制造業、建築、農業、采掘采礦、零售業、和公共治理(lǐ)中。由支持算法的系統和設備驅動的數據驅動的洞察力可(kě)以概念化為(wèi)職業安(ān)全和健康的未來工作(zuò)工具，有朝一日可(kě)能(néng)會告訴你發生了什麽（描述性系統）和為(wèi)什麽會發生（診斷系統）；預測會發生什麽（預測系統）；支持基于當前和未來條件的決策（規範性系統）；并采取物(wù)理(lǐ)行動（半自主和自主系統）。
應該通過充分(fēn)意識到和理(lǐ)解算法的風險狀況來緩和将算法集成到工作(zuò)場所設備、流程、條件和人力管理(lǐ)系統中的預期好處。了解支持算法的工作(zuò)場所系統的風險和益處應該基于全面的風險評估。支持算法的系統構成的風險通常來自三個領域：
專有算法的日益複雜，特别是可(kě)以在運行過程中改變其決策邏輯的自學(xué)算法，這使得設計師、制造商和用(yòng)戶難以在操作(zuò)上了解算法的工作(zuò)原理(lǐ)。缺乏算法透明度可(kě)能(néng)是評估和控制新(xīn)的職業安(ān)全和健康風險的主要障礙。14随着各種社會系統、和工人管理(lǐ)系統、先進傳感器技(jì )術和機器人設備中的算法決策正在增加，注意力集中在如何實現更大的算法透明度上。
密切的身體(tǐ)監督一直是雇主監控工人的傳統方式。雇主現在可(kě)以通過視頻監控來監控工人；通過地理(lǐ)位置算法跟蹤工人的身體(tǐ)運動；監控員工使用(yòng)電(diàn)子郵件、社交媒體(tǐ)和網頁浏覽的情況；評估工人的生産力、參與程度、離開組織的傾向以及對工作(zuò)場所安(ān)全行為(wèi)的遵守情況。這些新(xīn)的數據驅動的人力資源管理(lǐ)方法被稱為(wèi)“人員分(fēn)析”，并被吹捧為(wèi)幫助雇主做出更好的決策。
算法管理(lǐ)技(jì )術可(kě)以持續收集和存儲工人數據，可(kě)能(néng)沒有明确的目的或工人披露。在一些算法管理(lǐ)技(jì )術中，工人和決策者的觀察者都可(kě)以是非人類代理(lǐ)人。當監控沒有前瞻性地向工人披露時，支持算法的生産力和績效系統通常代表一種未經工人同意的管理(lǐ)控制。當算法被賦予工人工作(zuò)的權力時，當工人對算法收集哪些數據、如何使用(yòng)數據以及出于什麽目的沒有信息或了解時，工人會報告無能(néng)為(wèi)力的感覺。這并不奇怪，因為(wèi)在算法管理(lǐ)下，工人通常與他(tā)們的“數字主管”沒有有意義的互動。這種算法管理(lǐ)可(kě)能(néng)與工人自主權的侵蝕、工作(zuò)強化、心理(lǐ)社會壓力和工人福祉的下降有關。
算法管理(lǐ)在零工經濟中尤為(wèi)普遍，但數字監控和管理(lǐ)技(jì )術在其他(tā)行業部門也可(kě)見。輪班分(fēn)配算法、交付路線(xiàn)算法、倉庫工人移動算法、連續性能(néng)算法和其他(tā)工作(zuò)生産力算法不僅應用(yòng)于制造工人，也适用(yòng)于服務(wù)工人、知識工作(zuò)者、倉庫工人，甚至一線(xiàn)主管。
新(xīn)的算法技(jì )術有可(kě)能(néng)通過影響雇主-員工的關系來顯著改變組織控制。算法管理(lǐ)系統的傳播将影響工作(zuò)的未來，但可(kě)能(néng)會以意想不到的和不良方式這樣做。雖然在算法管理(lǐ)下，工人的私密性限制目前不确定，但在支持算法的系統中存在大量關于工人的信息會帶來潛在的安(ān)全風險。此外，用(yòng)于自動化組織管理(lǐ)系統的算法可(kě)能(néng)會産生歧視性結果，從而重現和加強社會的曆史年齡、種族和民(mín)族以及性别偏見等。
傳感器是技(jì )術管理(lǐ)工作(zuò)的核心，因為(wèi)它們為(wèi)算法控制提供數據輸入。先進的傳感器技(jì )術正在商業化，并作(zuò)為(wèi)新(xīn)的暴露科(kē)學(xué)工具進入工作(zuò)場所。使用(yòng)小(xiǎo)型化算法嵌入式微處理(lǐ)器的先進傳感器技(jì )術，通過不斷感知危險物(wù)質(zhì)的環境工作(zuò)環境或工人接近已知危害，有可(kě)能(néng)大大加快職業暴露科(kē)學(xué)的進步。然而，它們也可(kě)能(néng)引起工人對侵入性工人監控、算法偏見和侵犯個人隐私的擔憂。
算法是所有機器人設備的關鍵組件。從人工智能(néng)架構的角度來看，機器人設備可(kě)以是物(wù)理(lǐ)上的機器人或數字決策助理(lǐ)。機器人表現出三種主要功能(néng)：感知、計劃和行動。算法涉及所有這些基本的機器人功能(néng)。與算法管理(lǐ)系統一樣，當算法控制下的機器人系統導緻人類工人的身體(tǐ)或認知能(néng)力與工作(zuò)需求不匹配時，可(kě)能(néng)會發生工作(zuò)強化。當機器人系統被設計為(wèi)最大限度地提高生産力而不充分(fēn)考慮對人類工人績效的影響時，它們的風險狀況就會增加。雖然将機器人集成到工作(zuò)流程中承諾帶來許多(duō)生産力效益，但工人可(kě)能(néng)會因使用(yòng)機器人而面臨工作(zuò)密集和工作(zuò)崗位轉移的風險。
引入支持算法的工作(zuò)場所使用(yòng)人工智能(néng)系統和設備的速度比開發特定于算法的風險評估和風險管理(lǐ)策略的速度更快。當集成到工作(zuò)場所系統時，算法可(kě)以呈現出獨特的風險分(fēn)類，這些風險在組織的傳統職業安(ān)全和健康風險管理(lǐ)方法中可(kě)能(néng)無法解決。需要新(xīn)的方法來檢測輸入數據中的偏差，在專有算法中找到設計錯誤，并确保輸出決策在邏輯上是輸入數據的衍生物(wù)。侵入性監控、算法偏見、自主權和隐私喪失、決策産出不準确以及工作(zuò)強化所産生的風險應添加到現有風險評估和管理(lǐ)方法中。工人還應該有自由度和方法來挑戰算法生成的決策。
在未來的工作(zuò)中，算法将在職業安(ān)全和健康方面提供許多(duō)有益的應用(yòng)。雖然支持算法的系統和設備可(kě)能(néng)會減少人為(wèi)錯誤的來源，并增強工人的安(ān)全和健康，但算法也可(kě)能(néng)為(wèi)工人福祉帶來新(xīn)的風險來源。确定算法在工人管理(lǐ)系統、先進傳感器技(jì )術、機器人設備和其他(tā)工作(zuò)場所系統、工具和機械中是安(ān)全的，将挑戰算法設計師和軟件程序員、支持算法的設備制造商、雇主、工人以及職業安(ān)全和健康從業者的風險評估和管理(lǐ)能(néng)力。為(wèi)了确保支持算法的系統和設備的好處在未來的工作(zuò)中占據突出地位，現在是時候研究如何有效地管理(lǐ)其風險了。
