2026網(wǎng)安周｜明確人機邊界，別做“甩手掌柜”

　　【編者按】當(dāng)前，人工智能技術(shù)加速向經(jīng)濟社會各領(lǐng)域滲透，與之相伴的安全風(fēng)險與倫理挑戰(zhàn)也日益凸顯。2026年國家網(wǎng)絡(luò)安全宣傳周期間，光明網(wǎng)聯(lián)合科普中國推出AI科技倫理系列科普視頻，引導(dǎo)公眾理性認知技術(shù)邏輯，秉持算法向善理念，共建網(wǎng)絡(luò)安全生態(tài)。

　　AI能干的事情，正在變得越來越多。撰寫報告、語言翻譯、處理分析數(shù)據(jù)，甚至寫詩作畫，AI都可以高效完成。隨之而來的現(xiàn)實疑問也擺在所有人面前：到底還有哪些事情，只能由人完成，不能夠全盤托付給AI？

　　重復(fù)勞作、計算推演、規(guī)則清晰明確的任務(wù)，適合交給AI處理。這類工作AI處理速度快、準(zhǔn)確度高，把這類事務(wù)交付機器，是技術(shù)帶給人類的解放。

　　但有三類核心事項，是絕對不能交出去的，這也是人與機器分工的底線。

　　第一是最終判斷。AI能夠梳理信息、分析利弊，給出多種方案建議。但是接不采納方案、最終如何行動，決定權(quán)必須掌握在人的手中。AI輸出的只是參考，做出抉擇的人，要為這個選擇承擔(dān)全部責(zé)任。

　　第二是價值選擇。AI可以羅列不同選項，拆解每一種選擇的利弊得失?？墒裁礃拥哪繕?biāo)值得追尋，什么事情值得去做，屬于價值層面的取舍，算法無法替人類作答。算法擅長解決“怎么把事做好”，但“該不該做、為什么要做”，只能由人來思考定奪。

　　第三是承擔(dān)后果，也是最根本的底線。AI不會產(chǎn)生懊悔情緒，給出錯誤建議之后，也不會生出責(zé)任感。但人類會。很多事情之所以被我們鄭重對待，正是因為我們清楚，所有后果終究要自己扛下。承擔(dān)責(zé)任，是人和機器最深刻的分野。

　　有一個簡單實用的標(biāo)尺，可以用來衡量一件事能不能交給AI：倘若AI出錯，誰來為此負責(zé)？

　　如果AI發(fā)生失誤，人類可以兜底、補救并且承擔(dān)責(zé)任，那么交由AI輔助處理就無可厚非?？梢坏┦虑槌鲥e，找不到具體的人站出來承擔(dān)“這是我的決定，由我負責(zé)”，那這件事就不適合交給AI。

　　就像醫(yī)療診斷，AI可以用來輔助分析病情，但給出診斷結(jié)論、對患者生命健康負責(zé)的必須是醫(yī)生；司法工作中，AI可以整理材料提供參考，但決定他人命運、背負司法責(zé)任的，只能是法官。在這類關(guān)鍵場景，人類必須始終在場。

　　無論技術(shù)如何迭代進步，有些核心位置不能拱手讓出。一旦交出的不僅僅是一項工作任務(wù)，更是屬于人的判斷力、價值取向與責(zé)任意識。

　　這并不是人和人工智能相互對立，而是人類為技術(shù)劃定合理邊界，也是身處智能時代，我們需要守住的立身之本。

出 品

科普中國前沿科技科普解讀

監(jiān) 制

光明網(wǎng)科普事業(yè)部

科學(xué)性審核

段偉文 崔原豪

策 劃

宋雅娟

文 案

羅苡柔(實習(xí))