據(jù)《界面新聞》報道，6月5日，針對某AI應(yīng)用“誤判蘑菇導(dǎo)致用戶中毒”一事，相關(guān)企業(yè)負(fù)責(zé)人表示，“野生蘑菇的辨別風(fēng)險極高，僅憑圖片無法100%排除有毒相似種類的可能”。AI目前還在發(fā)展階段，涉及類似人身安全的問題，建議多咨詢求證，以免造成傷害。‌‌

　　“AI誤判蘑菇致用戶中毒”，這起事件看似“技術(shù)翻車”，實則敲響一記警鐘：在高風(fēng)險甚至攸關(guān)生死的復(fù)雜場景中，盲目信任或依賴AI，無異于拿生命賭博。

　　AI識物出錯的案例并不鮮見，從誤將寵物狗識別為毛絨玩具，到把天空云朵判定為雪山，人們多數(shù)時候只是一笑了之。然而，當(dāng)識別對象是“能否入口”的食物時，錯誤就不再是無足輕重的段子，而是實實在在的性命攸關(guān)。用戶之所以敢跟著AI下嘴，恐怕是長期被“智能”“精準(zhǔn)”“高效”等宣傳語影響。這正是“遇事不決問AI”的危險之處——它讓一些人變得更輕率、更懶惰、更盲從。

　　當(dāng)前AI大模型是基于概率的預(yù)測，而非基于事實的判斷。它根據(jù)海量圖像數(shù)據(jù)，算出“最有可能”的答案，但“最有可能”不等于“一定正確”。指望手機拍張照片就萬無一失，顯然是不可能的。

　　比技術(shù)局限更令人擔(dān)憂的是責(zé)任邊界的模糊。用戶中毒后，AI平臺該不該擔(dān)責(zé)？目前，幾乎所有AI服務(wù)協(xié)議都將輸出結(jié)果標(biāo)注為“僅供參考，不構(gòu)成專業(yè)建議”。對此，從技術(shù)上可以理解，畢竟AI無法為每一次“幻覺”兜底；但從使用角度看，平臺將AI包裝得越智能，用戶就越容易相信和依賴。這種“只給答案，不管對錯”模式，在高風(fēng)險場景中無異于變相“甩鍋”。這起中毒事件提醒相關(guān)行業(yè)和平臺：不能只強調(diào)“能力上限”，而應(yīng)清晰告知“能力邊界”，尤其是對可能危及生命健康的識別功能，必須設(shè)置強制風(fēng)險提示和免責(zé)警告。

　　走出AI“萬能”誤區(qū)，需要用戶與技術(shù)提供者相向而行。用戶應(yīng)當(dāng)牢記，AI輸出的內(nèi)容都只是參考，而不是“真理”。涉及人身安全、醫(yī)療健康、法律財務(wù)等重大事項，必須交叉核驗，切勿盲從。技術(shù)提供者應(yīng)在產(chǎn)品設(shè)計中主動設(shè)限，諸如對蘑菇識別、藥物配伍、疾病自診等場景，顯著標(biāo)注“本結(jié)果僅供參考，請咨詢專業(yè)人士”。此外，行業(yè)也可以探索制定AI應(yīng)用的風(fēng)險分級標(biāo)準(zhǔn)，將高危場景納入特殊管控，明確安全提醒義務(wù)與責(zé)任邊界。

　　AI或許可以幫我們識別一朵花、翻譯一段話、推薦一家餐廳，但在重大決策面前，請把判斷權(quán)握在自己手中。讓AI回歸“助手”本位，讓人保留“拍板”的權(quán)力——這不僅是技術(shù)倫理，更是對生命的敬畏。(徐建輝)

　　來源：工人日報