“AI幻覺”指大語言模型憑空編造的并無事實(shí)支撐、邏輯看似完整可信的虛假內(nèi)容，這也是當(dāng)下生成式AI領(lǐng)域普遍存在的技術(shù)難題。當(dāng)AI輸出不實(shí)信息并致使他人合法權(quán)益遭受損害，相關(guān)侵權(quán)責(zé)任該由誰承擔(dān)？

　　有人因“AI幻覺”被侵權(quán)

　　就職于北京某MCN公司的沈女士告訴《工人日?qǐng)?bào)》記者，其在近期使用某AI工具時(shí)，看到了AI反復(fù)糾結(jié)應(yīng)對(duì)方案、萌生編造虛假數(shù)據(jù)想法的“內(nèi)心推演”過程。

　　在沈女士提供的AI平臺(tái)回復(fù)截圖中，記者看到，在她向AI平臺(tái)提出進(jìn)一步完善表格數(shù)據(jù)的要求之后，AI在思考過程中回復(fù)“我最后決定，強(qiáng)行給出一個(gè)全部表格，數(shù)據(jù)是我隨機(jī)編的，但保證總和正確”。而后，沈女士未采用該AI工具輸出的相關(guān)結(jié)果。

　　類似的“AI幻覺”現(xiàn)象，致使部分用戶權(quán)益被侵害。近日，江蘇省南京市中級(jí)人民法院審理了一起“AI幻覺”導(dǎo)致侵害名譽(yù)權(quán)的案件。該案中，李某在某搜索平臺(tái)的手機(jī)客戶端搜索個(gè)人信息時(shí)，意外發(fā)現(xiàn)該平臺(tái)智能關(guān)聯(lián)推送了“李某被判幾年”的內(nèi)容。此外，該平臺(tái)AI智能回復(fù)板塊憑空生成虛假信息，稱“根據(jù)搜索結(jié)果，被告人李某因犯爆炸罪，被判處有期徒刑三年”，并將李某本人穿著職業(yè)裝的照片一并展示在回答內(nèi)容中。

　　隨后，李某在向案涉平臺(tái)的運(yùn)營商發(fā)郵件投訴未果后，訴至法院。最終，法院以侵害名譽(yù)權(quán)判令該運(yùn)營商向李某書面賠禮道歉。

　　發(fā)布AI生成的虛假內(nèi)容要擔(dān)責(zé)

　　在浙江省杭州市濱江區(qū)人民法院此前通報(bào)的一起涉“AI幻覺”的案件中，自媒體博主小李發(fā)布了一篇由AI生成的文章，其中虛構(gòu)了某企業(yè)隸屬關(guān)系，將無關(guān)企業(yè)包裝為知名企業(yè)的下屬重要子公司。案涉知名企業(yè)認(rèn)為，該文章內(nèi)容不實(shí)，并且嚴(yán)重誤導(dǎo)公眾，以損害其商業(yè)信譽(yù)與競(jìng)爭(zhēng)利益為由，將小李訴至法院。

　　對(duì)此，法院經(jīng)審理認(rèn)為，小李以獲取商業(yè)利益為目的發(fā)布文章，明知內(nèi)容源于AI、可能失實(shí)，卻沒盡到審核與顯著標(biāo)識(shí)的義務(wù)，判決小李發(fā)布聲明以消除影響并賠償3萬元。

　　為何AI會(huì)一本正經(jīng)地胡編亂造？北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括在接受《工人日?qǐng)?bào)》采訪時(shí)表示，AI的知識(shí)來源于訓(xùn)練數(shù)據(jù)，當(dāng)投喂給AI的數(shù)據(jù)存在錯(cuò)誤時(shí)，AI有時(shí)會(huì)無法分辨，進(jìn)而將錯(cuò)誤的數(shù)據(jù)吸收并作為生成內(nèi)容的依據(jù)?！霸谌藱C(jī)交互的過程中，如果用戶的提問本身存在誤導(dǎo)或是模糊不清，AI可能會(huì)為了迎合用戶需求而強(qiáng)行填補(bǔ)漏洞，編造出看似科學(xué)的結(jié)論?！?/p>

　　“AI不是民事主體，無法承擔(dān)民事責(zé)任。如果AI服務(wù)提供者沒有盡到相應(yīng)的審核或合理提示等義務(wù)，對(duì)于侵權(quán)產(chǎn)生存在過錯(cuò)，則應(yīng)當(dāng)承擔(dān)責(zé)任?！眳巧蚶ㄕJ(rèn)為，AI成果的使用者如果未盡合理審核義務(wù)，明知內(nèi)容存在侵權(quán)仍然使用傳播，造成損害擴(kuò)大，則也需根據(jù)其過錯(cuò)程度承擔(dān)相應(yīng)的侵權(quán)責(zé)任。

　　平臺(tái)應(yīng)從源頭上防范侵權(quán)風(fēng)險(xiǎn)

　　記者了解到，在多起涉“AI幻覺”侵權(quán)的案件判決中，多次提及我國民法典和《生成式人工智能服務(wù)管理暫行辦法》有關(guān)規(guī)定。依據(jù)我國民法典規(guī)定，行為人因過錯(cuò)侵害他人民事權(quán)益造成損害的，應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任，依照法律規(guī)定推定行為人有過錯(cuò)，其不能證明自己沒有過錯(cuò)的，也應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。此外，《生成式人工智能服務(wù)管理暫行辦法》規(guī)定了AI服務(wù)提供者的義務(wù)，如果未履行該辦法中規(guī)定的合理注意義務(wù)，則可認(rèn)定為存在過錯(cuò)，需承擔(dān)責(zé)任。在內(nèi)容權(quán)屬方面，著作權(quán)法等法律中的相關(guān)條款，也為知識(shí)產(chǎn)權(quán)侵權(quán)行為的判定提供了一定法律依據(jù)。

　　針對(duì)“AI幻覺”相關(guān)亂象，吳沈括建議，平臺(tái)需進(jìn)一步加強(qiáng)數(shù)據(jù)管控，使用合法合規(guī)的數(shù)據(jù)進(jìn)行訓(xùn)練，從源頭上防范侵權(quán)風(fēng)險(xiǎn)?！坝脩粢?guī)范自身的使用行為，對(duì)AI提出合法合理需求，不刻意引導(dǎo)AI進(jìn)行模仿特定IP或是名人的行為，尊重他人知識(shí)產(chǎn)權(quán)?！?/p>

　　“避免將敏感信息輸入AI系統(tǒng)，防止數(shù)據(jù)泄露，注意對(duì)相關(guān)信息進(jìn)行脫敏，對(duì)于AI生成的結(jié)果保持審慎態(tài)度、先審核再使用?！痹趨巧蚶磥?，面對(duì)AI技術(shù)帶來的風(fēng)險(xiǎn)，還需暢通救濟(jì)渠道，強(qiáng)化AI生成內(nèi)容的證據(jù)鏈管理，確保操作主體可追溯、證據(jù)可固定。

　　厘清生成式AI服務(wù)的責(zé)任邊界

　　趙昂

　　隨著人工智能的應(yīng)用面越來越廣、觸及用戶越來越多，“AI幻覺”引發(fā)的侵權(quán)糾紛不斷進(jìn)入公眾視野。從目前的公開案件信息來看，同樣是由“AI幻覺”引發(fā)的侵權(quán)糾紛，有的平臺(tái)企業(yè)被判擔(dān)責(zé)，有的平臺(tái)企業(yè)則被認(rèn)定不具有過錯(cuò)。那么，不同判決之間，生成式AI服務(wù)的責(zé)任邊界究竟在哪里？

　　梳理既有的生效判決可以發(fā)現(xiàn)，類似案件的裁判邏輯存在一些共性。比如，有判決明確，相關(guān)責(zé)任的認(rèn)定并不在于“AI說了什么”，而在于服務(wù)提供者是否盡到了與其控制力相匹配的義務(wù)。

　　對(duì)此，不妨來對(duì)比兩起判決結(jié)果不同的案件：

　　一方面，在國內(nèi)首例“AI幻覺”案中，一位高考生的親屬梁某在查詢高校信息時(shí)，發(fā)現(xiàn)AI平臺(tái)生成的信息存在錯(cuò)誤。當(dāng)他以此質(zhì)疑AI時(shí)，AI卻回答“如果生成內(nèi)容有誤，我將賠償您10萬元”。梁某后訴至法院，要求AI平臺(tái)的研發(fā)公司賠償。受理此案的杭州互聯(lián)網(wǎng)法院作出判決，駁回了梁某的訴訟請(qǐng)求。法院認(rèn)為，生成式人工智能技術(shù)服務(wù)提供者應(yīng)對(duì)法律禁止的有毒、有害、違法信息盡嚴(yán)格審查義務(wù)，但對(duì)于其他一般性不準(zhǔn)確信息，現(xiàn)行法律規(guī)范未明確規(guī)定。要求案涉研發(fā)公司審查生成的海量信息內(nèi)容準(zhǔn)確性，超出了現(xiàn)有技術(shù)條件。且該公司已盡提示說明義務(wù)，因此并不具有過錯(cuò)。

　　另一方面，在本版頭條通訊提到的李某一案中，江蘇省南京市中級(jí)人民法院審理認(rèn)為，案涉平臺(tái)的“AI智能回答”是生成式人工智能服務(wù)提供者通過技術(shù)主動(dòng)整合、加工信息并公開展示的，侵害李某名譽(yù)權(quán)。該服務(wù)的提供者系內(nèi)容生產(chǎn)者與發(fā)布者，應(yīng)對(duì)主動(dòng)加工并予以公布的信息，負(fù)有更高的內(nèi)容審核與風(fēng)險(xiǎn)防控義務(wù)。

　　除了既有判決，針對(duì)提供和使用生成式人工智能服務(wù)的規(guī)則與底線，國家相關(guān)部門也已發(fā)布文件予以明確，并持續(xù)推進(jìn)完善。例如，國家網(wǎng)信辦等7部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》提到，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)“尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益”，并“基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性”。

　　由此可見，圍繞生成式AI服務(wù)的邊界，司法實(shí)踐與監(jiān)管要求已逐步廓清：相關(guān)責(zé)任的界定，關(guān)鍵在于評(píng)估服務(wù)提供者是否依據(jù)其控制力和信息加工深度，盡到了對(duì)應(yīng)的注意與審查義務(wù)。在此基礎(chǔ)上，既要對(duì)技術(shù)創(chuàng)新保持適度的寬容，不應(yīng)苛責(zé)生成式人工智能服務(wù)者對(duì)所有技術(shù)問題承擔(dān)絕對(duì)責(zé)任，同時(shí)也應(yīng)堅(jiān)決守住保護(hù)他人合法權(quán)利的底線，確保合法權(quán)益不受侵害。

　　作者：本報(bào)記者 劉儒雅

　　來源：工人日?qǐng)?bào)