歐盟委員會于今年2月發布《人工智能、物聯網和機器人技術對安全和責任框架的影響》，在最新一期賽迪譯叢中，賽迪智庫安全產業研究所對該報告進行了編譯。

報告介紹了新興技術的特征，深入分析了歐盟當前的安全和責任框架在哪些環節不能適用于這些新興技術，并建議采取適當的舉措對現行《產品責任指令》和《通用產品安全指令》等法規進行調整，以解決現有安全和責任框架的不確定性。

　　 1、安全和責任框架概述

安全和責任框架的總體目標旨在保障所有產品和服務（包括集成新興數字技術的產品和服務）的安全、可靠、同步運行，并有效修復已發生的損失。

當人工智能、物聯網和機器人等新技術興起時，建立明確清晰的安全和責任框架勢在必行，以期保護消費者和企業的合法權益。

　 2、人工智能、物聯網和機器人技術的特征及機遇

　　 新興技術的特征

人工智能、物聯網和機器人技術有許多共同特征，包括連接性、自主性、復雜性和數據依賴性。

　　 新興技術的機遇

一方面，新技術通過提高產品的安全性從而使產品降低某些風險。

另一方面，物聯網系統可以接收和處理不同來源的大量數據，提高產品召回的有效性，提醒用戶避免產品的安全問題。如果生產商發現物聯網產品在使用期間出現安全問題，可以直接與用戶溝通，警告其相關風險，或者直接解決問題。

　　 3、人工智能、物聯網和機器人技術對現有安全框架的挑戰及應對

　　 新興技術的連接性對傳統安全概念提出挑戰

連接性已成為新興產品和服務的核心特征，對傳統的安全概念提出了挑戰。

歐盟產品安全法規尚未針對影響用戶安全的網絡威脅制定特殊的強制性要求。不過，《醫療器械法規》、《測量儀器指令》、《無線電設備指令》和《整車型式批準法規》中包含了網絡威脅安全性的相關規定。《網絡安全法案》為信息和通信技術（ICT）產品、服務和流程制定了自愿性網絡安全認證框架。

　　 人工智能自主性與制造商期望存在偏差

人工智能產品和系統的自主性可能會使機器做出的決策與生產者的最初意圖，以及用戶的期望有所偏差。

目前，歐盟法律框架中的安全性通常指人身傷害威脅。但是人工智能應用的類人行為可能會給用戶造成心理健康風險，應考慮將精神健康風險納入立法框架。同時要求生產商明確其產品可能對用戶（特別是弱勢用戶，例如被護理的老年人）造成的心理損害。

　　 數據依賴產生的安全風險需要保障機制

數據準確性和相關性可以確保人工智能系統按照生產者意圖做出決定。

歐盟產品安全法規應該作出規定，要求制造商在設計階段解決錯誤數據帶來的安全風險。確保在人工智能產品和系統的使用過程中有良好的機制來保障數據質量。

　　 人工智能的不透明性使決策過程難以跟蹤

人工智能產品和系統的不透明性可能會導致難以跟蹤系統的決策過程，即所謂的“算法黑箱”。

有必要考慮制定更多對算法透明性、穩健性和問責制的相關法律規定。在發生事故的情況下，規定算法開發人員必須公開數據集的設計參數和元數據。

　　 軟件更新對安全性構成風險

最終產品制造商有義務在產品投放市場時預見該產品中集成軟件的風險。

歐盟產品安全法規仍需要對獨立軟件做出特定和明確的要求，確保人工智能產品和系統中的獨立軟件具備安全功能。此外，應規定制造商承擔相關的強制性義務，以確保上傳的軟件不會在人工智能產品的生命周期內對安全性產生影響。

　　 新興數字技術受復雜的價值鏈影響

在歐盟產品安全框架下，產品的安全性責任由生產者承擔，包括產品中集成的各個部件。歐盟產品安全法規考慮了價值鏈的復雜性，并遵循“共同責任”的原則對多家企業施加了義務。

　　 4、人工智能、物聯網和機器人技術對現有責任框架的挑戰及應對

　　 新興技術降低責任框架有效性

人工智能、物聯網和機器人等新興數字技術的特征可能會在某些方面影響責任框架，并降低其有效性。

與其他類似產品和服務相比，新興數字技術產品和服務事故的受害者無法享受根據國家侵權法獲得賠償的保護，可能會降低社會對新興技術的接受程度，增加應用阻力。

此外還需要進一步評估新技術對現有責任框架的挑戰是否會導致法律適用的不確定性，可能會增加生產者和供應鏈中其他企業的信息和保險成本。

　　 產品、服務和價值鏈的復雜性增加索賠難度

人工智能應用通常集成在復雜的物聯網環境中，相應提高了使用者的索賠門檻。

可以通過修訂《產品責任指令》，減少人工智能相關受害者的舉證責任，進一步有針對性地統一國家責任規則。

　　 連接性和開放性對網絡安全義務提出挑戰

因產品網絡安全漏洞而造成的損害是否能得到充分的賠償問題尚沒有明確的法律規定。在現有的責任框架中，應該建立明確的網絡安全義務，使運營商明確自身義務從而避免承擔不必要的責任。

　　 自主性和不透明性造成索賠困難

人工智能的“算法黑箱”效應，使得人工智能應用的自主性造成的損害，很難獲得賠償。理解人工智能所使用的算法和數據需要具有專業分析能力和技術專長，受害者可能會因此付出高昂的代價。

此外，如果沒有潛在責任方的配合，就無法訪問算法和數據，因此導致受害者實際上無法提出責任索賠。

針對運行具有特定風險的人工智能應用，歐盟委員會正在尋求相關意見，以便有效補償潛在的受害者。此外，歐盟委員會還在征求關于將嚴格的責任認定與潛在義務相結合，以制定可用保險的意見，以確保不論責任方的償付能力如何，受害者都能獲得賠償。

　　 譯 自 ：Report on the safety and liability implications of Artificial Intelligence， the Internet ofThings and robotics

　　 以上為部分內容，完整版如下：

?

責任編輯：姚治