近年來(lái)，人工智能保持快速發(fā)展勢頭，但人工智能所帶來(lái)的安全風(fēng)險 也不容忽視。

(一)用戶(hù)數據用于訓練，放大隱私信息泄露風(fēng)險

當前，人工智能利用服務(wù)過(guò)程中的用戶(hù)數據進(jìn)行優(yōu)化訓練的情況較為 普遍，但可能涉及在用戶(hù)不知情情況下收集個(gè)人信息、個(gè)人隱私、商業(yè)秘 密等，安全風(fēng)險較為突出。

(二)算法模型日趨復雜，可解釋性目標難實(shí)現

長(cháng)期以來(lái)可解釋性都是制約人工智能用在司法判決、金融信貸等關(guān)鍵 L域的主要因素，時(shí)至今日問(wèn)題尚未解決、且變得更為棘手。由于深度模 型算法的復雜結構是黑盒，人工智能模型天然缺乏呈現決策邏輯進(jìn)而使人 相信決策準確性的能力。

(三)可靠性問(wèn)題仍然制約人工智能關(guān)鍵L域應用

由于現實(shí)場(chǎng)景中環(huán)境因素復雜多變，人工智能難以通過(guò)有限的訓練數 據覆蓋現實(shí)場(chǎng)景中的全部情況，因此模型在受到干擾或攻擊等情況下會(huì )發(fā) 生性能水平波動(dòng)，嚴重時(shí)甚至可引發(fā)安全事故。

(四)濫用誤用人工智能，擾亂生產(chǎn)生活安全秩序

人工智能在對加速社會(huì )發(fā)展、提升生產(chǎn)效率等方面產(chǎn)生極大促進(jìn)作用 的同時(shí)，也出現了被濫用誤用、惡意使用的現象，引起威脅社會(huì )安全、人 身安全等負面事件。

(五)模型和數據成為核心資產(chǎn)，安全保護難度提升

人工智能訓練數據的獲取以及模型開(kāi)發(fā)已經(jīng)逐漸變成重資產(chǎn)投入、重 人力投入的工作，算法模型、參數、加工后的訓練數據已成為核心資產(chǎn)， 不免遭到覬覦。

(六)網(wǎng)絡(luò )意識形態(tài)安全面臨新風(fēng)險

人工智能的目標是模擬、擴展和延伸人類(lèi)智能，如果人工智能只是單 純追求統計最優(yōu)解，可能表現得不那么有“人性”；相反，包含一些人類(lèi) 政治、倫理、道德等方面觀(guān)念的人工智能會(huì )表現得更像人、更容易被人所 接受。