一 數(shù)據(jù)不完備和濫用風(fēng)險(xiǎn)突出

1 數(shù)據(jù)不完備： 人工智能進(jìn)行自動(dòng)化決策時(shí)，如果數(shù)據(jù)不充分、不達(dá)標(biāo)，就會(huì)造成結(jié)論偏離的情況。

2 數(shù)據(jù)投毒：如果訓(xùn)練集中混雜了虛假的數(shù)據(jù)，還會(huì)對(duì)算法形成欺騙，在自動(dòng)化決策中給出錯(cuò)誤 的結(jié)果。

3 數(shù)據(jù)濫用：技術(shù)進(jìn)步擴(kuò)大了用戶個(gè)人信息的邊界，互聯(lián)網(wǎng)平臺(tái)企業(yè)可以在線且及時(shí)的采集用戶 購買、收藏、瀏覽等行為，擁有豐富的算力資源和出眾的算法能力，如果企業(yè)在借 助人工智能對(duì)用戶數(shù)據(jù)進(jìn)行加工、使用的過程中不能夠嚴(yán)格遵守法律法規(guī)，則可能因?yàn)閿?shù)據(jù)濫用而損害用戶的權(quán)益。

二 人工智能算法存在固有缺陷

當(dāng)前，以深度學(xué)習(xí)為代表的人工智能技術(shù)在產(chǎn)業(yè)界廣泛應(yīng)用，取得了一系列突破， 但其在可解釋性、魯棒性、偏見歧視等方面尚存在局限。

1 可解釋性不足：深度學(xué)習(xí)算法的一個(gè)的顯著特點(diǎn)是訓(xùn)練過程中自動(dòng)提取特征，通常比人工挑選的特 征效果更好，但這一過程目前尚不可控，在不恰當(dāng)?shù)臄?shù)據(jù)集上算法可能選擇錯(cuò)誤的特征。

2 魯棒性不足：深度學(xué)習(xí)算法在訓(xùn)練過程中會(huì)對(duì)數(shù)據(jù)的魯棒特征和非魯棒特征逬行學(xué)習(xí),并依據(jù)這些特征進(jìn)行識(shí)別。

3 偏見與歧視：深度學(xué)習(xí)算法會(huì)挖掘訓(xùn)練數(shù)據(jù)集中不同因素的相關(guān)性，擬合數(shù)據(jù)分布特性，訓(xùn)練數(shù) 據(jù)集本身的偏見與歧視，會(huì)被引入到訓(xùn)練出的模型之中。

三 企業(yè)人工智能管理體系不完善

人工智能等新技術(shù)特有的應(yīng)用特征對(duì)企業(yè)的管理措施提出了極大挑戰(zhàn)。一方面，過 去為了鼓勵(lì)創(chuàng)新和效率優(yōu)先，通常讓基層擁有較大的自主權(quán)；另一方面，人工智能 新技術(shù)的負(fù)面影響通常不會(huì)立即顯現(xiàn)，也難以全面評(píng)估。這就使得原有的體系并不 能適應(yīng)當(dāng)前人工智能治理原則。

1 算法需要人為干預(yù)： 由于人工智能算法固有的缺陷，需要對(duì)可能出現(xiàn)的錯(cuò)誤結(jié)果進(jìn)行干預(yù)糾偏。

2 用戶權(quán)益保障不足： 人工智能算法用于自動(dòng)化決策，對(duì)用戶帶來明顯影響，并不能做到完全技術(shù)中立， 需要注意保障用戶權(quán)益。

3 主體責(zé)任落實(shí)不到位： 由于人工智能技術(shù)門檻高，且在企業(yè)中的運(yùn)用往往呈現(xiàn)出高動(dòng)態(tài)性、高復(fù)雜度等特 點(diǎn)，使得外部難以理解其運(yùn)行機(jī)制。