信息系統(tǒng)安全性的問題主要來自大型軟件設(shè)計漏洞或者缺陷，進(jìn)而產(chǎn)生安全問題。中國科學(xué)院院士張鈸認(rèn)為，發(fā)展人工智能技術(shù)時出現(xiàn)了全新的安全問題。這個安全問題主要來源于算法本身的不安全。因此，必須對算法做徹底的改變，才能完全解決安全問題。之所以這么重視人工智能的安全問題，主要原因是它的安全問題更加難以克服。人工智能的安全治理很重要，可以防止人工智能技術(shù)被誤用，主要是無意識的誤用，因為人工智能算法本身帶來的不安全問題是很難被預(yù)先發(fā)現(xiàn)的。如果我們在使用的過程中不注意這個問題，人工智能就會被無意識地錯用，造成嚴(yán)重后果。

發(fā)展第三代人工智能是一項長期而艱巨的任務(wù)，人工智能的安全和治理也是長期任務(wù)。解決人工智能安全性問題必須兩手抓，一手抓治理，一手抓創(chuàng)新發(fā)展，解決人工智能算法本身不安全的問題。