科技是發(fā)展的利器，但也可能成為風險的源頭，人工智能也不例外。中國科學院院士、清華大學計算機系教授張鈸在“人工智能安全與產業(yè)治理”論壇上表示，人工智能的發(fā)展引發(fā)新一輪產業(yè)變革，帶來傳統(tǒng)產業(yè)的智能化，比如網絡搜索中采用推薦算法、用戶畫像等方式提高服務的效率和質量。智能技術的產業(yè)化還催生了新產業(yè)，比如智慧交通、智慧醫(yī)療、智慧城市、自動駕駛等。但是，這些變革也帶來了新的風險和安全隱患，因此人工智能的發(fā)展既要抓創(chuàng)新，也要抓治理。

與其他新興技術相比，人工智能發(fā)展與治理中存在一些特殊性。從算法層面來看，現(xiàn)有的人工智能算法比較脆弱，泛化能力較差。這就意味著，如果將算法運用到與訓練場景區(qū)別很大的實際場景中會存在安全問題。以無人駕駛為例，人工智能在訓練時不可能包含所有的情境，當遇到突發(fā)事件，很容易導致算法無法處理，造成人工智能技術的誤用。同時，這種脆弱性還使人工智能系統(tǒng)容易被攻擊、被欺騙，給人工智能技術的濫用造成可乘之機。

從數據層面來看，現(xiàn)在人工智能應用效果很大程度上依賴數據質量，但由此會引發(fā)隱私泄露、數據確權等問題。如果解決不好數據安全問題，人工智能產業(yè)不可能健康發(fā)展。

從應用層面來看，人工智能技術已經逐漸對人們的生活造成沖擊，比如“困在算法里的外賣騎手”等事件就經常發(fā)生。還有像深度偽造等可能對社會造成重大影響的技術，都必須保證安全可控。

人工智能的創(chuàng)新是發(fā)展的必然?？v觀信息科技的發(fā)展歷史，信息科技發(fā)展異常迅猛，但基本實現(xiàn)了安全可控。而人工智能的發(fā)展卻緩慢曲折，安全問題層出不窮。兩者的不同在于，信息革命一開始，信息學三大理論就已經建立，即圖靈機理論、香農理論以及維納的控制論。有了堅實的理論基礎，才能引導信息技術健康發(fā)展。

人工智能則不同，它的理論基礎至今沒有建立，盡管經歷了第一代人工智能的符號主義模型(知識驅動)和第二代人工智能的亞符號(連接)主義模型(數據驅動)，但由于它們均具有很大的局限性，不能構成人工智能的理論基礎。由于缺乏理論指導，人工智能的發(fā)展處于難以控制的局面。因此，建立人工智能的理論基礎是“第三代人工智能”的初衷。

張鈸解釋說，“第三代人工智能”的發(fā)展路徑是融合第一代的知識驅動和第二代的數據驅動的人工智能，利用知識、數據、算法和算力四個要素，建立新的可解釋和魯棒的人工智能理論與方法，從而發(fā)展安全、可信、可靠和可擴展的人工智能技術，通過發(fā)展“第三代人工智能”和人工智能治理一起抓，才能實現(xiàn)相輔相成、共同發(fā)展的目標。

人工智能剛剛拉開序幕，更精彩的大戲即將上演。張鈸呼吁，產業(yè)需要共同發(fā)展安全可控的第三代人工智能，讓人工智能真正造福于人類。

標簽： 人工智能 安全 第三代 難題