深度學(xué)習(xí)是人工智能領(lǐng)域里的一個研究方向，主要是學(xué)習(xí)樣本數(shù)據(jù)的內(nèi)在規(guī)律和表示層次，這些學(xué)習(xí)過程中獲得的信息，對諸如文字，圖像和聲音等數(shù)據(jù)的解釋有很大幫助。它的最終目標(biāo)是讓機(jī)器能夠像人一樣具有分析學(xué)習(xí)能力，能夠識別文字、圖像和聲音等數(shù)據(jù)。

但深度學(xué)習(xí)領(lǐng)域一直都存在算法黑箱問題，即算法的設(shè)計者并不清楚模型是如何得出結(jié)論和預(yù)測的，設(shè)計者無法對這個結(jié)果進(jìn)行解釋和負(fù)責(zé)。

深度學(xué)習(xí)的另一個問題是容易被數(shù)據(jù)“噪音”干擾。只要在對抗網(wǎng)絡(luò)里加入一些“噪音”，可能就會讓計算模型出錯。典型的例子是，當(dāng)自動駕駛算法的訓(xùn)練數(shù)據(jù)存在被惡意添加了“噪音”（編注：噪音指的是人類無法察覺卻能夠?qū)λ惴ㄟM(jìn)行干擾的數(shù)據(jù)）后，可能會將STOP標(biāo)志識別錯誤，從而導(dǎo)致車禍。

算法黑箱、模型不安全易被干擾，這些目前人工智能領(lǐng)域里存在的問題，都向研究者提出了一個問題：未來，我們該向如何發(fā)展人工智能技術(shù)，從而使AI可以迎來二次曲線增長？

清華人工智能研究院院長、中國科學(xué)院院士張鈸以及他帶領(lǐng)的學(xué)生們給出的答案是：第三代人工智能技術(shù)。

近日，在北京舉行的“2020第三代人工智能產(chǎn)業(yè)論壇暨瑞萊智慧RealAI戰(zhàn)略發(fā)布會”上，張鈸接受了澎湃新聞（www.thepaper.cn）的采訪，他認(rèn)為要解決現(xiàn)在人工智能在落地應(yīng)用中遇到的問題，就需要打破現(xiàn)有的理論，邁向第三代人工智能。

在今年上海舉行的世界人工智能大會期間，張鈸對第三代人工智能做出過這樣的解釋：第一代知識驅(qū)動的AI利用知識、算法和算力3個要素構(gòu)造AI；第二代數(shù)據(jù)驅(qū)動的AI利用數(shù)據(jù)、算法與算力3個要素構(gòu)造 AI。由于第一、二代AI只是從一個側(cè)面模擬人類的智能行為，因此存在各自的局限性，不可能觸及人類真正的智能。

基于此，張鈸提出了出第三代人工智能的發(fā)展路徑是融合第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動的人工智能， 利用知識、數(shù)據(jù)、算法和算力4個要素， 建立新的可解釋和魯棒（音譯自“robust”，學(xué)術(shù)上即一個系統(tǒng)或組織有抵御或克服不利條件的能力）的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。

發(fā)展第三代AI技術(shù)中美處在同一起跑線

在張鈸看來，基于第三代人工智能理論發(fā)展的AI技術(shù)，會讓中國和美國處在同一起跑線上，甚至隨著發(fā)展會處在領(lǐng)先位置。

早在2015年，張鈸院士就曾提出發(fā)展“第三代人工智能”的理念。2018年，清華大學(xué)設(shè)立人工智能研究院，張鈸擔(dān)任新研究院的院長，聘請圖靈獎得主姚期智院士作為學(xué)術(shù)委員會主任。2019年，清華大學(xué)宣布成立人工智能研究院基礎(chǔ)理論研究中心，聘任清華大學(xué)計算機(jī)系長聘教授朱軍為研究中心主任。

新設(shè)立的基礎(chǔ)理論研究中心的任務(wù)是著眼于當(dāng)前人工智能理論和方法的不足，以克服當(dāng)前人工智能的技術(shù)局限為宗旨，以期建立魯棒（robust，指系統(tǒng)健壯、強(qiáng)壯；魯棒性是系統(tǒng)在異常情況下生存的關(guān)鍵）、可理解、數(shù)據(jù)高效和安全的第三代人工智能基礎(chǔ)理論和方法體系。

除了在基礎(chǔ)理論研究上，推進(jìn)第三代人工智能發(fā)展外，在2018年，由張鈸、朱軍（擔(dān)任首席科學(xué)家的瑞萊智慧（RealAI）作為產(chǎn)學(xué)研技術(shù)公司從清華大學(xué)人工智能研究院孵化成立。根據(jù)瑞萊智慧的官方介紹，公司就是以第三代人工智能技術(shù)為依托，克服一般深度學(xué)習(xí)存在的諸多缺點(diǎn)，從根本上增強(qiáng)人工智能的可靠性、可信性以及安全性。

相比之下，美國第三代人工智能技術(shù)的發(fā)展主要依賴于DARPA部門（美國國防高級研究計劃局）。2018年，由DARPA宣布啟動AI Next項(xiàng)目。

項(xiàng)目發(fā)布時，DARPA在其網(wǎng)站上介紹，從上世紀(jì)90年代開始，DARPA幫助引領(lǐng)了AI機(jī)器學(xué)習(xí)技術(shù)的第二次浪潮，該技術(shù)從大量數(shù)據(jù)中創(chuàng)建了統(tǒng)計模式識別器。DARPA對自然語言理解、問題解決、導(dǎo)航和感知技術(shù)的資助，發(fā)明了自動駕駛汽車、個人助理和近乎自然的假肢，還有大量重要的、有價值的軍事和商業(yè)應(yīng)用。然而，第二代人工智能技術(shù)依賴于大量高質(zhì)量的訓(xùn)練數(shù)據(jù)，不能適應(yīng)不斷變化的條件，提供有限的性能保證，無法向用戶解釋其結(jié)果。未來第三代AI技術(shù)可能會極大地改變軍事任務(wù)規(guī)劃，科學(xué)家可利用機(jī)器開展研究，人類可與機(jī)器互動。

DARPA還給出了AI Next項(xiàng)目的重點(diǎn)，即發(fā)展新能力、高可靠性AI、對抗性AI、高性能AI、下一代AI以及人工智能探索計劃。

這幾點(diǎn)與張鈸提出的發(fā)展安全、可信、可靠和可擴(kuò)展AI技術(shù)不謀而合。

“所以我們?yōu)槭裁磸?qiáng)調(diào)第三代人工智能有一個非常重要的因素就是，這個是我們國家歷史上第一次遇到跟別人站在同一起跑線上，發(fā)展第三代人工智能，國外跟我們一樣?！睆堚摳嬖V澎湃新聞。

國內(nèi)AI企業(yè)同質(zhì)化

胡潤發(fā)布的2019年全球人工智能行業(yè)獨(dú)角獸企業(yè)排行榜中，前40名企業(yè)中，中國占了15家，美國占了20家企業(yè)。

在采訪中，張鈸認(rèn)為這份榜單也說明了現(xiàn)在人工智能技術(shù)在落地過程中遇到的問題。從數(shù)量上看，中美兩國之間的AI獨(dú)角獸企業(yè)差距不大。但是如果仔細(xì)研究榜單上的公司，會發(fā)現(xiàn)，中國AI企業(yè)的同質(zhì)化明顯。

“這是不好的。你用同樣的技術(shù)，去做同樣的應(yīng)用場景，那就說明這個技術(shù)大家都會有，大家都會的技術(shù)用到大家都能想到的市場，肯定競爭非常激烈?！睆堚撜f。

另外，由于第二代人工智能技術(shù)限制，目前國內(nèi)的AI技術(shù)應(yīng)用場景有限，同時還可能會有安全問題。

不安全體現(xiàn)在兩個方面，一是數(shù)據(jù)，二是算法?！耙粋€隱私保護(hù)，一個知識產(chǎn)權(quán)，用戶的人臉數(shù)據(jù)憑什么給一家公司用，怎么用，數(shù)據(jù)都被公司收走，是否會造成不公平競爭，這些都是需要思考和治理的。”張鈸說。

再者，由于測試環(huán)境的脆弱性，很多算法在真實(shí)環(huán)境中，都極易被攻擊。在自動駕駛領(lǐng)域里，系統(tǒng)就很容易被攻擊和欺騙。

這樣的現(xiàn)狀，也就為第三代人工智能技術(shù)提供了發(fā)展前景。張鈸認(rèn)為，未來，一個算法可以被解釋，人們能了解機(jī)器做出預(yù)測的原因，且設(shè)計者有手段能阻止他人的攻擊。只有那樣，人工智能技術(shù)才會迎來更好的產(chǎn)業(yè)發(fā)展。

目前，由清華孵化的瑞萊智慧就在朝這樣的方向探索。經(jīng)過兩年的發(fā)展，瑞萊智慧近期對外交出了成績單，發(fā)布了兩款最新AI產(chǎn)品：隱私保護(hù)機(jī)器學(xué)習(xí)平臺RealSecure和人工智能安全平臺RealSafe2.0版本，前者是基于安全多方計算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等技術(shù)打造的數(shù)據(jù)安全共享基礎(chǔ)設(shè)施，通過打通數(shù)據(jù)孤島，解決企業(yè)機(jī)構(gòu)數(shù)據(jù)合作過程中的數(shù)據(jù)安全風(fēng)險和隱私泄露問題，后者是一套針對AI系統(tǒng)的防火墻與殺毒軟件，支持檢測對抗樣本攻擊、模型后門攻擊等新型安全漏洞，提供模型安全測評及防御的端到端解決方案，大幅提升AI系統(tǒng)的安全性。

最后，張鈸在采訪中也提到了人才的培養(yǎng)，他認(rèn)為人工智能產(chǎn)業(yè)要進(jìn)一步發(fā)展，必須是發(fā)展具有創(chuàng)新能力的AI人才。 “國內(nèi)人才的平均水平，比如清華，不管是本科、研究生平均水平都很高，但最高水平跟人家差的太遠(yuǎn)了。我們的人才培養(yǎng)中，沒出過愛因斯坦，也沒出過圖靈。這是我們未來需要思考的。”張鈸說。

文章來源于網(wǎng)絡(luò)，如有侵權(quán)請聯(lián)系刪除。