“人工智能作為賦能技術(shù)，需要一個治理的階段。人工智能應(yīng)用發(fā)展迅速，有些在智慧城市建設(shè)領(lǐng)域起著核心作用，也有野蠻生長的現(xiàn)象，我們需要一個規(guī)則性治理。”在2021世界人工智能大會“共話標(biāo)準(zhǔn)，驅(qū)動產(chǎn)業(yè)”標(biāo)準(zhǔn)化分論壇上，中國科學(xué)院院士、工信部新一代人工智能標(biāo)準(zhǔn)與應(yīng)用重點實驗室主任委員何積豐進(jìn)行主旨報告時表示。
何積豐是著名計算機(jī)軟件科學(xué)家�，F(xiàn)任華東師范大學(xué)終身教授、軟件學(xué)院院長，中國科學(xué)院信息學(xué)部常委會副主任，上海市科協(xié)副主席，國家可信嵌入式軟件工程技術(shù)研究中心首席科學(xué)家，上海市高可信計算重點實驗室主任。
2021世界人工智能大會于7月8日至10日在上海召開，今年是第四屆大會，以“智聯(lián)世界 眾智成城”為主題，圍繞“AI賦能城市數(shù)字化轉(zhuǎn)型”方向，探討人工智能技術(shù)創(chuàng)新與產(chǎn)業(yè)落地的前沿進(jìn)展，廣泛傳遞城市數(shù)字化轉(zhuǎn)型的理念與價值，推動相關(guān)治理和規(guī)范形成全球共識。
“人工智能的范圍遠(yuǎn)遠(yuǎn)不只計算機(jī)學(xué)科，人工智能在數(shù)學(xué)、物理、社會學(xué)、心理學(xué)等都發(fā)揮了一些不可替代的作用。”何積豐認(rèn)為，人工智能常被看作計算機(jī)科學(xué)的分支，但事實上是在自然科學(xué)和社會科學(xué)的交叉口。“我們應(yīng)該給智能技術(shù)設(shè)一個紅線，規(guī)定什么事情不能做。”
何積豐在演講中表示，人工智能本質(zhì)是機(jī)器模擬人類思考行為的能力，人工智能的發(fā)展可以分為三階段：弱人工智能、強(qiáng)人工智能、超人工智能。而我們正處于中間階段。
弱人工智能著重對人類推理過程的模仿，通常只擅長于某個特定領(lǐng)域；強(qiáng)人工智能是可以達(dá)到人類思維級別的人工智能程序，“深度學(xué)習(xí)”、“因果推理”和“大數(shù)據(jù)”是其發(fā)展的引擎和燃料；超人工智能具有全方位超越人類大腦的思維能力，例如自我學(xué)習(xí)、情感等。
何積豐指出，可信人工智能應(yīng)該具備于人類智能類似的特質(zhì)，包括透明性、可解釋性、公平性、魯棒性、自適性等特質(zhì)。比如說，告訴用戶該智能系統(tǒng)工作原理，告訴用戶該智能系統(tǒng)在什么環(huán)境下不工作。
針對安全問題，何積豐提出幾點安全對策：保護(hù)模型和算法，對于早期的數(shù)據(jù)質(zhì)量、模型等制定標(biāo)準(zhǔn)，并要求模型在部署后的可解釋性；保護(hù)隱私；公平建模；可信驗證；倫理法律等。
其中，關(guān)于公平性，他指出兩個問題。第一，中國作為一個地域遼闊、人口眾多的大國難免經(jīng)濟(jì)發(fā)展不平衡，沿海地區(qū)和偏遠(yuǎn)地區(qū)的經(jīng)濟(jì)發(fā)展差異也使得人們在高科技的使用上有差異，因此這種公平的實現(xiàn)相對較難。第二，不同年齡的人掌握新技術(shù)的能力有差別。他表示，“但是現(xiàn)在我們也沒有很好的辦法去做普及。前段時間網(wǎng)上有個老太太上公交車，讓她顯示健康碼，但她沒有智能手機(jī)。”
關(guān)于可信驗證，他認(rèn)為要拿出辦法判斷某系統(tǒng)是否可信、可信度達(dá)到了哪一等級。“在云計算的發(fā)展支撐下，很多軟件系統(tǒng)發(fā)生了大變化。過去的軟件系統(tǒng)十分專業(yè)，它是否可靠只影響一部分業(yè)務(wù)；現(xiàn)在鼓勵企業(yè)上云，很多業(yè)務(wù)在云上，云變成像電、水一樣的公共設(shè)施，公共設(shè)施的可信極其關(guān)鍵。”
中國-博士人才網(wǎng)發(fā)布
聲明提示：凡本網(wǎng)注明“來源：XXX”的文/圖等稿件，本網(wǎng)轉(zhuǎn)載出于傳遞更多信息及方便產(chǎn)業(yè)探討之目的，并不意味著本站贊同其觀點或證實其內(nèi)容的真實性，文章內(nèi)容僅供參考。
