人工智能技術(shù)正給人類(lèi)社會(huì)治理帶來(lái)全新的挑戰(zhàn)。對(duì)學(xué)術(shù)界而言，有些研究已經(jīng)“等不起”了。
日前，在上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心成立儀式上，AI倫理課題組負(fù)責(zé)人田豐向全社會(huì)征集研究者和志愿者。 “我們現(xiàn)在對(duì)人工智能治理的研究還遠(yuǎn)遠(yuǎn)不夠。”田豐是商湯智能產(chǎn)業(yè)研究院院長(zhǎng)，兼任上海交通大學(xué)計(jì)算法學(xué)與AI倫理研究中心聯(lián)袂主任。在他看來(lái)，隨著人工智能賦能百業(yè)效應(yīng)的顯現(xiàn)，將帶來(lái)生產(chǎn)效率上百倍乃至上千倍的提升，同時(shí)也可能把人性善惡帶來(lái)的影響放大百倍、千倍，因此，人工智能治理研究必須走在實(shí)踐前面，通過(guò)研究提升人工智能治理能力，從而為城市的數(shù)字化轉(zhuǎn)型提供更好的支撐。
人工智能會(huì)產(chǎn)生“歧視”和“偏見(jiàn)”，該怎么辦？
就在去年，深圳法院認(rèn)定人工智能生成的文章構(gòu)成作品并擁有著作權(quán)，這一全國(guó)首例判例一度引發(fā)法學(xué)界熱議。而這只是人工智能發(fā)展給人類(lèi)社會(huì)帶來(lái)的挑戰(zhàn)之一，也凸顯了人工智能治理的重要意義。
所謂人工智能治理，即針對(duì)人工智能的開(kāi)發(fā)和應(yīng)用所帶來(lái)的社會(huì)風(fēng)險(xiǎn)，確保數(shù)據(jù)安全和算法公正，使科技真正造福于人類(lèi)并且處于可控狀態(tài)。上海交通大學(xué)中國(guó)法與社會(huì)研究院院長(zhǎng)、著名法學(xué)家季衛(wèi)東說(shuō)，必須明確相關(guān)的原則、倫理、政策、法律、行業(yè)規(guī)則、技術(shù)標(biāo)準(zhǔn)，形成綜合治理的規(guī)范性框架，并把合規(guī)要求落到實(shí)處。
“隨著信息與通信技術(shù)的迅猛發(fā)展，社會(huì)生活的方方面面都在數(shù)字化。法治中國(guó)的大政方針則意味著法律系統(tǒng)與社會(huì)系統(tǒng)的完全對(duì)應(yīng)。數(shù)字全覆蓋、法治全覆蓋，兩者重疊在一起，決定了人工智能治理的重要性。”季衛(wèi)東告訴記者，物理空間與信息空間的交融，以及社會(huì)的智能網(wǎng)絡(luò)化，勢(shì)必帶來(lái)治理方式以及法律秩序原理的深刻變化。
在季衛(wèi)東看來(lái)，當(dāng)前的人工智能已經(jīng)具備一定的自主學(xué)習(xí)與決策能力，但并不具備法律人格，而現(xiàn)行法律也未明確界定人工智能的設(shè)計(jì)、制造、消費(fèi)、使用等各環(huán)節(jié)主體的責(zé)任與義務(wù)。這使得一旦人工智能在使用過(guò)程中出現(xiàn)問(wèn)題，法律對(duì)責(zé)任的認(rèn)定和劃分難度大增。比如，自動(dòng)駕駛汽車(chē)決策錯(cuò)誤導(dǎo)致人員傷亡、智能醫(yī)療助理給出錯(cuò)誤醫(yī)療建議導(dǎo)致患者病情加重等，當(dāng)這類(lèi)情況發(fā)生時(shí)，如何明確界定主體責(zé)任？
“弱人工智能演進(jìn)至強(qiáng)人工智能階段后，更會(huì)對(duì)現(xiàn)行法律法規(guī)及其執(zhí)行機(jī)制等造成深遠(yuǎn)影響。”上海市科學(xué)研究所科技與社會(huì)研究室主任王迎春說(shuō)，從去年發(fā)布的全球人工智能治理年度觀察來(lái)看，隨著城市數(shù)字化轉(zhuǎn)型，人工智能會(huì)越來(lái)越多地用于生產(chǎn)和社會(huì)治理，這樣的融合將帶給我們意想不到的挑戰(zhàn)。
比如，當(dāng)下人工智能主要是大數(shù)據(jù)驅(qū)動(dòng)，訓(xùn)練數(shù)據(jù)的偏差不可避免地會(huì)導(dǎo)致人工智能產(chǎn)生“歧視”和“偏見(jiàn)”。不論是曾經(jīng)公開(kāi)測(cè)試的微軟小冰還是別的人工智能，“他們”都在根據(jù)收集到的大數(shù)據(jù)“自主學(xué)習(xí)”中習(xí)得了一些“偏見(jiàn)”和“不良習(xí)慣”。此外，人工智能用于社會(huì)治理時(shí)，數(shù)據(jù)使用的邊界究竟在哪里？這些都需要學(xué)界進(jìn)一步研究。
“只是技術(shù)的基礎(chǔ)和載體變了，而人性并沒(méi)有變”
盤(pán)點(diǎn)全球人工智能研究領(lǐng)域的成果，在過(guò)去10年，人工智能安全風(fēng)險(xiǎn)和防御方面的論文數(shù)量增加了差不多10倍。 “人工智能治理已經(jīng)成為全球?qū)W術(shù)界研究的熱點(diǎn)之一，甚至有學(xué)者建議，設(shè)定全球統(tǒng)一的人工智能的數(shù)據(jù)使用標(biāo)準(zhǔn)。”上海交大法律大數(shù)據(jù)分析中心主任楊力說(shuō)。
其實(shí)，人工智能治理中的安全問(wèn)題、法律問(wèn)題等都并非人工智能出現(xiàn)后才有。在早期互聯(lián)網(wǎng)或者更早IT基礎(chǔ)設(shè)施剛剛開(kāi)始建設(shè)時(shí)，這些問(wèn)題就已經(jīng)出現(xiàn)。田豐直言：只是技術(shù)的基礎(chǔ)和載體變了，而人性并沒(méi)有變。
他舉了個(gè)簡(jiǎn)單的例子。開(kāi)源共享是當(dāng)下人工智能發(fā)展過(guò)程中倍受推崇的一種方式，因?yàn)樗苯訋?lái)了知識(shí)共享，有助于人工智能的研究和發(fā)展提速。但是，開(kāi)源共享也使得更多的安全漏洞被暴露出來(lái)，同時(shí)也會(huì)有在一些黑色或灰色產(chǎn)業(yè)地帶活動(dòng)的人研究開(kāi)源框架，這會(huì)帶來(lái)很多難以預(yù)測(cè)的產(chǎn)業(yè)發(fā)展風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)。
“人工智能的最大特點(diǎn)是效率躍升，這也使得人性中的善惡帶來(lái)的影響都會(huì)加速放到最大。這也是為什么我們的研究必須要有一定的超前性和前瞻性，并且要加快研究速度，這樣才可能為整個(gè)技術(shù)創(chuàng)新發(fā)展鋪平道路。”田豐說(shuō)。
在關(guān)注技術(shù)創(chuàng)新的同時(shí)，還要注意風(fēng)險(xiǎn)防范
“當(dāng)下，人工智能治理已經(jīng)受到了政府、智庫(kù)以及企業(yè)界等多方面的關(guān)注。但是從學(xué)界研究到現(xiàn)實(shí)應(yīng)用，都應(yīng)進(jìn)一步提速。”季衛(wèi)東告訴記者，技術(shù)往往跑得比法律、社會(huì)治理的規(guī)范更快更前，人工智能的發(fā)展已經(jīng)進(jìn)入爆發(fā)期，而治理體系作為法律與社會(huì)互動(dòng)的一部分，其發(fā)展演變卻相對(duì)緩慢。
季衛(wèi)東直言，技術(shù)快速迭代提醒國(guó)內(nèi)學(xué)術(shù)界要加強(qiáng)跨學(xué)科的協(xié)同研究，要從規(guī)范制定、制度框架以及技術(shù)、道德原則、政策等層面加快對(duì)人工智能治理的研究。當(dāng)下的人工智能治理不能只是停留在簡(jiǎn)單行政規(guī)制上，而要注意不同價(jià)值取向和利益的平衡，采取因勢(shì)利導(dǎo)的“助推”手法。
確實(shí)，有一些問(wèn)題是技術(shù)層面的，比如人工智能的自主學(xué)習(xí)過(guò)程中出現(xiàn)的算法“黑箱”導(dǎo)致的問(wèn)題，就必須從技術(shù)層面解決。但更多在人工智能治理中的問(wèn)題，需要政府、企業(yè)以及個(gè)人協(xié)同解決。以去年發(fā)表在《自然神經(jīng)科學(xué)》雜志上的成果為例，其開(kāi)發(fā)的人工智能系統(tǒng)，可以將大腦活動(dòng)轉(zhuǎn)化為文本數(shù)據(jù)。一旦這一技術(shù)成熟用于腦機(jī)接口，那么如何保護(hù)個(gè)人隱私，則必須由政府、科技界、法學(xué)界等重新給出解決方案。
田豐同樣認(rèn)為，人工智能治理要關(guān)注的對(duì)象，既包括整個(gè)產(chǎn)業(yè)鏈中所有各方，也要涵蓋政府、用戶等整個(gè)科技治理領(lǐng)域各方的權(quán)、責(zé)、利。
季衛(wèi)東稱(chēng)，就人工智能治理而言，在關(guān)注技術(shù)創(chuàng)新的同時(shí)，還要注意預(yù)防和及時(shí)解決人工智能可能帶來(lái)的社會(huì)問(wèn)題，政府和相關(guān)機(jī)構(gòu)應(yīng)該及時(shí)確立人工智能研發(fā)的安全框架和技術(shù)標(biāo)準(zhǔn)，包括確保人工智能應(yīng)用的合法合規(guī)、人工智能的功能可靠可控、驅(qū)動(dòng)人工智能的數(shù)據(jù)安全可信，以及人工智能在用于社會(huì)治理時(shí)的決策公平公正，人工智能算法的可解釋性和可追溯性， “只有這樣才能為我們的城市數(shù)字轉(zhuǎn)型提供更安全、可靠的環(huán)境”。
中國(guó)-博士人才網(wǎng)發(fā)布
聲明提示：凡本網(wǎng)注明“來(lái)源：XXX”的文/圖等稿件，本網(wǎng)轉(zhuǎn)載出于傳遞更多信息及方便產(chǎn)業(yè)探討之目的，并不意味著本站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性，文章內(nèi)容僅供參考。
