“破壁人”AI亟需補(bǔ)完計(jì)劃

　 域名預(yù)訂/競(jìng)價(jià)，好“米”不錯(cuò)過(guò)

©新熵原創(chuàng)

作者 | 伊頁(yè) 編輯 | 明非

破壁人，是《三體》中的人類叛徒——地球三體組織，為了識(shí)別出面壁者內(nèi)心真實(shí)想法而安排的人。

侵略者三體人思維透明、無(wú)法撒謊，只能利用人類身份的破壁人，來(lái)瓦解地球人最后的希望，面壁計(jì)劃。

現(xiàn)實(shí)社會(huì)文明中，每一個(gè)人的內(nèi)心真實(shí)想法，其實(shí)也在被高速發(fā)展的人工智能，即AI技術(shù)所窺見(jiàn)。

《三體》中的地球難逃被殖民的命運(yùn)，現(xiàn)實(shí)中的人類又該如何避免，未來(lái)可能會(huì)發(fā)生的AI支配？

去年年底，谷歌AI倫理部門(mén)的聯(lián)合負(fù)責(zé)人Gebru發(fā)推表示自己被公司開(kāi)除。只因身為黑人女性的她，一篇引發(fā)爭(zhēng)議的論文內(nèi)容指出，不加區(qū)分地使用現(xiàn)有數(shù)據(jù)訓(xùn)練人工智能，會(huì)進(jìn)一步加深 AI 語(yǔ)言模型中對(duì)少數(shù)邊緣群體的偏見(jiàn)。

AI中涉及的倫理偏見(jiàn)現(xiàn)象一直貫穿至今。早在2015年就有谷歌相冊(cè)將兩個(gè)深膚色的人標(biāo)記為“大猩猩”的事件。新冠疫情期間又爆出AI技術(shù)將手持測(cè)溫計(jì)的深膚色人員圖像標(biāo)記為“槍”，而將相同條件下淺膚色人員的圖像標(biāo)記為“電子設(shè)備”。

當(dāng)AI沒(méi)有沿著技術(shù)研發(fā)之初，所設(shè)想的為人類服務(wù)、促進(jìn)社會(huì)發(fā)展的道路前行，反而屢次觸及文明社會(huì)倫理道德的紅線，這個(gè)“破壁人”顯然需要一個(gè)補(bǔ)完計(jì)劃來(lái)修正其軌道。

AI倫理的進(jìn)一步研究和落地，就成了計(jì)劃的關(guān)鍵。

新興技術(shù)或事物的橫空出世，由于場(chǎng)景應(yīng)用經(jīng)驗(yàn)不足、普羅大眾認(rèn)知落后等緣由，被視作洪水猛獸遭受歧視并不罕見(jiàn)。

歷史上，美國(guó)加州就曾出現(xiàn)過(guò)，要求汽車司機(jī)在接近馬匹的300英尺外停車等待，讓馬車先行通過(guò)的不平等法規(guī)。

但新科技的妖魔化，最終還是抵擋不了，人類社會(huì)對(duì)美好生活的追求。AI技術(shù)也注定成為，影響人類生活現(xiàn)狀的第四次工業(yè)革命的核心單元。

市場(chǎng)探索、行業(yè)規(guī)范、學(xué)術(shù)科研、國(guó)家監(jiān)管，多方主體關(guān)于AI倫理道德問(wèn)題的生態(tài)研究及建設(shè)，就需要發(fā)揮相應(yīng)的作用，急需行動(dòng)起來(lái)。

AI倫理需多個(gè)維度補(bǔ)完

自古以來(lái)，先哲們就非常強(qiáng)調(diào)人類倫理秩序與技術(shù)的和諧發(fā)展。柏拉圖在對(duì)希臘神話的解讀中，就指出普羅米修斯給人類所帶來(lái)的技術(shù)，與赫爾墨斯所帶來(lái)的秩序，共同構(gòu)成了完整的文明社會(huì)。

控制論之父維納，其著作《人有人的用處》中，關(guān)于自動(dòng)化技術(shù)和智能機(jī)器，得出過(guò)一個(gè)危言聳聽(tīng)的結(jié)論：“這些機(jī)器的趨勢(shì)是要在所有層面上取代人類，而非只是用機(jī)器能源和力量取代人類的能源和力量。”

這類激進(jìn)的論調(diào)，以及大多文藝作品中，對(duì)于未來(lái)人造機(jī)器掌控世界的擔(dān)憂，不免有些夸張，但也絕不是杞人憂天。

事實(shí)上，目前AI發(fā)展最大的問(wèn)題，早已不是技術(shù)上的瓶頸，而是AI與人類的關(guān)系問(wèn)題，這也催生了AI倫理學(xué)和跨人類主義倫理學(xué)的課題。

2018年，時(shí)任微軟全球執(zhí)行副總裁沈向洋博士在其主持編撰的《未來(lái)計(jì)算：人工智能及社會(huì)角色》一書(shū)中提出了AI開(kāi)發(fā)的六大原則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。

隨后，有另一家科技企業(yè)，百度也提出了AI倫理四原則：安全可控；促進(jìn)平等；教人學(xué)習(xí)、讓人成長(zhǎng)，而非取代人、超越人；為人類帶來(lái)更多的自由和可能。

而在去年，人工智能垂直頭部企業(yè)，商湯科技聯(lián)合上海交通大學(xué)清源研究院發(fā)布《AI可持續(xù)發(fā)展白皮書(shū)》，為解決人工智能治理問(wèn)題提出了一個(gè)新觀念和新思路。

其中提出的協(xié)商包容的AI倫理原則、普惠利他的AI惠民原則、負(fù)責(zé)自律的AI產(chǎn)融原則、開(kāi)放共享的AI可信原則，對(duì)于建立AI可持續(xù)發(fā)展體系，推動(dòng)數(shù)字經(jīng)濟(jì)領(lǐng)域治理研究，貢獻(xiàn)良多。

歸納來(lái)看，AI倫理問(wèn)題涉及涵蓋如下幾個(gè)維度：

AI安全可控：包括“AI模型安全”，數(shù)據(jù)和訓(xùn)練的不完整性，會(huì)導(dǎo)致模型偏見(jiàn)和可解釋性缺乏。如果模型存在心理、統(tǒng)計(jì)等偏見(jiàn)，會(huì)造成算法歧視；而如果模型結(jié)構(gòu)不能解釋不夠透明，那么公眾對(duì)其信任度會(huì)下降。“AI數(shù)據(jù)和隱私安全”，使用者善意地去使用技術(shù)，但仍然可能會(huì)被黑客找到漏洞。訓(xùn)練完畢的模型有可能會(huì)遭到黑客的竊取，或者被反向還原暴露用戶數(shù)據(jù)隱私。“AI系統(tǒng)安全”，系統(tǒng)威脅分為兩類，一類是硬件設(shè)備被破解，造成采集數(shù)據(jù)泄露；另一類是軟件系統(tǒng)漏洞被利用，從而在采集或傳輸過(guò)程中被竊取數(shù)據(jù)。

AI公平平等：不同區(qū)域的人、不同等級(jí)的所有人在AI面前是平等的，不應(yīng)該有人被歧視，包括有功能障礙的人群也應(yīng)該能夠平等地使用人工智能；

AI信息透明：盡管人工智能技術(shù)具備自動(dòng)識(shí)別理解現(xiàn)實(shí)世界，從現(xiàn)實(shí)場(chǎng)景中挖掘信息的能力，但只有在告知人且獲得同意的基礎(chǔ)上，才能收集、保存和使用這些信息。

AI行為問(wèn)責(zé)：人工智能不應(yīng)作為獨(dú)立的主體存在，具備自主權(quán)利，人類需要始終為使用人工智能造成的結(jié)果負(fù)責(zé)。

作為銜接前沿技術(shù)與民生應(yīng)用的市場(chǎng)主體，國(guó)內(nèi)外的企業(yè)，均已在AI倫理生態(tài)研究的大道上，邁出了強(qiáng)有力的步伐。

今年3月，《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》全文正式發(fā)布。在共19篇65章的綱要全文中，“智能”“智慧”相關(guān)表述達(dá)57處。

市場(chǎng)先行摸索，政策配套跟進(jìn)，理論學(xué)研支撐，國(guó)內(nèi)的人工智能行業(yè)發(fā)展，已然領(lǐng)先于世界。

中國(guó)的AI行業(yè)得益于全球最大的市場(chǎng)環(huán)境，儲(chǔ)備了非常豐富的數(shù)據(jù)資料，以及在技術(shù)場(chǎng)景落地的過(guò)程中，對(duì)大量一手?jǐn)?shù)據(jù)進(jìn)行分析學(xué)習(xí)并得到持續(xù)訓(xùn)練。

國(guó)內(nèi)企業(yè)亦在行業(yè)發(fā)展，AI倫理道德生態(tài)建設(shè)工作中功不可沒(méi)。在具體行動(dòng)上，商湯科技作為最早涌現(xiàn)出的一批先驅(qū)代表，就在其內(nèi)部設(shè)立了三重安全防護(hù)：倫理委員會(huì)、安全委員會(huì)、產(chǎn)品委員會(huì)。2019年商湯科技以組長(zhǎng)單位的身份，領(lǐng)銜27家企業(yè)機(jī)構(gòu)共同組建人臉識(shí)別技術(shù)國(guó)家標(biāo)準(zhǔn)工作組，全面啟動(dòng)人臉識(shí)別國(guó)家標(biāo)準(zhǔn)制定工作。

一年之后，全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能分技術(shù)委員會(huì)正式成立，商湯科技作為計(jì)算機(jī)視覺(jué)企業(yè)代表當(dāng)選為首批委員單位。從單項(xiàng)人臉識(shí)別技術(shù)，參與到AI技術(shù)各個(gè)應(yīng)用領(lǐng)域的國(guó)標(biāo)制定工作之中。

同時(shí)，其牽頭主編的《信息安全技術(shù) 生物特征識(shí)別信息保護(hù)基本要求》國(guó)家標(biāo)準(zhǔn)也正式立項(xiàng)。

國(guó)家層面行業(yè)標(biāo)準(zhǔn)的建立，就為全部行業(yè)內(nèi)的參與單位，劃定了行為邊界和規(guī)范。AI的安全使用，就不再是一句空談無(wú)法落地。

隨著標(biāo)準(zhǔn)覆蓋范圍的擴(kuò)大、細(xì)則的完善，AI技術(shù)才能真正成為可信賴、可控制、可依靠的市場(chǎng)化產(chǎn)品服務(wù)。

制定規(guī)則并非畫(huà)地為牢，AI產(chǎn)業(yè)的可持續(xù)發(fā)展同樣至關(guān)重要。2020年的疫情沖擊，更加凸顯AI技術(shù)的多元化場(chǎng)景積極作用。

回歸到普通消費(fèi)者，日益感知強(qiáng)烈的個(gè)人隱私安全問(wèn)題上，數(shù)據(jù)保護(hù)也是AI倫理補(bǔ)完計(jì)劃中的要害所在。

近兩年，商湯科技相繼獲得ISO/IEC 27701:2019 隱私信息保護(hù)管理體系證書(shū)、ISO29151個(gè)人身份信息保護(hù)實(shí)踐指南認(rèn)證、ISO27001信息安全管理體系認(rèn)證，以及公安部“網(wǎng)絡(luò)安全等級(jí)保護(hù)2.0”三級(jí)要求等權(quán)威認(rèn)證，成為首批同時(shí)獲此四大認(rèn)證的人工智能企業(yè)，并代表中國(guó)企業(yè)加入全球范圍內(nèi)首個(gè)系統(tǒng)化定義了隱私信息管理體系（PIMS），成功對(duì)接國(guó)際上最權(quán)威、最被廣泛接受的隱私保護(hù)標(biāo)準(zhǔn)。

不僅如此，商湯科技一直力推的AI基礎(chǔ)教育、AI智慧醫(yī)療，在國(guó)計(jì)民生領(lǐng)域，利用先進(jìn)技術(shù)推動(dòng)資源的普惠分配，讓每一個(gè)社會(huì)成員都能享受到科技進(jìn)步的紅利。

這也恰好體現(xiàn)了AI倫理中的公平、平等原則。在多維度建設(shè)AI倫理生態(tài)，補(bǔ)完AI倫理發(fā)展空缺方面，AI企業(yè)應(yīng)當(dāng)仁不讓。

產(chǎn)學(xué)研一體實(shí)踐理論結(jié)合

人工智能作為一項(xiàng)人類探索未知領(lǐng)域的前沿科學(xué)技術(shù)，就如同始祖、先輩對(duì)于火焰熱力、電氣磁力的探索利用，需要經(jīng)歷無(wú)數(shù)次實(shí)踐、論證、總結(jié)的循環(huán)往復(fù)。

辯證唯物主義認(rèn)識(shí)論問(wèn)題的著作《人的正確思想是從哪里來(lái)的？》中就詳細(xì)闡述了實(shí)踐與認(rèn)知的辯證關(guān)系。

正確思想的獲取，需要經(jīng)歷兩次飛躍。一次是實(shí)踐感性認(rèn)識(shí)的不斷積累，量變引起質(zhì)變，形成理性認(rèn)知；第二次則是拿理性認(rèn)知投入到新的實(shí)踐當(dāng)中，經(jīng)過(guò)結(jié)果成敗的檢驗(yàn)，方能掌握行之有效的辦法和規(guī)律。

AI技術(shù)發(fā)展過(guò)程中的補(bǔ)完工作，AI倫理體系的生態(tài)建設(shè)，亦要遵循這一路徑。

在當(dāng)下社會(huì)大分工的市場(chǎng)環(huán)境中，企業(yè)更多面向適應(yīng)市場(chǎng)需求的產(chǎn)品研發(fā)改進(jìn)工作，學(xué)術(shù)科研單位則是專注于技術(shù)成果的研發(fā)，這就導(dǎo)致中間缺少一道技術(shù)轉(zhuǎn)化成產(chǎn)品，產(chǎn)品成果反哺上游研發(fā)的橋梁。

日前，在商湯科技和上海交通大學(xué)的支持下，上海交大中國(guó)法與社會(huì)研究院和清源研究院共同成立計(jì)算法學(xué)與AI倫理研究中心。

該研究中心的合作就是典型的產(chǎn)學(xué)研一體化模式，AI產(chǎn)業(yè)內(nèi)的大企業(yè)和具有技術(shù)優(yōu)勢(shì)的科研院所、高校實(shí)施強(qiáng)強(qiáng)聯(lián)合，形成有利于科技成果市場(chǎng)化的聯(lián)合體，便能加速AI倫理生態(tài)建設(shè)工作的有效落實(shí)，進(jìn)而推動(dòng)整個(gè)產(chǎn)業(yè)的進(jìn)步發(fā)展。

上海交通大學(xué)中國(guó)法與社會(huì)研究院有著豐富的學(xué)術(shù)資源，并在風(fēng)險(xiǎn)社會(huì)與復(fù)雜系統(tǒng)理論、大數(shù)據(jù)治理和人工智能治理的比較制度分析、智慧司法等領(lǐng)域有深厚底蘊(yùn)。而商湯科技則能夠?yàn)榉▽W(xué)與人工智能的交叉研究提供技術(shù)支撐和產(chǎn)業(yè)界資源。

兩者的有機(jī)融合，可以讓計(jì)算法學(xué)與AI倫理研究中心成為在新興計(jì)算機(jī)系統(tǒng)研發(fā)、智能生態(tài)圈構(gòu)建、圍繞數(shù)字經(jīng)濟(jì)的規(guī)則博弈、人工智能立法等方面成為國(guó)內(nèi)頂級(jí)、國(guó)際知名的學(xué)術(shù)重鎮(zhèn)和高端智庫(kù)。

據(jù)悉，研究中心將針對(duì)隱私保護(hù)、算法公正、網(wǎng)絡(luò)安全、城市及社會(huì)的數(shù)字化治理、智慧法院、認(rèn)知科學(xué)與類腦計(jì)算、科技與法律及政策等重大課題進(jìn)行深入研究，并搭建計(jì)算法學(xué)交流與合作平臺(tái)。

因此，才能從產(chǎn)業(yè)和學(xué)術(shù)兩個(gè)角度，深入地挖掘AI倫理問(wèn)題產(chǎn)生的根源和背景，然后從源頭去針對(duì)性地解決隱患，并把 AI倫理滲透到整個(gè)學(xué)術(shù)界和產(chǎn)業(yè)界當(dāng)中。

當(dāng)然，完整的AI倫理生態(tài)，不僅僅局限于產(chǎn)業(yè)和科研雙方，國(guó)家相關(guān)監(jiān)管部門(mén)的支持和市場(chǎng)大眾消費(fèi)者的認(rèn)知提升，也是AI補(bǔ)完計(jì)劃不可缺少的兩環(huán)。

前者需要完善相關(guān)立法，加強(qiáng)技術(shù)與產(chǎn)品的管理力度，后者則應(yīng)該主動(dòng)提高對(duì)于前沿技術(shù)的客觀認(rèn)知。

AI技術(shù)產(chǎn)品的市場(chǎng)應(yīng)用，已經(jīng)處于從小規(guī)模驗(yàn)證走向了大規(guī)模應(yīng)用的階段，根據(jù)現(xiàn)有經(jīng)驗(yàn)謹(jǐn)慎推導(dǎo)，完善相關(guān)事前、事中、事后的審查、處罰機(jī)制，才能為更大范圍的普及推廣，杜絕倫理問(wèn)題產(chǎn)生的可能。

同樣，作為消費(fèi)端的市場(chǎng)大眾，理應(yīng)樹(shù)立正確的科學(xué)價(jià)值觀，既不能盲目追求新鮮潮流，又不該固步自封拒之于千里之外。尤其是作為產(chǎn)學(xué)研體系內(nèi)的專業(yè)人士，更需要以身作則堅(jiān)持正確的AI倫理觀，主動(dòng)引導(dǎo)普羅大眾的認(rèn)知行為。

相信在各方的不懈努力下，越來(lái)越多像計(jì)算法學(xué)與AI倫理研究中心這樣類型的主體出現(xiàn)，將進(jìn)一步促進(jìn)監(jiān)管主體和普通民眾的同步跟進(jìn)，國(guó)內(nèi)AI倫理的生態(tài)建設(shè)將日趨完善，獨(dú)步全球。

被視作人類“破壁人”的人工智能，在得到AI倫理體系的補(bǔ)完之后，也能回歸中性工具的角色，不再具有未來(lái)威脅的可能性。

但到了那時(shí)，新的“破壁人”又會(huì)以何種形式出現(xiàn)，就仰賴于人類自身的想象力了。

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！