為降低人工智能發(fā)展過程中可能存在的技術(shù)風(fēng)險(xiǎn)和倫理隱患，近日，北京智源人工智能研究院在北京專門成立人工智能倫理與安全研究中心，著力加強(qiáng)人工智能倫理與安全研究，引導(dǎo)行業(yè)健康發(fā)展，中國科學(xué)院自動(dòng)化研究所曾毅研究員任研究中心主任。

曾毅介紹，研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺(tái)、行業(yè)應(yīng)用等開展一系列研究，目前主要包括四大方面：一是低風(fēng)險(xiǎn)機(jī)器學(xué)習(xí)模型與平臺(tái)的構(gòu)建，建立機(jī)器學(xué)習(xí)模型安全性的評(píng)估體系;二是開展符合人類倫理道德的智能自主學(xué)習(xí)模型研究，實(shí)現(xiàn)人工智能行為與人類價(jià)值觀的校準(zhǔn)，并在模擬環(huán)境與真實(shí)場景中進(jìn)行驗(yàn)證;三是建設(shè)數(shù)據(jù)安全示范應(yīng)用系統(tǒng)，建立數(shù)據(jù)基礎(chǔ)設(shè)施、數(shù)據(jù)分級(jí)、權(quán)限控制、數(shù)據(jù)審計(jì)，最大限度防止數(shù)據(jù)泄密，降低風(fēng)險(xiǎn);四是構(gòu)建人工智能風(fēng)險(xiǎn)與安全綜合沙盒平臺(tái)，建設(shè)自動(dòng)檢測平臺(tái)，針對(duì)數(shù)據(jù)與算法的安全性、公平性、可追溯性、風(fēng)險(xiǎn)類型、影響程度與影響范圍等方面，對(duì)人工智能產(chǎn)品及應(yīng)用進(jìn)行風(fēng)險(xiǎn)與安全綜合檢測與評(píng)估，引導(dǎo)行業(yè)健康發(fā)展。(記者華凌)