小米、字節(jié)等11家企業(yè)被約談：督促“深度偽造”技術(shù)安全評(píng)估

3月18日消息，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)近日加強(qiáng)對(duì)語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作。映客、小米、快手、字節(jié)跳動(dòng)、鯨準(zhǔn)數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)被各地方網(wǎng)信部門、公安機(jī)關(guān)依法約談。

據(jù)網(wǎng)信中國(guó)公眾號(hào)消息，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部目前針對(duì)近期未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用開展指導(dǎo)約談工作，上述11家企業(yè)被督促按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等政策及法規(guī)要求，開展安全評(píng)估，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

據(jù)悉，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部下一步將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)。

資料顯示， 深度偽造技術(shù)，是被稱作“生成式對(duì)抗網(wǎng)絡(luò)“的機(jī)器學(xué)習(xí)模型將圖片或視頻合并疊加到源圖片或視頻上，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí)，將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容的人工智能技術(shù)。它最常見方式是AI換臉技術(shù)，此外還包括語(yǔ)音模擬、人臉合成、視頻生成等。它的出現(xiàn)使得篡改或生成高度逼真且難以甄別的音視頻內(nèi)容成為可能，觀察者最終無(wú)法通過(guò)肉眼明辨真?zhèn)巍?