小米、字節等11家企業被約談：督促“深度偽造”技術安全評估

3月18日消息，國家互聯網信息辦公室、公安部指導各地網信部門、公安機關近日加強對語音社交軟件和涉“深度偽造”技術的互聯網新技術新應用安全評估工作。映客、小米、快手、字節跳動、鯨準數服、云賬戶、喜馬拉雅、阿里巴巴、網易云音樂、騰訊、去演等11家企業被各地方網信部門、公安機關依法約談。

據網信中國公眾號消息，國家互聯網信息辦公室、公安部目前針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用開展指導約談工作，上述11家企業被督促按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等政策及法規要求，開展安全評估，切實履行企業信息內容安全主體責任。

據悉，國家互聯網信息辦公室、公安部下一步將繼續指導各地網信部門和公安機關加大巡查檢查力度，督促屬地互聯網企業嚴格遵守相關法律法規。

資料顯示， 深度偽造技術，是被稱作“生成式對抗網絡“的機器學習模型將圖片或視頻合并疊加到源圖片或視頻上，借助神經網絡技術進行大樣本學習，將個人的聲音、面部表情及身體動作拼接合成虛假內容的人工智能技術。它最常見方式是AI換臉技術，此外還包括語音模擬、人臉合成、視頻生成等。它的出現使得篡改或生成高度逼真且難以甄別的音視頻內容成為可能，觀察者最終無法通過肉眼明辨真偽。