近日，杭州警方披露AI大模型換臉竊取個人隱私全國首案，令人細(xì)思極恐。
犯罪分子將受害人靜態(tài)照片，輸入到模型中，再通過文字、語音提出需求，生成一段活體視頻。這段活體視頻可以模仿人臉進(jìn)行點頭、眨眼、側(cè)臉，突破平臺人臉認(rèn)證，強(qiáng)制登錄他人賬號，獲取大量受害人隱私數(shù)據(jù)出售獲利。
這只是AI技術(shù)應(yīng)用亂象的冰山一角。近年來，人工智能技術(shù)迅猛發(fā)展，帶來更多新機(jī)遇和更便捷服務(wù)，但新技術(shù)也往往被一些不法分子利用，成為違法犯罪的“幫兇”。
AI“換臉”實施詐騙、AI偽造圖片傳播謠言、AI推銷電話讓人不堪其擾……種種亂象，不僅侵犯消費者合法權(quán)益，威脅人身財產(chǎn)安全，也阻礙了AI行業(yè)的健康有序發(fā)展。
毋庸置疑，AI是科技發(fā)展的重要方向，是各國競爭的科技高地。但發(fā)展AI的同時，絕不能忽視其風(fēng)險隱患。為狂飆的AI系好“安全帶”，讓其成“幫手”而不是“幫兇”，重在加強(qiáng)治理和規(guī)范。
在近期舉行的2024年國家網(wǎng)絡(luò)安全宣傳周上，AI的安全應(yīng)用問題，成為熱門話題。期間，相關(guān)部門發(fā)布《人工智能安全治理框架》1.0版，提出人工智能安全治理原則等方向性的破解思路。一些應(yīng)對AI安全風(fēng)險的黑科技也亮相網(wǎng)絡(luò)安全博覽會，比如AI實時鑒偽系統(tǒng)，針對AI換臉、AI擬聲等詐騙套路進(jìn)行有效識別、反制。
科技從來都是“雙刃劍”，是好是壞，是益是害，關(guān)鍵看握劍的人準(zhǔn)備怎么用。在大力發(fā)展AI的時候，務(wù)必增強(qiáng)安全意識，加強(qiáng)相關(guān)安全技術(shù)推廣應(yīng)用，推動社會各方形成治理共識，讓AI更好造福人類。(文案：馬若虎)
編輯：譚鵬
