
要了解如何保護自己免受虛假資訊的侵害,您首先需要了解什麼是深度偽造。Deepfakes 是由人工智慧生成的圖像或視頻,用於製作高度逼真的內容。
深度偽造是如何製作的?
深度學習是一種先進的人工智慧 (AI) 方法,它使用多層機器學習演算法從原始輸入中逐步提取更高層級的特徵。它能夠從非結構化數據(例如人臉)中學習。
這些數據透過 GAN(生成對抗網絡,一種專門的機器學習系統)進行處理,從而製作出 Deepfake 影片。使用兩個神經網絡進行互相競爭,從而學習訓練集(例如,人臉照片)的特徵,然後產生具有相同特徵的新數據(新的「照片」)。
當網路根據訓練集測試創建的圖像時,虛假的圖像、視訊和音訊變得更加令人信服。這使得 Deepfake 成為一個更強大的威脅,因為它們可以利用合成技術來複製聲音。
創建深度偽造的另一種方法是使用自動編碼器架構。自動編碼器神經網路旨在將數據(例如圖像)編碼為低維潛在表示(即數學向量而不是像素),壓縮數據,然後在管道的另一端重建相同的數據。自動編碼器在電腦視覺領域有多種用途,例如筆跡分析和臉部辨識。
由於自動編碼器從影像(例如臉部影像)中尋找「基本」數據,因此它們非常擅長消除視覺雜訊。對於深度偽造軟體而言,這意味著自動編碼器架構可以從臉部影像中學習基本特徵和特性,同時很大程度上忽略影像中可能存在的無關因素,例如顆粒、陰影和其他「非臉部」元素,從而產生多功能且廣義的模型(即,可以對不同於原始訓練資料的資料執行有用轉換的模型)。
Deepfakes 是如何被利用的
雖然深度偽造的概念也用於在電影中創造視覺效果,但在線深度偽造有很多用途:
虛假宣傳活動,特別是在選舉期間,旨在左右民意。
勒索是指某人製作你的深度偽造影片或圖像,並威脅說如果你不屈服於他們的要求,他們就會發布它。
Deepfake 網路釣魚是指以幫助朋友、家人或同事為幌子即時冒充某人。
Deepfakes 的危險
隨著技術和人工智慧的發展,線上深度偽造影片和圖像變得越來越容易生成,也越來越令人信服。成為深度偽造的受害者對企業、名人、員工、候選人和普通個人都構成了很高的風險。
詐欺罪
2023年,香港一名金融工作者因深度偽造技術向一名詐騙藝術家支付了2,500萬美元。該員工被邀請與同事和公司財務長一起參加視訊通話。通話中,該名員工同意匯款2億港幣。
儘管他在會議上看到了其他員工和首席財務官,但這一切都是深度偽造的人工智慧操縱臉部辨識特徵,使其看起來像同事和財務長。
勒索和誹謗
2020 年,韓國警方發現一個犯罪團夥,他們拍攝高中女生的照片,然後在通訊應用程式 Telegram 上製作和傳播。幫助這些人的是高中男生,他們會拍攝同學的照片,有些是未成年人,然後把照片傳給創作者。
這些影片會在各個平台上傳播,讓女孩們束手無策。雖然他們沒有實施犯罪行為,但偽造的證據影響了社會對他們的看法,並且仍然給他們帶來心理創傷。
深度偽造網路釣魚
2024 年, 77 歲的英國婦女 Nikki 透過深度偽造影片被騙取了17,000 英鎊。這名女子在網路上認識了另一名女子,她們建立了戀愛關係——或者至少她是這麼認為的。詐騙者聲稱他們正在石油鑽井平台上工作,無法進行視訊通話,受害者需要支付代金券才能上網。當妮基開始懷疑時,肇事者開始向她發送“她自己在石油鑽井平台上”的視頻,打消了妮基的懷疑。隨著關係的繼續,妮基經常會要求進行視訊通話,但總是被拒絕,但不久之後就會收到人工智慧生成的文檔、圖像和視頻,讓她安心——然後要求更多的錢。
當妮基試圖將錢轉入伴侶的銀行帳戶時,她才得知這場騙局。
無害的深度偽造
一些線上深度偽造可能純粹是為了娛樂目的,試圖在社群媒體平台上吸引更多粉絲。
最受歡迎的深度偽造視頻之一是湯姆克魯斯 (Tom Cruise) 的視頻,發佈在 TikTok 上。儘管不是湯姆克魯斯本人,但該帳戶擁有一百萬粉絲,一些影片的觀看次數已接近 5000 萬次。最初,人們以為這位名人加入該平台是因為其影片、肖像、聲音甚至個性都非常令人信服。
2022年,YouTube 創作者 Shamook 拍攝了新蜘蛛人電影預告片,並將演員湯姆霍蘭德替換為原演員托比馬奎爾。該影片標題中列為 Deepfake,純粹是為了娛樂目的。
如何防止深度偽造
隨著深度偽造迅速成為日益嚴重的問題和安全風險,您可以採取一些措施來防止它發生在您或您的企業身上。
驗證所有請求
如果有人要求您提供個人資訊或敏感資訊,請透過輔助管道確認呼叫者的身份,例如回撥給他們所說的公司。
在所有線上帳戶上使用隱私設置
限制對包含您的影片或圖像的社交媒體帳戶的訪問,以減少複製您的肖像的機會。
密碼保護
定期更改你的密碼。確保所有密碼都是強密碼、唯一密碼、複雜密碼,且長度至少為 16 個字元。在共享帳戶上,使用密碼共享軟體,這樣您就不必向家人或員工透露密碼。
為帳戶新增雙重認證
確保所有線上帳戶都要求您在使用雙重認證存取之前驗證您的身分。這使得詐騙者更難入侵您的帳戶。
定期更新軟體
軟體更新對於確保您的裝置免受最新惡意軟體、間諜軟體和漏洞的侵害至關重要。
定期培訓員工
隨著科技的發展,深度偽造詐欺的運作方式也在不斷發展。了解最新的詐騙行為並與員工溝通如何識別這些詐騙行為至關重要。
了解如何識別深度偽造視頻
追蹤影片中個人的臉部特徵,以驗證是否與正常人類動作一致。
影片是否出現卡頓或清晰度不一致?
檢查自然動作,例如眨眼。是太少還是太多?
查看影片中的任何陰影和燈光,看看它們是否一致。
截取螢幕截圖並上傳至 Google 以驗證來源。
如果你是受害者該怎麼辦
記錄證據
確保保存深度偽造和與其相關的任何內容,包括評論、共享平台(如果適用)、螢幕截圖以及與其相關的任何數據。記下發生的日期、時間和平台。
通知平台
如果深度偽造內容來自某個平台,請將其報告給您看到該內容的主機平台,例如 YouTube、Facebook 或 X。大多數平台都有刪除被操縱媒體的政策。
聯繫當局
涉及身份或金融盜竊的深度偽造是犯罪行為。通知當地執法部門並提供證據,以便當局可以發布正式報告。此報告可用於您的銀行、保險、和其他官方犯罪帳戶。
尋求法律行動
研究您所在轄區的誹謗、版權或隱私權法,以確保您有令人信服的案例。檢查其他人是否也遭遇了同樣的騙局,如果可能的話,調查集體訴訟。
聘請公關公司
如果您或您的企業的聲譽受到威脅,與公共關係專家合作可以幫助您制定回應並將其分發給必要的各方以減輕任何損害。
最先進的防偽技術
一些科技公司正在開發深度偽造檢測工具,以幫助阻止錯誤訊息、詐欺和 Deepfake 網路釣魚詐騙的傳播。
一些新興技術現在正在幫助影片製作者驗證他們的影片。加密演算法可用於在指定影片過程中某些時間間隔插入哈希值;如果影片被更改,哈希值會發生變化。AI 和區塊鏈可以為影片註冊防篡改的數碼指紋。這類似於為文檔添加浮水印;而針對影片的難處在於,如果影片被壓縮以用於不同的編解碼器,則哈希值需要保留下來。
擊退 Deepfake 的仿冒企圖的另一種方法是使用一個可將專門設計的數碼「偽像」插入影片中的程式,從而隱藏人臉偵測軟件使用的圖元模式。然後,這些「偽像」會減慢 Deepfake 演算法的速度並導致品質不佳的結果,從而降低 Deepfake 成功的機會。
預防性安全保護:
確保員工和家人瞭解 Deepfake 的運作原理及其可能帶來的挑戰。
教育自己和他人如何識別 Deepfake 作品。
確保你具有媒體素養並使用高質素的新聞來源。
有良好的基本協議。對語音郵件和影片持懷疑態度並不能保證你永遠不會被欺騙,但可以幫助你避免很多陷阱。
定期備份可保護你的數據免受勒索軟件的侵害,並使你能夠恢復損壞的數據。
為不同的帳戶使用不同的強密碼,則可確保若一個網絡或服務被入侵,也不代表任何其他網絡或服務都已被入侵。如果有人進入了你的 Facebook 帳戶,你不會希望他們也能夠進入你的其他帳戶。
使用卡巴斯基防毒軟體等優秀的安全軟體來保護您的家庭網路、筆記型電腦和智慧型手機免受網路威脅。該軟體包提供了防毒軟體、 VPN (用於阻止您的 Wi-Fi 連線被駭客入侵)以及網路攝影機保護。
Deepfake 未來將如何發展?
Deepfake 不斷演變。兩年前,透過動作笨拙以及被冒充的人似乎從未眨眼的痕跡,很容易判斷出是 Deepfake 影片。確保您在網路上保持安全,並對任何線上活動保持警惕和懷疑,特別是涉及個人資訊時,有助於人們在詐欺發生之前識別詐欺行為。
網絡纏擾常見問題
甚麽是網絡釣魚詐騙
社會工程欺騙攻擊 是一種網路釣魚詐騙,透過冒充他人來欺騙和操縱個人。這些騙局的目的是獲取敏感資訊並讓受害者轉移資金或存取系統。
我是否應該擔心語音深度偽造會被用於詐騙?
是詐騙者現在可以產生聽起來與您一模一樣的深度偽造音頻,以幫助您的名義向朋友、家人或同事勒索金錢。為了解決這個問題,請與親人設置暗號或安全問題,騙子不會知道答案,您可以在通話過程中詢問,以驗證他們的身份。
深度偽造身分盜竊是如何發生的?
詐騙者可以利用您的肖像或聲音偽造文件、更改帳號或透過電話冒充您。
深度偽造是如何製作的?
Deepfake 視訊、音訊和影像是由人工智慧製作的。機器學習吸收您外觀的所有數據並創建合成版本。
推薦產品: