剛剛，他一個會議被騙了2個億

茉莉7eo6t3y9 2024-03-02 發布于山西

展開全文

“人工智能之父”杰弗里·欣頓有個末日預言：人工智能可能對人類構成巨大威脅。因為，“很難找到防止壞人用它做壞事的方法”。

不幸的是，這一預言正成為現實。

高端局來了

一個跨國公司白領，一杯咖啡的功夫，就讓公司損失了2億港元。

原因是，他被邀請參加了一場公司高管的視頻會議，總部首席財務官在會上要求他馬上給幾個賬戶共轉賬2個億，在其他同事的配合下，他當場就把事情辦妥了。

但事實上，這場會議就是個騙局，整場視頻會議的出席者，只有他一個“真人”！

這是香港警方近期披露的一起多人“AI換臉”詐騙案。被詐騙職員親眼見到的所有人、親耳聽到的所有聲音，全都來自經過“AI換臉、換聲”的詐騙人員。

這位員工并非是沒有警惕的“二愣子”。

最初收到英國總部CFO的郵件，稱公司正在計劃一個“秘密交易”，需要他將公司資金轉到幾個香港本地賬戶中待用時，他并沒有相信，而且認為這是釣魚詐騙郵件。

但當騙子給他撥了個視頻電話，而且還邀請了其他幾位“真實親切”的同事在旁協助時，他徹底放下了戒備。

甚至，事件發生5天之后，他在向英國公司求證時才發現自己被騙了。

同樣可怕的“遭遇”，也發生在福州市某科技公司法人代表郭先生身上。

2023年4月20日，一位好友突然打了個微信視頻：“老郭，我一個朋友在外地競標，需要430萬保證金。你看看能不能先走你的公司賬戶，幫忙過個賬？”

好友說錢已打過來，還發了銀行轉賬底單截圖。

因為是視頻聊天，郭先生就沒核實錢是否到賬，直接給對方賬戶轉了430萬。

事后，郭先生給好友打了電話，稱“事情辦妥了”，對方卻驚訝回應完全沒有這回事。

9分鐘，430萬沒了！

坑了郭先生的，也是AI詐騙。

綜合公開信息，這種讓人防不勝防的騙局，一般分三步：

1.不法分子用AI機器人騷擾電話，獲取用來行騙的目標對象的聲音素材，然后進行聲音偽造；

2.盜取目標對象的社交賬號，尋找受害人；

3.用AI換臉技術，和受害人視頻通話，博取信任，實施詐騙。

三步下來，以往“發個語音”、“打個視頻”的防詐手段，在AI詐騙面前基本失效。

更可怕的是，掌握AI的騙子，越來越多了！

公開信息顯示，2021年以來多個省份都出現了AI詐騙及不當牟利案件。中國互聯網協會2023年5月24日稱，利用“AI換臉”“AI換聲”等進行詐騙、誹謗的違法行為屢見不鮮。

當傳統認知里，受騙對象還多是經不起誘惑、社會經驗少的“冤大頭”，以及一些不常上網的老年人。

只要給幾張照片和幾秒語音，就能復刻出“真人”的AI詐騙，卻讓每個人都可能難逃一劫。

比如假扮大學同學、親戚、供貨商等AI視頻借錢案件，就層出不窮。

如果覺得從不借錢便不會中招，就太天真了。

當騙子偽裝成領導，以匯款、資金周轉等緊急理由，要求下屬立即轉賬，很少有人能頂住壓力。更有甚者，騙子直接偽造子女、父母車禍入院等借口，利用親人感情實施欺詐。

據湖北網警巡查執法公布消息，AI技術新騙局詐騙成功率竟接近100%，其成功率之高、涉案金額之大、詐騙速度之快令人咋舌。

更令人毛骨悚然的是，信息泄露、隱私不安全的普遍現實，為AI詐騙造就了“天然溫床”。

2023年2月15日，一則“幾乎無人幸免，疑似45億條電商或快遞信息泄露”的消息，沖上熱搜。有網友忍不住吐槽：“要有多強的防范意識，才能想到跟你視頻通話的親友，不是一個大活人啊？要有多強的隱私意識，才能保證自己信息不泄露或被竊取？”

微博大V@全民防詐騙，甚至因此預言：“你目前還沒被騙，并不是因為你多聰明，也不是因為你沒錢，而是適合你的'劇本’還在路上。”

全球大爆發

2023年4月末，一位叫詹妮弗·德斯特凡諾的美國母親突然接到電話：“媽媽，救命！”

眼看大女兒布里安娜似乎陷入了大麻煩，詹妮弗嚇呆了。

接下來便是對方威脅：

“如果你打電話報警，就永遠別想再見到她了！”

掛斷后，詹妮弗立馬要給贖金。

幸運的是，女兒正好打來電話，騙局不攻自破。但心有余悸的她仍無比驚訝：

“就算隔一棟樓，我也不會認錯自己孩子的哭泣聲。”

詹妮弗想不到的是，突飛猛進的AI技術，早已比一個母親更了解自己的孩子。而騙子支付的代價，可能還不到每月5美元。

2017年，名為“Deepfakes”的網友，利用AI技術發布了將色情演員換臉成蓋爾·加朵等名人的視頻片段，引發軒然大波。

被稱為“深度偽造”（Deepfake）的AI換聲及換臉技術，自此進入大眾視野。

一些從事類似詐騙的不法分子，立馬盯上了這一先進技術。

2019年3月，一詐騙犯借助連“微妙的德國口音”也毫無破綻的AI換聲技術，冒充一家英國能源公司大老板，忽悠其高管轉了22萬歐元，這被視為全球首例人工智能詐騙案。

隨后，AI技術流行的歐美，迅速成為AI詐騙的溫床。

美國聯邦調查局年度報告顯示，2022年美國AI詐騙同比上漲了50%到75%，美國網絡詐騙損失達103億美元，創五年來新高，面向老年人的AI語音騙局則是重災區。世界經濟論壇研究與分析主管布魯內曼的調查則顯示，“在過去一年里，26%的小公司和38%的大公司都經歷過深度偽造欺詐”。她甚至預測：

到2026年，超90%的網絡攻擊內容都將是AI合成。

AI詐騙的效果越來越逼真，但技術門檻和成本，卻一直在降低。

美國加州大學伯克利分校教授法里德表示，AI換聲到現在已經只需要十幾秒錄音就能實現，換臉則一張照片就可以。相應的AI使用費，也只需每月5美元到數百美元不等。

這基本上意味著，普通人都能“輕松”進行不法活動。

而且，AI還可以通過信息收集及大數據分析，智能篩選出“易騙人群”。比如進行金融詐騙，就可以搜集熱衷關注投資信息的人群，成為潛在目標。

甚至，AI還能分析目標對象的社交網絡，進而掌握其個性化表達方式、人際關系、興趣愛好等生活習慣，實現“詐騙劇本”定制化。

法里德因此驚呼：

“這很可怕，就像一場完美的風暴，具備了釀成大禍的所有條件。”

但盡管風險顯而易見，AI語音及視頻合成技術卻仍在狂奔。

今年春節期間，OpenAI文生視頻模型Sora橫空出世，讓AI視頻制作更加簡單、真實。一夜之間，“現實不存在了”的驚嘆，刷遍朋友圈。

當AI簽名、AI視頻、AI換聲換臉等，本應創造美好和便利的高端技術變成壞人手中的“魔杖”，無數人和機構的財產、信息及現實安全，也越來越形同“裸奔”。

沒有真相的時代

“現在已經到了大規模、集中化討論AI風險的關鍵時刻”，清華大學教授沈陽曾如此呼吁。

其實，對AI詐騙的警惕與治理方案，早已在路上。

美國安全中心發布的《人工智能與國家安全》，明確將人工智能偽造技術列為威脅國家安全的重點技術。中國也開始通過政策管理和技術限制等途徑，來應對其潛在安全風險。

但AI詐騙，似乎是打不死的“小強”——打擊不斷升級，案件也屢創歷史新高。

根本原因，還是法律法規制定、推廣的建設速度，趕不上AI技術的迭代和傳播速度。產業、大眾對AI危害的反應，也很容易慢半拍。

如今，AI騙局也早已超出“詐騙”范疇，蔓延到社會的各個角落。

今年1月底，明星泰勒·斯威夫特大量AI“不雅照片”在社交平臺上傳播，此事甚至震動美國白宮，并掀起一波關于人工智能的擔憂。

包括白宮，也難以幸免。

上周，很多人都接到了美國總統拜登的AI電話呼叫，要求把選票留給自己而非特朗普。

這當然也是假的，但不少人還是信了。有人因此認為，AI騙局可能會影響美國大選。

在中國，假新聞、假圖片案件也甚囂塵上。

2023年5月，科大訊飛就受一篇名為《科大訊飛出現重大風險的警示文》的文章影響，股價迅速跳水。公司最后緊急回應，股價下跌系某生成式AI寫作虛假“小作文”導致。

AI越來越方便著人們的生活，但也方便著不法分子們。

2023年4月13日索尼世界攝影獎頒獎禮，大獎得主卻沖上舞臺奪過話筒，悲憤地說這是AI偽作。他反問，“如果索尼世界攝影獎的評委都分不清真假照片，其他人還能怎么辦？”

當AI騙局從專業級走向“平民化”，我們能做的，除了寄望于監管，或許就是：

對家人的電話，視頻等等一切，都要首先報以深深地懷疑。以及把那句，不給任何陌生人匯款變成：

不給任何人匯款。

歡迎點擊關注《首席訪談》，記得點亮“星標”哦！

本站是提供個人知識管理的網絡存儲空間，所有內容均由用戶發布，不代表本站觀點。請注意甄別內容中的聯系方式、誘導購買等信息，謹防詐騙。如發現有害或侵權內容，請點擊一鍵舉報。

轉藏分享

QQ空間 QQ好友新浪微博微信

獻花（0） +1

來自：茉莉7eo6t3y9 > 《待分類》

舉報/認領

0條評論

發表

請遵守用戶評論公約

類似文章 更多

茉莉7eo6t3y9

關注對話

TA的最新館藏

如何保護好腸道？一文深度剖析
賈玲體重反彈，面相變丑？放心，她依然美炸了
我的媽媽出家后：有錢有閑，養老無憂，人生重啟
二月二｜有“淤”在頭。要從“頭”祛腐生新
剛剛，他一個會議被騙了2個億
瘦下來的賈玲，真爭氣啊

喜歡該文的人也喜歡更多

熱門閱讀換一換