2024年9月9日至15日，2024年國(guó)家網(wǎng)絡(luò)安全宣傳周在全國(guó)范圍內(nèi)統(tǒng)一開(kāi)展。本次活動(dòng)圍繞網(wǎng)絡(luò)安全協(xié)同治理、個(gè)人信息保護(hù)、智能網(wǎng)聯(lián)汽車(chē)安全、青少年網(wǎng)絡(luò)保護(hù)、互聯(lián)網(wǎng)政務(wù)應(yīng)用安全等主題舉辦論壇會(huì)議。本次活動(dòng)以“網(wǎng)絡(luò)安全為人民，網(wǎng)絡(luò)安全靠人民”和“市民身邊的網(wǎng)絡(luò)安全”為主題，同時(shí)全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《人工智能安全治理框架》1.0版。

  為了響應(yīng)上級(jí)教育主管部門(mén)的號(hào)召，我校也利用網(wǎng)絡(luò)安全宣傳周這樣一個(gè)契機(jī)開(kāi)展了中學(xué)生網(wǎng)絡(luò)安全和網(wǎng)絡(luò)道德的主題課，這也與我們的健全人格教育深度融合。

  隨著人工智能的廣泛應(yīng)用，基于人工智能的偽造詐騙日益增多，以下舉出幾個(gè)方面，大家要警惕和防范。

  【語(yǔ)音詐騙】

  人工智能語(yǔ)音合成技術(shù)可以模仿他人的聲音。詐騙分子利用這一點(diǎn)，通過(guò)收集目標(biāo)人物（如企業(yè)高管、家人等）的語(yǔ)音樣本，然后使用語(yǔ)音合成軟件生成逼真的語(yǔ)音。例如，他們可能會(huì)模仿公司老板的聲音給財(cái)務(wù)人員打電話，要求緊急轉(zhuǎn)賬。由于聲音聽(tīng)起來(lái)非常像老板，財(cái)務(wù)人員如果警惕性不高，就很容易上當(dāng)受騙。

  有些語(yǔ)音詐騙還會(huì)結(jié)合人工智能對(duì)話系統(tǒng)。這些系統(tǒng)可以根據(jù)對(duì)方的回答，自動(dòng)生成后續(xù)的語(yǔ)音內(nèi)容，讓對(duì)話看起來(lái)更自然，進(jìn)一步迷惑受害者。

  【圖像和視頻詐騙】

  人工智能的圖像生成技術(shù)（如生成對(duì)抗網(wǎng)絡(luò) - GAN）能夠制作出高度逼真的假照片和假視頻。詐騙分子可以制作假的身份證明、合同文件等圖像，或者合成假的視頻來(lái)進(jìn)行詐騙。例如，制作一段某人陷入困境（如被綁架）的視頻，向其家屬勒索錢(qián)財(cái)。

  深度偽造（Deepfake）技術(shù)在視頻領(lǐng)域更是危害巨大。它可以將一個(gè)人的臉替換到另一個(gè)人的身體上，在色情、金融詐騙等多個(gè)領(lǐng)域被不法分子利用。比如，制作名人推薦虛假投資產(chǎn)品的視頻，利用名人效應(yīng)吸引受害者投資。

  【智能客服詐騙】

  一些詐騙分子會(huì)搭建虛假的智能客服系統(tǒng)。這些系統(tǒng)模仿正規(guī)企業(yè)的客服風(fēng)格和流程，當(dāng)用戶咨詢相關(guān)業(yè)務(wù)時(shí)，會(huì)引導(dǎo)用戶泄露個(gè)人信息，如銀行卡號(hào)、驗(yàn)證碼等。例如，假冒銀行客服，以賬戶安全檢查等理由，誘導(dǎo)用戶輸入銀行卡密碼和驗(yàn)證碼，從而盜取用戶資金。

  【聊天機(jī)器人詐騙】

 詐騙分子利用聊天機(jī)器人在社交平臺(tái)或網(wǎng)絡(luò)交友平臺(tái)上尋找目標(biāo)。這些聊天機(jī)器人可以根據(jù)預(yù)設(shè)的話術(shù)和算法，與受害者進(jìn)行長(zhǎng)時(shí)間的交流，建立信任關(guān)系。然后，以各種理由（如投資機(jī)會(huì)、緊急借款等）誘騙受害者轉(zhuǎn)賬。例如，在交友平臺(tái)上，聊天機(jī)器人偽裝成高富帥或白富美，向受害者推薦所謂的高收益投資項(xiàng)目，一旦受害者投入資金，就會(huì)血本無(wú)歸。