第二屆網(wǎng)絡(luò)空間安全（天津）論壇4日開(kāi)幕，大模型與數(shù)據(jù)安全制度建設(shè)、網(wǎng)絡(luò)數(shù)據(jù)人工智能（AI）安全治理實(shí)踐等成為與會(huì)官員和專家共同關(guān)注的話題。網(wǎng)絡(luò)安全專家表示，新技術(shù)既帶來(lái)了風(fēng)險(xiǎn)，也會(huì)同步改善風(fēng)險(xiǎn)防范能力，需要用AI應(yīng)對(duì)AI攻擊。

新技術(shù)帶來(lái)三類網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

本屆論壇以“共建網(wǎng)絡(luò)安全? 共治網(wǎng)絡(luò)空間”為主題，共同探討網(wǎng)絡(luò)空間安全領(lǐng)域的“硬核”新技術(shù)、未來(lái)新場(chǎng)景、治理新議題，有效形成網(wǎng)絡(luò)安全治理的路徑、策略、模式、標(biāo)準(zhǔn)，以系統(tǒng)思維推動(dòng)綜合治理，不斷完善網(wǎng)絡(luò)空間安全保障體系，充分引領(lǐng)網(wǎng)絡(luò)安全發(fā)展新方向。

“必須要用AI應(yīng)對(duì)AI攻擊。”360集團(tuán)創(chuàng)始人周鴻祎在本屆論壇發(fā)言中表示，當(dāng)前AI技術(shù)深刻影響各行各業(yè)，在為新質(zhì)生產(chǎn)力發(fā)展帶來(lái)機(jī)遇的同時(shí)，也帶來(lái)諸多全新安全挑戰(zhàn)，必須用AI重塑安全，依托專業(yè)化大模型方法論，打造安全大模型，重塑安全產(chǎn)品，引領(lǐng)安全行業(yè)革命。

近日，韓國(guó)網(wǎng)民在社交平臺(tái)“電報(bào)”（Telegram）上發(fā)現(xiàn)大量聊天群，其中有成員創(chuàng)建和分享露骨的性“深度偽造”圖像，對(duì)象涉及未成年女孩。韓國(guó)“深度偽造”事件升級(jí)，被認(rèn)為是采用新犯罪手段的“N號(hào)房”案件重現(xiàn)?！吧疃葌卧臁奔夹g(shù)，即使用人工智能生成的技術(shù)，將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容。

安天集團(tuán)董事長(zhǎng)、首席技術(shù)架構(gòu)師肖新光在論壇期間接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)表示，“‘深度偽造’事件是新技術(shù)帶來(lái)新型風(fēng)險(xiǎn)。”肖新光認(rèn)為，新技術(shù)帶來(lái)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，通常有三類。首先是新技術(shù)將推動(dòng)傳統(tǒng)威脅和風(fēng)險(xiǎn)升級(jí)。以通過(guò)網(wǎng)絡(luò)入侵攻擊竊取信息、定向勒索等攻擊活動(dòng)為例，人工智能對(duì)攻擊活動(dòng)全過(guò)程都能帶來(lái)很強(qiáng)的輔助作用，比如提升整理攻擊入口的發(fā)掘效率、讓攻擊活動(dòng)更自動(dòng)化、通過(guò)代碼自動(dòng)輔助生成降低病毒木馬開(kāi)發(fā)能力、改善免殺能力、通過(guò)生成高質(zhì)量社會(huì)工程話術(shù)實(shí)現(xiàn)更強(qiáng)的釣魚欺騙性等。其次，新技術(shù)基礎(chǔ)設(shè)施和應(yīng)用會(huì)成為侵害目標(biāo)。大模型平臺(tái)成為新的信息資產(chǎn)匯聚地，大模型應(yīng)用入口也成為用戶和節(jié)點(diǎn)新的暴露面。第三就是新技術(shù)帶來(lái)新型風(fēng)險(xiǎn)，韓國(guó)“深度偽造”事件就是典型代表。

AI也能改善風(fēng)險(xiǎn)防范能力

肖新光認(rèn)為，AI帶來(lái)“深度偽造”、高度針對(duì)性的社會(huì)工程話術(shù)生成能力，會(huì)導(dǎo)致網(wǎng)絡(luò)犯罪活動(dòng)中基于認(rèn)知實(shí)施的占比提升?！氨热绱饲鞍l(fā)生的某跨國(guó)公司香港分公司的財(cái)務(wù)人員，被拉入視頻會(huì)議，參會(huì)人員都是攻擊者基于‘深度偽造’生成的‘公司領(lǐng)導(dǎo)’，導(dǎo)致其按照假冒‘CFO’指示，給對(duì)方指定賬戶共計(jì)轉(zhuǎn)賬2億港元，是典型的基于‘深度偽造’穿透管理流程的攻擊?！?。

“新技術(shù)既帶來(lái)了風(fēng)險(xiǎn)，也會(huì)同步改善風(fēng)險(xiǎn)防范能力。人工智能在賦能威脅樣本分析、推進(jìn)安全編排能力，以及對(duì)抗‘深度偽造’等方面，同樣會(huì)發(fā)揮巨大價(jià)值?！毙ば鹿庖脖磉_(dá)了和周鴻祎類似的觀點(diǎn)。

國(guó)際刑警組織網(wǎng)絡(luò)犯罪局副局長(zhǎng)董健在論壇發(fā)言中也呼吁，國(guó)際刑警組織各成員國(guó)、各利益相關(guān)方，共同加強(qiáng)打擊網(wǎng)絡(luò)犯罪領(lǐng)域的合作，加強(qiáng)打擊網(wǎng)絡(luò)犯罪相關(guān)的信息共享，更加有效地利用國(guó)際刑警組織的渠道和平臺(tái)，共同打擊網(wǎng)絡(luò)犯罪，保護(hù)全球網(wǎng)絡(luò)空間安全和社區(qū)安全。

AI內(nèi)容應(yīng)該符合人類價(jià)值觀

不僅是安全領(lǐng)域，當(dāng)前AI發(fā)展已經(jīng)影響到了人類生活的各個(gè)領(lǐng)域，并產(chǎn)生了倫理問(wèn)題。 新加坡《聯(lián)合早報(bào)》3日的一篇報(bào)道顯示， 實(shí)際上，AI在價(jià)值觀問(wèn)題上一直存在爭(zhēng)議。如何讓大模型的能力和行為跟人類的價(jià)值和倫理原則“對(duì)齊”，是AI安全的核心議題之一。 中國(guó)網(wǎng)信辦去年4月公布的意見(jiàn)稿明確，人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀。

近一段時(shí)間以來(lái)，兒童智能手表頻頻“翻車”就是AI和人類的價(jià)值和倫理原則“背道而馳”最典型的例子。

相關(guān)數(shù)據(jù)顯示，每3個(gè)孩子中，就有1個(gè)戴智能手表，其中，小天才、360以及小米在中國(guó)市場(chǎng)占有率均位于前列，但這三款智能手表最近都遭到“翻車”。首先，8月21日有家長(zhǎng)上傳視頻顯示，360兒童智能手表在回答 “中國(guó)人是世界上最聰明的人嗎”時(shí)，答案中出現(xiàn)了“因?yàn)橹袊?guó)人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大”“中國(guó)人聰明的人是有，但笨的我承認(rèn)是世界上最笨的”“歷史是可以捏造的”“現(xiàn)在的手機(jī)、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的”等言論。

此外，8月27日的一段視頻顯示，兒童智能手表小天才在回答“中國(guó)人誠(chéng)實(shí)嗎”這一問(wèn)題時(shí)說(shuō)“中國(guó)人是世界上最不誠(chéng)實(shí)的人，最虛偽的人，甚至連叫‘人’都玷污了‘人’這個(gè)稱呼”。對(duì)于這個(gè)答案，網(wǎng)民驚呼“毀三觀”。與此同時(shí)，另一款暢銷兒童智能手表小米旗下的米兔也被爆出類似問(wèn)題。

談及上述問(wèn)題時(shí)，肖新光表示：“生成式人工智能的內(nèi)容生成能力，基于大量的自然語(yǔ)言文獻(xiàn)等數(shù)據(jù)內(nèi)容的訓(xùn)練?！币环矫妫墒饺斯ぶ悄艿臋C(jī)理決定了其內(nèi)容生成存在“幻覺(jué)”問(wèn)題；另一方面，其必然會(huì)受到訓(xùn)練內(nèi)容的影響。而網(wǎng)絡(luò)是一個(gè)開(kāi)放式內(nèi)容平臺(tái)，是認(rèn)知塑造與對(duì)抗的戰(zhàn)場(chǎng)?！霸诰W(wǎng)絡(luò)原始內(nèi)容中的歷史虛無(wú)主義、民族虛無(wú)主義、各種極端主義、偽科學(xué)、各種謠言等內(nèi)容以及大量低質(zhì)量的技術(shù)文獻(xiàn)和論文，都有可能成為訓(xùn)練的數(shù)據(jù)源，最后會(huì)對(duì)大模型內(nèi)容輸出形成污染和影響?！?/p>

據(jù)介紹，過(guò)去較為受到關(guān)注的內(nèi)容入口是類似搜索引擎、自媒體平臺(tái)等。而智能穿戴、智能家居產(chǎn)品，往往也連接到大模型平臺(tái)，并嵌入了大量App，其本身也是內(nèi)容入口，特別是部分智能產(chǎn)品有可能比通用的內(nèi)容入口更接近兒童等特定人群。肖新光表示：“這就需要以大網(wǎng)絡(luò)安全觀，完善智能產(chǎn)品和產(chǎn)業(yè)的安全體系，既要關(guān)注手機(jī)、智能終端等產(chǎn)品的安全防護(hù)能力、供應(yīng)鏈安全體系建設(shè)、App的個(gè)人信息保護(hù)等，也要高度關(guān)注認(rèn)知層面的綜合治理問(wèn)題。當(dāng)然，這是復(fù)雜的體系性治理工作，是一個(gè)長(zhǎng)期、艱巨、動(dòng)態(tài)的過(guò)程。”（環(huán)球時(shí)報(bào) 郭媛丹）