第二屆網(wǎng)絡(luò)空間安全（天津）論壇4日開幕，大模型與數(shù)據(jù)安全制度建設(shè)、網(wǎng)絡(luò)數(shù)據(jù)人工智能（AI）安全治理實踐等成為與會官員和專家共同關(guān)注的話題。網(wǎng)絡(luò)安全專家表示，新技術(shù)既帶來了風(fēng)險，也會同步改善風(fēng)險防范能力，需要用AI應(yīng)對AI攻擊。

新技術(shù)帶來三類網(wǎng)絡(luò)安全風(fēng)險

本屆論壇以“共建網(wǎng)絡(luò)安全? 共治網(wǎng)絡(luò)空間”為主題，共同探討網(wǎng)絡(luò)空間安全領(lǐng)域的“硬核”新技術(shù)、未來新場景、治理新議題，有效形成網(wǎng)絡(luò)安全治理的路徑、策略、模式、標(biāo)準(zhǔn)，以系統(tǒng)思維推動綜合治理，不斷完善網(wǎng)絡(luò)空間安全保障體系，充分引領(lǐng)網(wǎng)絡(luò)安全發(fā)展新方向。

“必須要用AI應(yīng)對AI攻擊。”360集團(tuán)創(chuàng)始人周鴻祎在本屆論壇發(fā)言中表示，當(dāng)前AI技術(shù)深刻影響各行各業(yè)，在為新質(zhì)生產(chǎn)力發(fā)展帶來機(jī)遇的同時，也帶來諸多全新安全挑戰(zhàn)，必須用AI重塑安全，依托專業(yè)化大模型方法論，打造安全大模型，重塑安全產(chǎn)品，引領(lǐng)安全行業(yè)革命。

近日，韓國網(wǎng)民在社交平臺“電報”（Telegram）上發(fā)現(xiàn)大量聊天群，其中有成員創(chuàng)建和分享露骨的性“深度偽造”圖像，對象涉及未成年女孩。韓國“深度偽造”事件升級，被認(rèn)為是采用新犯罪手段的“N號房”案件重現(xiàn)?！吧疃葌卧臁奔夹g(shù)，即使用人工智能生成的技術(shù)，將個人的聲音、面部表情及身體動作拼接合成虛假內(nèi)容。

安天集團(tuán)董事長、首席技術(shù)架構(gòu)師肖新光在論壇期間接受《環(huán)球時報》記者采訪時表示，“‘深度偽造’事件是新技術(shù)帶來新型風(fēng)險。”肖新光認(rèn)為，新技術(shù)帶來的網(wǎng)絡(luò)安全風(fēng)險，通常有三類。首先是新技術(shù)將推動傳統(tǒng)威脅和風(fēng)險升級。以通過網(wǎng)絡(luò)入侵攻擊竊取信息、定向勒索等攻擊活動為例，人工智能對攻擊活動全過程都能帶來很強的輔助作用，比如提升整理攻擊入口的發(fā)掘效率、讓攻擊活動更自動化、通過代碼自動輔助生成降低病毒木馬開發(fā)能力、改善免殺能力、通過生成高質(zhì)量社會工程話術(shù)實現(xiàn)更強的釣魚欺騙性等。其次，新技術(shù)基礎(chǔ)設(shè)施和應(yīng)用會成為侵害目標(biāo)。大模型平臺成為新的信息資產(chǎn)匯聚地，大模型應(yīng)用入口也成為用戶和節(jié)點新的暴露面。第三就是新技術(shù)帶來新型風(fēng)險，韓國“深度偽造”事件就是典型代表。

AI也能改善風(fēng)險防范能力

肖新光認(rèn)為，AI帶來“深度偽造”、高度針對性的社會工程話術(shù)生成能力，會導(dǎo)致網(wǎng)絡(luò)犯罪活動中基于認(rèn)知實施的占比提升?！氨热绱饲鞍l(fā)生的某跨國公司香港分公司的財務(wù)人員，被拉入視頻會議，參會人員都是攻擊者基于‘深度偽造’生成的‘公司領(lǐng)導(dǎo)’，導(dǎo)致其按照假冒‘CFO’指示，給對方指定賬戶共計轉(zhuǎn)賬2億港元，是典型的基于‘深度偽造’穿透管理流程的攻擊?！薄?/p>

“新技術(shù)既帶來了風(fēng)險，也會同步改善風(fēng)險防范能力。人工智能在賦能威脅樣本分析、推進(jìn)安全編排能力，以及對抗‘深度偽造’等方面，同樣會發(fā)揮巨大價值?！毙ば鹿庖脖磉_(dá)了和周鴻祎類似的觀點。

國際刑警組織網(wǎng)絡(luò)犯罪局副局長董健在論壇發(fā)言中也呼吁，國際刑警組織各成員國、各利益相關(guān)方，共同加強打擊網(wǎng)絡(luò)犯罪領(lǐng)域的合作，加強打擊網(wǎng)絡(luò)犯罪相關(guān)的信息共享，更加有效地利用國際刑警組織的渠道和平臺，共同打擊網(wǎng)絡(luò)犯罪，保護(hù)全球網(wǎng)絡(luò)空間安全和社區(qū)安全。

AI內(nèi)容應(yīng)該符合人類價值觀

不僅是安全領(lǐng)域，當(dāng)前AI發(fā)展已經(jīng)影響到了人類生活的各個領(lǐng)域，并產(chǎn)生了倫理問題。 新加坡《聯(lián)合早報》3日的一篇報道顯示， 實際上，AI在價值觀問題上一直存在爭議。如何讓大模型的能力和行為跟人類的價值和倫理原則“對齊”，是AI安全的核心議題之一。 中國網(wǎng)信辦去年4月公布的意見稿明確，人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀。

近一段時間以來，兒童智能手表頻頻“翻車”就是AI和人類的價值和倫理原則“背道而馳”最典型的例子。

相關(guān)數(shù)據(jù)顯示，每3個孩子中，就有1個戴智能手表，其中，小天才、360以及小米在中國市場占有率均位于前列，但這三款智能手表最近都遭到“翻車”。首先，8月21日有家長上傳視頻顯示，360兒童智能手表在回答 “中國人是世界上最聰明的人嗎”時，答案中出現(xiàn)了“因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大”“中國人聰明的人是有，但笨的我承認(rèn)是世界上最笨的”“歷史是可以捏造的”“現(xiàn)在的手機(jī)、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的”等言論。

此外，8月27日的一段視頻顯示，兒童智能手表小天才在回答“中國人誠實嗎”這一問題時說“中國人是世界上最不誠實的人，最虛偽的人，甚至連叫‘人’都玷污了‘人’這個稱呼”。對于這個答案，網(wǎng)民驚呼“毀三觀”。與此同時，另一款暢銷兒童智能手表小米旗下的米兔也被爆出類似問題。

談及上述問題時，肖新光表示：“生成式人工智能的內(nèi)容生成能力，基于大量的自然語言文獻(xiàn)等數(shù)據(jù)內(nèi)容的訓(xùn)練?！币环矫妫墒饺斯ぶ悄艿臋C(jī)理決定了其內(nèi)容生成存在“幻覺”問題；另一方面，其必然會受到訓(xùn)練內(nèi)容的影響。而網(wǎng)絡(luò)是一個開放式內(nèi)容平臺，是認(rèn)知塑造與對抗的戰(zhàn)場?！霸诰W(wǎng)絡(luò)原始內(nèi)容中的歷史虛無主義、民族虛無主義、各種極端主義、偽科學(xué)、各種謠言等內(nèi)容以及大量低質(zhì)量的技術(shù)文獻(xiàn)和論文，都有可能成為訓(xùn)練的數(shù)據(jù)源，最后會對大模型內(nèi)容輸出形成污染和影響。”

據(jù)介紹，過去較為受到關(guān)注的內(nèi)容入口是類似搜索引擎、自媒體平臺等。而智能穿戴、智能家居產(chǎn)品，往往也連接到大模型平臺，并嵌入了大量App，其本身也是內(nèi)容入口，特別是部分智能產(chǎn)品有可能比通用的內(nèi)容入口更接近兒童等特定人群。肖新光表示：“這就需要以大網(wǎng)絡(luò)安全觀，完善智能產(chǎn)品和產(chǎn)業(yè)的安全體系，既要關(guān)注手機(jī)、智能終端等產(chǎn)品的安全防護(hù)能力、供應(yīng)鏈安全體系建設(shè)、App的個人信息保護(hù)等，也要高度關(guān)注認(rèn)知層面的綜合治理問題。當(dāng)然，這是復(fù)雜的體系性治理工作，是一個長期、艱巨、動態(tài)的過程?！保ōh(huán)球時報 郭媛丹）