中新網(wǎng)北京9月29日電 (陶思閱)今年9月，第22屆國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇活動(dòng)中，國(guó)內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果發(fā)布。測(cè)試?yán)塾?jì)發(fā)現(xiàn)281個(gè)安全漏洞，其中大模型特有漏洞占比超60%，涵蓋提示注入、信息泄露等典型風(fēng)險(xiǎn)。
同時(shí)，攻擊者研究AI的學(xué)習(xí)偏好，有針對(duì)性地“投喂”信息，更有甚者，有組織地進(jìn)行“數(shù)據(jù)投毒”，即通過(guò)偽造專(zhuān)家身份、虛構(gòu)研究報(bào)告等方式，向AI輸入虛假信息，以達(dá)到操縱AI輸出結(jié)果的目的。
同盾科技安全研究院院長(zhǎng)董紀(jì)偉認(rèn)為，隨著生成式AI技術(shù)的廣泛運(yùn)用，未來(lái)的攻防戰(zhàn)將邁入“以技術(shù)對(duì)抗技術(shù)，以AI對(duì)抗AI”的階段。
面對(duì)挑戰(zhàn)，監(jiān)管體系率先升級(jí)。9月15日，《人工智能安全治理框架》2.0版在國(guó)家網(wǎng)絡(luò)安全宣傳周發(fā)布。
AI安全行業(yè)也正構(gòu)建“AI對(duì)抗AI”的技術(shù)防線(xiàn)。9月，華為發(fā)布全新升級(jí)的星河AI網(wǎng)絡(luò)安全解決方案，據(jù)介紹，該方案威脅自動(dòng)化處置率達(dá)99%，未知威脅檢出率達(dá)95%。
螞蟻消金通過(guò)多模態(tài)感知與大小模型協(xié)同，系統(tǒng)可精準(zhǔn)識(shí)別假章假證、合成語(yǔ)音等造假行為。螞蟻消金首席信息官劉義介紹，目前，虛假證件識(shí)別準(zhǔn)確率達(dá)98%，語(yǔ)音偽造檢測(cè)覆蓋50余種合成方式，2024年以來(lái)，螞蟻消金已聯(lián)合司法機(jī)關(guān)查處12家非法金融中介，涉案人員超過(guò)200人，實(shí)現(xiàn)了技術(shù)治理與司法聯(lián)動(dòng)的有效結(jié)合。
近日，綠盟科技發(fā)布新的大模型安全評(píng)估系統(tǒng)，實(shí)現(xiàn)對(duì)140余款主流模型的自動(dòng)化深度掃描，精準(zhǔn)發(fā)現(xiàn)內(nèi)容安全、對(duì)抗攻擊、數(shù)據(jù)泄露及組件漏洞等風(fēng)險(xiǎn)，并能夠出具符合國(guó)家《生成式人工智能服務(wù)安全基本要求》的評(píng)估報(bào)告。
今年9月發(fā)布的《AI時(shí)代網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報(bào)告(2025)》顯示，2025年全球網(wǎng)絡(luò)安全人才缺口升至480萬(wàn)，同比增長(zhǎng)19%；其中美國(guó)需求51.4萬(wàn)個(gè)在線(xiàn)崗位，實(shí)際填補(bǔ)率不足三分之二。
中國(guó)方面，截至2024年底全國(guó)持證在崗人員約32萬(wàn)，已有792所普通高校開(kāi)設(shè)網(wǎng)絡(luò)安全專(zhuān)業(yè)，占高?？倲?shù)27.1%；其中65.9%已在2025年新增AI安全課程，較去年躍升15個(gè)百分點(diǎn)。(完)