高考志愿靠AI“翻車”：通用AI時(shí)代的數(shù)據(jù)安全危機(jī)

（記者　杜峰）分?jǐn)?shù)線出爐，全國(guó)高考志愿填報(bào)進(jìn)入關(guān)鍵階段。號(hào)稱“一鍵匹配沖穩(wěn)保”“大數(shù)據(jù)低分撿漏”的AI志愿填報(bào)工具，憑借低門檻、高效率迅速成為考生剛需。然而，近期這類工具“翻車”消息頻出！據(jù)《工人日?qǐng)?bào)》報(bào)道，有家長(zhǎng)花8800元換來一份20多頁(yè)的“AI廢話”，有考生嚴(yán)格按照AI推薦的“穩(wěn)妥”志愿填報(bào)表單提交，結(jié)果卻因分?jǐn)?shù)線暴漲而滑檔；有考生發(fā)現(xiàn)AI推薦的專業(yè)在該校早已停止招生。當(dāng)千萬考生將人生重要抉擇托付給算法時(shí)，數(shù)據(jù)滯后、算法幻覺與隱私泄露風(fēng)險(xiǎn)正在浮出水面。如何消解算法幻覺、構(gòu)建可信安全的數(shù)據(jù)底座，成為亟待破解的時(shí)代命題。

AI報(bào)考不準(zhǔn)：數(shù)據(jù)滯后背后存“AI幻覺”

輸入分?jǐn)?shù)、位次、選科，數(shù)十秒就能完成數(shù)千所院校篩選，在社交平臺(tái)上，不少考生盛贊AI志愿填報(bào)工具為“神算子”。AI志愿填報(bào)工具極大降低了考生志愿規(guī)劃門檻。然而，這份高效背后也暗藏隱患。

首先是數(shù)據(jù)滯后。多數(shù)AI平臺(tái)依賴歷史錄取數(shù)據(jù)訓(xùn)練模型，但高考政策每年調(diào)整高校招生計(jì)劃、專業(yè)設(shè)置、選科要求更是瞬息萬變，這些動(dòng)態(tài)信息往往無法實(shí)時(shí)同步。某知名AI工具在推薦志愿時(shí)，竟將某高校已撤銷長(zhǎng)達(dá)三年的專業(yè)列為“熱門推薦”，當(dāng)考生按照“過時(shí)”的數(shù)據(jù)填報(bào)，“精準(zhǔn)推薦”就變成了“精準(zhǔn)誤導(dǎo)”。

其次是算法幻覺。AI工具基于概率模型生成推薦，但志愿填報(bào)涉及考生興趣、身體條件、家庭資源、職業(yè)規(guī)劃等高度個(gè)性化的因素，這些“軟變量”難以被算法量化。更危險(xiǎn)的是，部分平臺(tái)為追求“錄取概率”的視覺效果，對(duì)模型輸出進(jìn)行“美化處理”，將低概率事件渲染為高概率，制造“穩(wěn)了”的虛假安全感。有考生試用后發(fā)現(xiàn)，“AI提供的往年錄取排位經(jīng)常不對(duì)，還是得自己一個(gè)個(gè)查”。

再次是數(shù)據(jù)泄露。考生在使用AI工具時(shí)需上傳姓名、身份證號(hào)、高考成績(jī)、家庭住址等敏感信息，而部分平臺(tái)數(shù)據(jù)安全防護(hù)薄弱，甚至存在主動(dòng)倒賣用戶數(shù)據(jù)的灰色產(chǎn)業(yè)鏈。人民網(wǎng)此前報(bào)道指出，此類軟件“摸準(zhǔn)考生和家長(zhǎng)的焦慮心理”，以“精準(zhǔn)”為噱頭誘導(dǎo)消費(fèi)，而考生個(gè)人信息“存在泄露風(fēng)險(xiǎn)”。

從幻覺到危機(jī)：AI時(shí)代面臨數(shù)據(jù)安全結(jié)構(gòu)性挑戰(zhàn)

AI報(bào)考亂象只是冰山一角。當(dāng)人工智能與云計(jì)算深度融合，數(shù)據(jù)安全正面臨前所未有的結(jié)構(gòu)性挑戰(zhàn)。

一方面，數(shù)據(jù)匯聚產(chǎn)生“虹吸效應(yīng)”。大模型訓(xùn)練需要海量數(shù)據(jù)，導(dǎo)致數(shù)據(jù)向少數(shù)平臺(tái)高度集中，形成“數(shù)據(jù)壟斷”。一旦這些平臺(tái)遭受攻擊或內(nèi)部泄露，影響面呈指數(shù)級(jí)放大。2025年初，某國(guó)產(chǎn)大模型平臺(tái)曾被曝光存在可公開訪問的數(shù)據(jù)庫(kù)，包含超過100萬行日志流及大量敏感信息，引發(fā)行業(yè)震動(dòng)。

另一方面，模型訓(xùn)練存“黑箱風(fēng)險(xiǎn)”。大模型在訓(xùn)練過程中會(huì)“記憶”輸入數(shù)據(jù)，存在敏感信息被模型“內(nèi)化”后間接泄露的風(fēng)險(xiǎn)。更隱蔽的是，攻擊者可通過“提示詞注入”方式，誘導(dǎo)模型輸出本不該泄露的訓(xùn)練數(shù)據(jù)，傳統(tǒng)數(shù)據(jù)脫敏手段對(duì)此束手無策。在模型訓(xùn)練環(huán)節(jié)，訓(xùn)練數(shù)據(jù)中如果混入過時(shí)或錯(cuò)誤信息，將直接影響模型輸出質(zhì)量。

此外，還存在跨主體協(xié)同的權(quán)責(zé)界定問題。AI應(yīng)用往往涉及數(shù)據(jù)采集方、模型提供方、算力支撐方、終端使用方等多個(gè)主體，數(shù)據(jù)在流轉(zhuǎn)過程中權(quán)責(zé)不清、邊界模糊，如何界定數(shù)據(jù)標(biāo)注方、模型訓(xùn)練方、服務(wù)提供方的安全責(zé)任，成為現(xiàn)實(shí)難題。尤其在政務(wù)、醫(yī)療、金融等民生領(lǐng)域，數(shù)據(jù)一旦出錯(cuò)或泄露，后果不堪設(shè)想。

中國(guó)工程院教授吳世忠也指出，技術(shù)發(fā)展勢(shì)不可擋，安全風(fēng)險(xiǎn)亟待監(jiān)管。既要擁抱技術(shù)的無限可能，也要筑牢安全的堅(jiān)實(shí)防線。在他看來，內(nèi)容安全風(fēng)險(xiǎn)、數(shù)據(jù)隱私風(fēng)險(xiǎn)、惡意濫用的風(fēng)險(xiǎn)、社會(huì)倫理方面的風(fēng)險(xiǎn)等是當(dāng)下普遍關(guān)注的焦點(diǎn)。

精準(zhǔn)布控“模數(shù)共振”：構(gòu)筑三道安全防線

當(dāng)前，模型與數(shù)據(jù)已成為驅(qū)動(dòng)人工智能高質(zhì)量發(fā)展的兩大核心要素，數(shù)據(jù)孤島、模型泛化不足、場(chǎng)景適配低效等問題日益凸顯。今年，工信部、國(guó)家數(shù)據(jù)局聯(lián)合印發(fā)《關(guān)于聯(lián)合實(shí)施2026年“模數(shù)共振”行動(dòng)的通知》，推動(dòng)AI模型與數(shù)據(jù)資源同頻共振。面對(duì)通用AI場(chǎng)景中的數(shù)據(jù)安全挑戰(zhàn)，國(guó)內(nèi)運(yùn)營(yíng)商正依托云網(wǎng)一體化基礎(chǔ)能力，落地“模數(shù)共振”安全管控體系。

（圖片來源：攝圖網(wǎng)）

天翼云在全國(guó)范圍內(nèi)實(shí)現(xiàn)了“4+4+31+X”的云資源布局，織就全國(guó)算力“一張網(wǎng)”，依托自研息壤算力互聯(lián)調(diào)度平臺(tái)，實(shí)現(xiàn)跨地域、跨芯片架構(gòu)的異構(gòu)算力統(tǒng)一調(diào)度，自有+接入智算總規(guī)模超過91EFLOPS。自研CTyunOS操作系統(tǒng)，自研TeleDB數(shù)據(jù)庫(kù)，均通過國(guó)家安全可靠測(cè)評(píng)。從底層算力到上層應(yīng)用，實(shí)現(xiàn)全鏈條技術(shù)自主可控，形成“國(guó)云+國(guó)芯+國(guó)模”的國(guó)產(chǎn)化閉環(huán)，滿足政務(wù)、央國(guó)企等關(guān)鍵領(lǐng)域的合規(guī)要求。為模數(shù)共振筑牢安全根基。

在數(shù)據(jù)安全領(lǐng)域，中國(guó)電信依托“靈澤2.0數(shù)據(jù)要素平臺(tái)”構(gòu)建“自研+生態(tài)”隱私計(jì)算能力底座，打造“數(shù)據(jù)可用不可見”的封閉環(huán)境，覆蓋數(shù)據(jù)要素生產(chǎn)、加工、審核、上架、訂購(gòu)、交易合約、產(chǎn)品交付、結(jié)算支付等全流程，同時(shí)建立“匯聚－治理－管理－使用－運(yùn)營(yíng)－安全”全生命周期數(shù)據(jù)閉環(huán)。

此外，中國(guó)電信打造業(yè)界領(lǐng)先的數(shù)據(jù)集“阡陌數(shù)聚”，建立三級(jí)安全風(fēng)險(xiǎn)分類標(biāo)簽體系，覆蓋超百億token，顯著提高數(shù)據(jù)安全性。2025年，中國(guó)電信還基于“阡陌”數(shù)據(jù)集開源了國(guó)內(nèi)外首個(gè)聚焦中文場(chǎng)景的提示注入攻擊評(píng)測(cè)數(shù)據(jù)集，有力填補(bǔ)了中文AI安全訓(xùn)練與評(píng)估體系的空白。

數(shù)據(jù)安全是AI普惠的底線，唯有筑牢可信可控的數(shù)據(jù)底座，才能讓AI真正服務(wù)于人，而非讓人淪為算法的“數(shù)據(jù)燃料”。