有人借AI編造“帶貨躺賺”的騙局，收割電商創(chuàng)業(yè)人群；有人利用GEO“數(shù)據(jù)投毒”，操控AI輸出誤導(dǎo)公眾；有人用AI外呼系統(tǒng)電話騷擾，試圖繞開監(jiān)管，逃避法律責任……在3·15之際，總臺等多家媒體曝光利用AI技術(shù)欺詐造假、違法違規(guī)的典型案例，再次為公眾使用AI技術(shù)敲響警鐘。

“收割”“投毒”——上述案例中的違法者肆無忌憚。他們均是利用公眾信任卻不甚了解AI技術(shù)的信息差，把AI技術(shù)異化為違法工具和犯罪幫兇，損害消費者合法權(quán)益，其違法成本低、手法更隱蔽，監(jiān)管取證難度大，影響范圍更廣。以總臺3·15晚會曝光的“數(shù)據(jù)投毒給AI洗腦”為例，GEO（Generative Engine Optimization，即“生成引擎優(yōu)化”），本是通過優(yōu)化網(wǎng)絡(luò)內(nèi)容以提高其在AI大模型推薦展示幾率的技術(shù)手段，而今卻被別有用心者變成了斂財詐騙的工具：一面生成虛假信息，一面惡意投喂訓練大模型，甚至故意造假抹黑對手。這不僅涉嫌虛假宣傳、誤導(dǎo)消費者，更擾亂正常市場秩序，損害數(shù)字產(chǎn)業(yè)健康發(fā)展，透支公眾對AI技術(shù)的信任。

據(jù)總臺3·15晚會曝光，某GEO優(yōu)化系統(tǒng)軟件將一款并不存在的智能手環(huán)產(chǎn)品，實現(xiàn)AI大模型抓取推薦

從前幾年用AI換臉、變聲實施詐騙，到所謂“養(yǎng)老伴侶機器人”等新型騙局，人工智能技術(shù)快速迭代的同時，各類風險套路也層出不窮、防不勝防。技術(shù)本是中性工具，關(guān)鍵在于使用者必須心存敬畏、守住底線。

當前，人工智能大模型等新技術(shù)新應(yīng)用正深度重塑我們的生產(chǎn)和生活方式，規(guī)范治理能力必須同步跟上，以有效防范技術(shù)濫用帶來的風險危害。譬如，政府監(jiān)管部門和行業(yè)協(xié)會要及時出臺規(guī)范措施，將《人工智能生成合成內(nèi)容標識辦法》《生成式人工智能服務(wù)管理暫行辦法》相關(guān)規(guī)定落實落細，要用“道高一丈”的技術(shù)治理管住“魔高一尺”的違規(guī)亂象；平臺、企業(yè)和從業(yè)者要堅守法律與道德底線，摒棄投機取巧心態(tài)；對廣大用戶來說，則要破除“躺賺”幻想，理性辨別信息、多方交叉核實。

技術(shù)只有向善向上，才有未來。AI終究是輔助工具，商業(yè)的本質(zhì)離不開過硬的產(chǎn)品和真誠的服務(wù)�？啃畔⒉钍崭罱箲]、靠虛假內(nèi)容污染數(shù)據(jù)，或許能得逞一時，但終將付出法律與信譽的雙重代價。（央廣網(wǎng)評論員 姜葳）