學(xué)者網(wǎng)訊（編輯/劉秀 通訊員/崔金榮 楊楷翔 李雯霖）隨著數(shù)字經(jīng)濟與人工智能技術(shù)的深度融合，工業(yè)大模型正成為重塑制造業(yè)生產(chǎn)模式、優(yōu)化智能決策的核心引擎。然而，大模型概率生成的技術(shù)本質(zhì)與工業(yè)場景對確定性的嚴(yán)苛要求存在天然矛盾，模型幻覺、提示注入等新型風(fēng)險引發(fā)廣泛關(guān)注，亟需重構(gòu)信任體系。12月27日，中國計算機學(xué)會（CCF）青年計算機科技論壇（YOCSEF）廣州分論壇在華南農(nóng)業(yè)大學(xué)數(shù)學(xué)與信息學(xué)院舉辦“工業(yè)大模型安全應(yīng)用的信任構(gòu)建與實施路徑”觀點論壇，匯聚產(chǎn)學(xué)研用多方代表，共同推動工業(yè)大模型從技術(shù)可用走向廣泛可信與安全落地。

本次論壇由CCF主辦，CCF YOCSEF廣州學(xué)術(shù)委員會組織，廣州賽研思信息科技有限公司、華南農(nóng)業(yè)大學(xué)數(shù)學(xué)與信息學(xué)院、華南理工大學(xué)計算機科學(xué)與工程學(xué)院聯(lián)合支持。YOCSEF廣州AC委員崔金榮（華南農(nóng)業(yè)大學(xué)）和AC委員楊楷翔（華南理工大學(xué)）擔(dān)任本次論壇執(zhí)行主席。論壇邀請了中國電信廣東公司馬曉亮正高級工程師、西安電子科技大學(xué)廣州研究院趙搏文副教授、中山大學(xué)楊思蓓副教授擔(dān)任引導(dǎo)嘉賓，同元軟控深圳子公司周勝副總經(jīng)理、哈爾濱工業(yè)大學(xué)（深圳）漆舒漢教授（YOCSEF深圳現(xiàn)任主席）、廣州視源電子科技股份有限公司張似衡擔(dān)任思辨特邀嘉賓。華南農(nóng)業(yè)大學(xué)數(shù)學(xué)與信息學(xué)院、軟件學(xué)院副院長黃棟（YOCSEF廣州2022-2023主席）、廣東工業(yè)大學(xué)譚臺哲（YOCSEF廣州2014-2015主席）、中山大學(xué)李冠彬（YOCSEF廣州2024-2025主席）、YOCSEF廣州往屆副主席高靜（廣東恒電信息科技）、優(yōu)秀AC委員劉雷（廣東科技報社），YOCSEF廣州現(xiàn)任主席蘇申（廣州大學(xué)）、副主席陳俊穎（華南理工大學(xué)）、副主席姜思羽（廣東外語外貿(mào)大學(xué)）、副主席朱鑒（廣東工業(yè)大學(xué)）、學(xué)術(shù)秘書胡建芳（中山大學(xué)）、學(xué)術(shù)秘書李雯霖（廣東財經(jīng)大學(xué)），AC委員劉同來（仲愷農(nóng)業(yè)工程學(xué)院）、陳炳豐（廣東工業(yè)大學(xué)）、黃培濤（廣州唐邦信息科技有限公司）、劉偉莉（廣東技術(shù)師范大學(xué)）、李宇翔（頭歌平臺）、張?zhí)煸ィň┖Ｊ⒋螅ㄉ虾＃┛萍脊煞萦邢薰荆?，委員邱少?。ㄈA南農(nóng)業(yè)大學(xué)），以及江慧杰（廣州賽研思股份有限公司）、劉莎（廣東省工業(yè)軟件學(xué)會）、王甜甜（北京優(yōu)锘科技）、魏朋旭（中山大學(xué)）、梁程晉（廣州騰科網(wǎng)絡(luò)技術(shù)有限公司）、莊輝平（華南理工大學(xué)）、吳賀豐（中山大學(xué)）、張廣煜（華南農(nóng)業(yè)大學(xué)）等來自多家單位的60余位代表參與論壇。

論壇開幕環(huán)節(jié)，YOCSEF廣州2022-2023主席華南農(nóng)業(yè)大學(xué)數(shù)學(xué)與信息學(xué)院、軟件學(xué)院副院長黃棟教授致歡迎辭。黃棟介紹了學(xué)院在人工智能、工業(yè)軟件等領(lǐng)域的科研積累與人才培養(yǎng)成果，強調(diào)工業(yè)大模型安全應(yīng)用對產(chǎn)業(yè)升級的重要意義，期待通過本次論壇搭建產(chǎn)學(xué)研協(xié)同創(chuàng)新平臺，推動技術(shù)成果與產(chǎn)業(yè)需求深度對接。隨后，YOCSEF廣州現(xiàn)任主席蘇申圍繞“承擔(dān)社會責(zé)任，提高成員能力”等核心理念，詳細(xì)解讀了YOCSEF“平等直言、求真務(wù)實”的組織文化，鼓勵青年科技工作者在技術(shù)探索中堅守初心、勇?lián)姑?/p>

蘇申介紹YOCSEF文化

引導(dǎo)報告環(huán)節(jié)，三位行業(yè)專家從技術(shù)實踐、場景應(yīng)用、理論研究等維度分享前沿洞見。中國電信廣東公司網(wǎng)絡(luò)與信息安全特級技師、正高級工程師馬曉亮以“AI時代5G云化控制的研發(fā)與應(yīng)用”為題，結(jié)合電信行業(yè)實踐經(jīng)驗，闡述了5G技術(shù)與工業(yè)控制、人工智能融合應(yīng)用的技術(shù)路徑與安全挑戰(zhàn)。

中國電信廣東公司馬曉亮作引導(dǎo)報告

西安電子科技大學(xué)廣州研究院副教授趙搏文聚焦電力行業(yè)痛點，分享“面向電力行業(yè)的軟硬件協(xié)同的大模型安全隱私計算技術(shù)”主題報告，詳解如何通過軟硬件協(xié)同設(shè)計破解工業(yè)數(shù)據(jù)隱私保護與模型訓(xùn)練效率的平衡難題。

西安電子科技大學(xué)廣州研究院趙搏文作引導(dǎo)報告

中山大學(xué)副教授楊思蓓則從多模態(tài)大模型的技術(shù)機理出發(fā)，以“多模態(tài)大模型機制洞察驅(qū)動魯棒生成”為主題，分享了提升模型生成穩(wěn)定性與可靠性的核心技術(shù)方法，為工業(yè)場景下多源數(shù)據(jù)融合應(yīng)用提供了理論支撐。

中山大學(xué)楊思蓓作引導(dǎo)報告

在三位引導(dǎo)發(fā)言嘉賓作報告后，由李冠彬、譚臺哲、蘇申分別為三位引導(dǎo)發(fā)言嘉賓頒發(fā)感謝牌，隨后，由論壇執(zhí)行主席崔金榮、楊楷翔主持論壇思辨環(huán)節(jié)。

李冠彬、譚臺哲、蘇申為三位引導(dǎo)嘉賓頒發(fā)感謝牌

思辨議題一：輔助支撐還是自主決策？—工業(yè)大模型應(yīng)用的角色定位與安全邊界辨析

與會專家普遍認(rèn)為，工業(yè)場景對確定性、穩(wěn)定性的極高要求與大模型“概率生成”的本質(zhì)存在天然張力。因此，應(yīng)用邊界需依據(jù)風(fēng)險等級嚴(yán)格劃分：在關(guān)鍵基礎(chǔ)設(shè)施、醫(yī)療、核心控制等高風(fēng)險、不可逆領(lǐng)域，必須堅持“人在回路”，由人類承擔(dān)最終決策責(zé)任；而在質(zhì)檢篩查、工藝評估、方案生成等高容錯、可回溯場景，大模型可充分發(fā)揮提效與增質(zhì)作用。 在技術(shù)路徑上，大家形成共識：當(dāng)前更可行的是采取“通用大模型 + 行業(yè)知識庫 + RAG（檢索增強生成）+ 多小模型協(xié)同”的復(fù)合方式，而非追求端到端的全自動決策。通過“人在回路”的持續(xù)反饋積累高質(zhì)量數(shù)據(jù)，逐步壓縮幻覺空間，是大模型從“輔助支撐”向“有限、自控的自主決策”演進的現(xiàn)實路徑。

思辨議題二：驗證缺失困局何解？—大模型落地工業(yè)現(xiàn)場的可行性與風(fēng)險博弈

嘉賓們提出應(yīng)堅持“小場景試點、漸進式應(yīng)用”的原則。建議加快構(gòu)建工業(yè)大模型數(shù)字孿生測試環(huán)境，通過虛擬仿真實現(xiàn)低成本、低風(fēng)險的有效性驗證；企業(yè)需根據(jù)工況安全完整性等級，建立差異化的AI決策誤判容忍標(biāo)準(zhǔn)與熔斷閾值，平衡智能化效率與生產(chǎn)安全。同時，應(yīng)建立全流程日志審計體系，明確算法供應(yīng)商、系統(tǒng)集成商與現(xiàn)場操作人員的責(zé)任邊界，實現(xiàn)AI決策全過程的可溯源、可追責(zé)。

思辨議題三：行業(yè)共識如何構(gòu)建？—工業(yè)大模型安全應(yīng)用的實施路徑與治理體系

與會嘉賓建議，應(yīng)整合產(chǎn)學(xué)研用資源，梳理形成覆蓋模型選型、私有化部署、運維監(jiān)控的通用實施指南；討論深入分析了“有形的手”與“無形的手”的協(xié)同動力機制。“無形的手”即市場驅(qū)動，當(dāng)技術(shù)能明確降本增效時，企業(yè)會自發(fā)采用；而在當(dāng)前風(fēng)險高、收益不確定的早期階段，亟需政府、行業(yè)主管部門或協(xié)會這只“有形的手”，通過政策引導(dǎo)、示范試點和標(biāo)準(zhǔn)制定，降低企業(yè)的試錯成本。

與會嘉賓圍繞相關(guān)議題展開討論

工業(yè)大模型作為制造業(yè)智能化轉(zhuǎn)型的核心引擎，其可信性與安全性正成為技術(shù)落地與產(chǎn)業(yè)升級的關(guān)鍵命題，不僅需要技術(shù)攻關(guān)，更是一場涉及效能收益、風(fēng)險控制與制度設(shè)計的綜合博弈。與會嘉賓圍繞三大核心思辨議題展開深度研討，形成階段性共識：應(yīng)在明確角色定位、完善驗證機制、構(gòu)建行業(yè)共識的基礎(chǔ)上，推動工業(yè)大模型技術(shù)與工業(yè)場景的深度適配。堅持“人在回路”的底線思維，通過小場景的漸進式試點構(gòu)建信任基礎(chǔ)。論壇呼吁，需持續(xù)發(fā)揮產(chǎn)學(xué)研用的協(xié)同效應(yīng)，以“有形之手”與“無形之手”合力打破驗證缺失的困局，打造標(biāo)準(zhǔn)統(tǒng)一、風(fēng)險可控、實操可行的安全應(yīng)用生態(tài)，推動工業(yè)大模型從技術(shù)愿景穩(wěn)步走向產(chǎn)業(yè)實效，為制造業(yè)高質(zhì)量發(fā)展注入可信賴的智能動能。

執(zhí)行主席為三位特邀嘉賓頒發(fā)感謝牌

論壇最后，黃棟對本次論壇進行了總結(jié)。本次論壇通過多視角碰撞、多維度探討，清晰梳理了工業(yè)大模型安全應(yīng)用的核心挑戰(zhàn)與解決思路，為行業(yè)發(fā)展提供了寶貴的思辨成果。

黃棟作論壇總結(jié)

未來，CCF YOCSEF廣州將以“智鏈工業(yè)、信創(chuàng)未來”為行動導(dǎo)向，形成深度問題清單與實踐倡議，搭建信創(chuàng)產(chǎn)業(yè)常態(tài)化交流平臺，凝聚技術(shù)共識，匯聚創(chuàng)新力量，助力工業(yè)大模型發(fā)展邁向“智鏈”驅(qū)動、“信創(chuàng)”引領(lǐng)的新階段。

參會嘉賓合影