域名預(yù)訂/競(jìng)價(jià)，好“米”不錯(cuò)過(guò)

當(dāng)下，大模型與工業(yè)物聯(lián)網(wǎng)的融合正成為推動(dòng)行業(yè)創(chuàng)新變革的關(guān)鍵力量。江行智能董事長(zhǎng)劉江川院士作為專家學(xué)者，受邀出席中國(guó)計(jì)算機(jī)大會(huì)CNCC2024“第二屆大模型時(shí)代的智能物聯(lián)網(wǎng)研究前沿論壇”并發(fā)表主旨演講，深入探討大模型在工業(yè)物聯(lián)網(wǎng)場(chǎng)景落地的潛力與挑戰(zhàn)。

劉江川院士表示，在實(shí)際應(yīng)用中，人工智能已在多個(gè)垂直行業(yè)展現(xiàn)出巨大的潛力價(jià)值。以國(guó)家電網(wǎng)超高壓輸電線路監(jiān)測(cè)為例，物聯(lián)網(wǎng)設(shè)備將從2020年的5.4億攀升至2030年的30億。這些遍布電網(wǎng)的智能設(shè)備，結(jié)合物聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)，實(shí)現(xiàn)對(duì)輸電線路的全方位監(jiān)測(cè)，精準(zhǔn)識(shí)別并預(yù)警潛在安全隱患，在保障電力傳輸安全穩(wěn)定的同時(shí)，大幅降低人工巡檢成本。

然而，大模型與工業(yè)物聯(lián)網(wǎng)的融合之路并非一片坦途。在技術(shù)部署的實(shí)踐中，邊緣設(shè)備處理能力、連接穩(wěn)定性、對(duì)專家依賴程度等問(wèn)題成為限制發(fā)展的關(guān)鍵因素。針對(duì)這些問(wèn)題，劉院士分享了一系列創(chuàng)新解決方案。

邊云協(xié)同通過(guò)將部分計(jì)算任務(wù)分配給邊緣設(shè)備，實(shí)現(xiàn)邊緣計(jì)算與云計(jì)算之間的協(xié)同與互補(bǔ)。以輸電線路監(jiān)測(cè)為例，邊緣設(shè)備能夠迅速處理原始數(shù)據(jù)，并將關(guān)鍵信息上傳至云端進(jìn)行深度分析處理。這種方式可發(fā)揮邊緣設(shè)備在處理速度上的優(yōu)勢(shì)，減輕云端計(jì)算壓力，降低數(shù)據(jù)傳輸延遲，提升系統(tǒng)效能和響應(yīng)速度。

同時(shí)，AutoEdge的引入也為人工智能與工業(yè)專家之間的協(xié)作提供了新的視角與思路。這一框架下，人工智能專家專注模型優(yōu)化迭代，領(lǐng)域?qū)＜覄t聚焦業(yè)務(wù)應(yīng)用，將專業(yè)知識(shí)與實(shí)際需求相結(jié)合。通過(guò)合理的任務(wù)分配，有效緩解對(duì)專業(yè)人才的過(guò)度依賴，提高系統(tǒng)效率及靈活性。

面對(duì)大語(yǔ)言模型查詢成本和延遲、真實(shí)性和可信度等問(wèn)題，會(huì)上，劉院士也介紹了大模型語(yǔ)義緩存技術(shù)、檢索增強(qiáng)生成（RAG）技術(shù)等研究成果和應(yīng)對(duì)策略。

語(yǔ)義緩存技術(shù)

通過(guò)利用現(xiàn)實(shí)場(chǎng)景中人與大語(yǔ)言模型對(duì)話的語(yǔ)義分析來(lái)優(yōu)化緩存設(shè)計(jì)問(wèn)題，并基于MOSS和LMSYS數(shù)據(jù)集進(jìn)行大量對(duì)話數(shù)據(jù)分析，挖掘查詢模式和語(yǔ)義關(guān)聯(lián)，提出一種新型緩存架構(gòu)SCALM。SCALM引入全面層次語(yǔ)義聚類（CO-HSC）和選擇性層次語(yǔ)義聚類（SE-HSC），細(xì)化查詢模式的處理，可有效解決LLM智能問(wèn)答中的緩存系統(tǒng)設(shè)計(jì)效率低和成本高等核心問(wèn)題。

檢索增強(qiáng)生成（RAG）技術(shù)

采用邊緣輔助和協(xié)作的RAG，結(jié)合自適應(yīng)知識(shí)更新機(jī)制，能夠增強(qiáng)模型對(duì)實(shí)時(shí)數(shù)據(jù)的理解和利用能力，在保證準(zhǔn)確性的同時(shí)，降低成本和延遲，為大語(yǔ)言模型在工業(yè)物聯(lián)網(wǎng)中的可靠應(yīng)用提供保障。

在劉江川院士的帶領(lǐng)下，江行智能一直以邊緣智能賦能電力能源行業(yè)為愿景，積極探索大語(yǔ)言模型在電力行業(yè)的落地應(yīng)用，提高實(shí)用性及可靠性。接下來(lái)，江行智能將繼續(xù)秉持創(chuàng)新驅(qū)動(dòng)的發(fā)展理念，深度挖掘大模型與工業(yè)物聯(lián)網(wǎng)融合發(fā)展?jié)摿Γ瑸樾袠I(yè)發(fā)展提供切實(shí)可行的解決方案和創(chuàng)新思路。

關(guān)于大會(huì)

10月24-26日，以“發(fā)展新質(zhì)生產(chǎn)力，計(jì)算引領(lǐng)未來(lái)”為主題的第二十一屆中國(guó)計(jì)算機(jī)大會(huì)（CNCC2024）在橫店隆重召開。中國(guó)計(jì)算機(jī)大會(huì)是全國(guó)計(jì)算機(jī)領(lǐng)域規(guī)模最大、規(guī)格最高的學(xué)術(shù)、技術(shù)、產(chǎn)業(yè)交流互動(dòng)大會(huì)。本屆大會(huì)由中國(guó)計(jì)算機(jī)學(xué)會(huì)主辦，設(shè)18場(chǎng)特邀報(bào)告、3場(chǎng)大會(huì)論壇、138場(chǎng)專題論壇等活動(dòng)，覆蓋AI、網(wǎng)絡(luò)安全、基礎(chǔ)軟件、教育、芯片等34個(gè)領(lǐng)域方向。17位國(guó)內(nèi)院士，800余位國(guó)內(nèi)外頂尖學(xué)者、企業(yè)技術(shù)精英齊聚橫店，共同探討計(jì)算機(jī)科學(xué)技術(shù)的最新進(jìn)展、未來(lái)趨勢(shì)和行業(yè)應(yīng)用。

申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！