今年以來，以ChatGPT為代表的生成式人工智能技術(shù)不斷取得突破，引發(fā)全球高度關(guān)注，人工智能發(fā)展進入更加智能、更加通用的新階段。目前，許多互聯(lián)網(wǎng)大廠、人工智能科技企業(yè)、高校和研究機構(gòu)等自研的通用、行業(yè)、垂直AI大模型百花齊 放，為各行各業(yè)帶來了巨大的活力和創(chuàng)新機遇。安防作為AI技術(shù)商業(yè)化落地發(fā)展最快、市場容量最大的主賽道，在AI大模型的賦能下將有怎樣的新突破和新發(fā)展？
?
一、AI加速迭代行業(yè)大模型不斷涌現(xiàn)
去年年底以ChatGPT為代表的生成式人工智能技術(shù)在全球掀起一輪AI熱潮，隨之國內(nèi)互聯(lián)網(wǎng)大廠、人工智能企業(yè)紛紛緊跟，各類AI大模型層出不窮；李彥宏、張勇等互聯(lián)網(wǎng)大佬也一致斷言大模型將顛覆整個行業(yè)。
時至今年下半年，隨著類似ChatGPT等基礎(chǔ)大模型喧囂過后，AI行業(yè)化大模型逐漸占上科技創(chuàng)新的浪尖，無論是今年7月份上海的2023世界人工智能大會，還是此次廈門投洽會重要展區(qū)警安法務(wù)科技展，“行業(yè)大模型”成為活動的“頂流”與談?wù)摰母哳l詞，下半年不斷涌現(xiàn)的垂直行業(yè)大模型也有力證明了這一事實。
相關(guān)業(yè)內(nèi)專家也表示，通用大模型研發(fā)基本是互聯(lián)網(wǎng)大廠們的專屬戰(zhàn)場，強有力的計算能力、大量有效的數(shù)據(jù)資源，以及高成本的長期訓(xùn)練和推理正是這些巨頭具備的優(yōu)勢。然而通用大模型對于更關(guān)注碎片化場景下的行業(yè)用戶而言，無法滿足他們具體業(yè)務(wù)的需求。因此，強人工智能真正要落地應(yīng)用、賦能行業(yè)，還需要依賴行業(yè)大模型。這也是為何今年在6月份召開的第十六屆（2023）中國國際社會公共安全產(chǎn)品博覽會上，相關(guān)企業(yè)行業(yè)大模型應(yīng)用Demo紛紛亮相。比如宇視首度推出行業(yè)大模型梧桐系列云端應(yīng)用、商湯科技帶來日日新SenseNova大模型、聯(lián)匯科技的視覺語言大模型OmModel以及熵基科技自主研發(fā)的BioCVLLM大語言模型等，展現(xiàn)出行業(yè)化可喜表現(xiàn)。
此次警安法務(wù)科技展上，行業(yè)大模型在警務(wù)及司法領(lǐng)域又展現(xiàn)出新的技術(shù)變革，美亞柏科推出了國內(nèi)首個公共安全大模型一體化裝備——“天擎”。“天擎”擁有豐富的公共安全行業(yè)知識，具備強大的警務(wù)意圖識別、警務(wù)情報分析、案情推理等業(yè)務(wù)理解和推理能力，能夠從海量數(shù)據(jù)中持續(xù)自我進化，實現(xiàn)行業(yè)知識、業(yè)務(wù)問題，解決反饋的全流程閉環(huán)進化，大大提升辦案效率，大幅降低業(yè)務(wù)成本；在人工智能論壇上，清華大學(xué)互聯(lián)網(wǎng)司法研究院帶來了面向司法領(lǐng)域的大語言模型構(gòu)建探索與實踐，為司法大語言模型落地提供了很好的路徑與思考；蘇州科達基于公安實戰(zhàn)業(yè)務(wù)提出KD多模態(tài)大模型，推動大模型在安防行業(yè)生根發(fā)芽。
?
二、安防+AI成就有目共睹
大模型值得期待
眾所周知，安防行業(yè)作為人工智能技術(shù)應(yīng)用最具代表性的領(lǐng)域，大約在2015年左右，識別、分析類的算法開始在行業(yè)內(nèi)成規(guī)模應(yīng)用，到2018年短短幾年間，人臉檢測、識別和視頻分析應(yīng)用已成為行業(yè)主流。可以說，AI技術(shù)推動著安防行業(yè)全面進入了智能化時代，并不斷重塑著行業(yè)應(yīng)用與商業(yè)模式。
當(dāng)前，AI加速迭代并滲透到整個安防產(chǎn)業(yè)，從前端產(chǎn)品到后端平臺、再到整體解決方案，各種產(chǎn)品琳瑯滿目。人工智能技術(shù)在端、邊、云各層級上實現(xiàn)全面賦能應(yīng)用，并且在各行業(yè)數(shù)字化驅(qū)動下，應(yīng)用場景已從落地實戰(zhàn)較早的公安、交通等領(lǐng)域向金融、社區(qū)、園區(qū)、水利、商業(yè)、民用等領(lǐng)域持續(xù)拓展。
對于人工智能帶給公安領(lǐng)域的創(chuàng)新與變革，在此次人工智能論壇上，廈門市公安局覃智泉主任通過人工智能在公安偵查打擊、治安防控、110接處警、智慧交通、服務(wù)民生、流程再造等方面的創(chuàng)新實踐給出了最有力的佐證。
可以說，人工智能技術(shù)或如蘇州科達首席科學(xué)家章勇所言，AI感知智能已經(jīng)在行業(yè)展示出其“十八般武藝”，其成就有目共睹。接下來，AI大模型又將在行業(yè)創(chuàng)造怎樣的一番天地？已經(jīng)成為整個行業(yè)拭目以待的重頭戲。
除了已經(jīng)取得的成果，行業(yè)也注意到，隨著人工智能技術(shù)的演進，傳統(tǒng)深度學(xué)習(xí)算法在碎片化的安防應(yīng)用場景中的局限性日益凸顯。“基于特征識別的AI1.0對感知信息的深度理解，如目標(biāo)和目標(biāo)之間的關(guān)系、目標(biāo)和場景之間的互動關(guān)系等會有很大的困難。”章勇表示，一方面是多樣化的場景帶來數(shù)據(jù)采集及標(biāo)注的困難，同時任務(wù)多變性，導(dǎo)致AI1.0泛化性能比較差。另一方面，對行業(yè)知識的理解需要高質(zhì)量知識圖譜構(gòu)建模式，需要大規(guī)模自動化的知識獲取，但知識又是動態(tài)變化的，現(xiàn)有傳統(tǒng)算法無法滿足實際場景應(yīng)用。這也是為何弱人工智能下算法只能做人臉識別、車牌識別等有限的產(chǎn)品，持續(xù)擴展的空間不足，再疊加高昂的研發(fā)成本，目前一些人工智能企業(yè)活得并不輕松也有這方面的原因。
相比之下，大模型具有更好的泛化能力與知識圖譜的構(gòu)建能力，能夠突破傳統(tǒng)算法的精度和數(shù)據(jù)局限問題，同時大數(shù)據(jù)與人工智能的結(jié)合也將更加緊密，行業(yè)智能化應(yīng)用將有可能突破現(xiàn)有瓶頸。
?
三、大模型帶來想象空間
但行業(yè)化應(yīng)用面臨不少考驗
以AIGC為例，其在語義理解、文本創(chuàng)作、邏輯推理等領(lǐng)域的卓越表現(xiàn)，以及自然語言對話的低門檻交互方式，讓行業(yè)看到智能化升級又將迎來新的發(fā)展空間。
1
行業(yè)大模型帶來新的想象空間
對于特定行業(yè)的碎片化場景，用戶其實并不需要通用大模型的全面能力，更需要行業(yè)大模型的精度和質(zhì)量。在行業(yè)知識圖譜的基礎(chǔ)上，以沉淀的行業(yè)數(shù)據(jù)、專家經(jīng)驗以及工程實踐能力予以配合，通用大模型演進下的行業(yè)垂直模型將拉開強人工智能場景化應(yīng)用新序幕。
眾所周知，作為數(shù)字化和智能化應(yīng)用的前沿領(lǐng)域，安防行業(yè)擁有極為豐富的感知設(shè)備和可觀的數(shù)據(jù)資源，再加上廣泛的應(yīng)用場景，行業(yè)必將成為大模型率先落地的垂直領(lǐng)域之一。伴隨著高性能、高穩(wěn)定的大模型不斷突破發(fā)展，更高通用性和工業(yè)化水平AI2.0將持續(xù)拓寬安防行業(yè)數(shù)字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術(shù)變革將使得安防領(lǐng)域AI算法更加精準(zhǔn)。另一方面通過多模態(tài)技術(shù)可以將圖像、語音和文本等數(shù)據(jù)進行融合，實現(xiàn)多樣化海量數(shù)據(jù)深度挖掘，并在此基礎(chǔ)上進一步提取數(shù)據(jù)內(nèi)容關(guān)聯(lián)價值。例如在多種非結(jié)構(gòu)性數(shù)據(jù)中提取相關(guān)的人、事、物、組織等關(guān)鍵要素，繼而形成具有知識價值的圖譜，不但提升了長尾AI需求落地的效率和效果，更有可能改變相關(guān)產(chǎn)品研發(fā)、項目運營等環(huán)節(jié)的交互方式。
可以相信，伴隨著AI大模型等技術(shù)在安防領(lǐng)域逐漸落地及場景突破，有望在行業(yè)內(nèi)真正構(gòu)建起事前預(yù)測預(yù)防、事中制止、事后監(jiān)督的治理體系與機制，進而提高社會預(yù)測預(yù)警預(yù)防各類風(fēng)險能力，增強社會公共安全防控的整體性、協(xié)同性、精準(zhǔn)性，更能推而廣之，探索安防在安全生產(chǎn)、應(yīng)急防災(zāi)、生態(tài)建設(shè)與保護等領(lǐng)域的深度應(yīng)用。AI大模型融入公共安全領(lǐng)域其背后的價值將不可估量。
2
行業(yè)化發(fā)展面臨應(yīng)用與安全諸多挑戰(zhàn)
在誘人的發(fā)展前景外，技術(shù)的雙刃劍效應(yīng)在AI大模型上依然不容小覷。正如覃智泉主任所言，當(dāng)前公安領(lǐng)域面臨著AI大模型應(yīng)用及安全方面諸多問題需要深入思考。
在應(yīng)用方面，哪些業(yè)務(wù)可以引入大模型？用哪些業(yè)務(wù)數(shù)據(jù)進行大模型訓(xùn)練？數(shù)以千億計的數(shù)據(jù)進行訓(xùn)練必將帶來高昂的費用支出，誰來承擔(dān)？大模型在公安工作中落地應(yīng)用，帶來的法律跟責(zé)任問題該如何界定等等；在安全方面，如何保證訓(xùn)練數(shù)據(jù)安全，AI大模型帶來的虛假信息、深度偽造信息等如何解決？這些已經(jīng)成為阻擋AI大模型賦能公安應(yīng)用較為現(xiàn)實的問題。
在AI大模型應(yīng)用部署上，華為技術(shù)有限公司科學(xué)家胡善勇也提出：由通用大模型向?qū)I(yè)行業(yè)大模型演進，需要投入高昂的算力成本、數(shù)據(jù)成本、算法成本以及人力成本，這與狹窄行業(yè)應(yīng)用對應(yīng)的商業(yè)價值和商業(yè)收益不成正比，因此目前來看，面向行業(yè)大模型還難以形成正向的商業(yè)應(yīng)用閉環(huán)，需要企業(yè)持續(xù)不斷地試錯與投入。
安全問題是AI大模型另一較為凸顯的話題，近段時間無論是AI“黑產(chǎn)”，還是深度偽造帶來的涉詐犯罪風(fēng)險正在積聚。在此次人工智能論壇上，美亞柏科AI研發(fā)中心總經(jīng)理趙建強等相關(guān)專家系統(tǒng)地總結(jié)了AI大模型在數(shù)據(jù)安全方面面臨的一些困境：一方面AI大模型存在算法、數(shù)據(jù)等安全風(fēng)險。以算法風(fēng)險為例，大模型無法抵抗提示注入、對抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓(xùn)練的一些個人隱私數(shù)據(jù)容易泄露，尤其是涉及到的個人身份信息。同時，它還存在歧視、倫理偏見等數(shù)據(jù)方面的問題。另一方面大模型、生成式AI（AIGC）技術(shù)存在被不法分子利用的風(fēng)險，如通過深度偽造相關(guān)視頻或圖像信息進行詐騙，目前國內(nèi)已經(jīng)出現(xiàn)類似的案件。
同時，生成式人工智能技術(shù)可能帶來非常多的虛假信息，或者說加速虛假信息的生成和傳播。
除了以上兩個方面，AI大模型或者生成式人工智能技術(shù)本身及應(yīng)用過程中還會帶來很多在倫理道德、法理、法律等方面的挑戰(zhàn)，甚至可能影響整個社會穩(wěn)定，危害到國家安全。
3
大模型可信與規(guī)范化需要評測標(biāo)準(zhǔn)
據(jù)賽迪顧問統(tǒng)計顯示，截至2023年7月，國內(nèi)累計已經(jīng)有130個大模型問世，再加上一些企業(yè)孵化的行業(yè)大模型，有人戲稱目前國內(nèi)已經(jīng)進入“千模大戰(zhàn)”。
然而，這些大模型是否果真名副其實，能否稱得上“大模型”，以及當(dāng)前公布的大模型算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求及政策監(jiān)管，都不得而知。面對大模型、AIGC急速發(fā)展帶來的一系列應(yīng)用與安全問題，如何構(gòu)建可信的AI大模型、實現(xiàn)對AIGC內(nèi)容的規(guī)范管理已經(jīng)成為行業(yè)及國家重點關(guān)注的內(nèi)容。
清華大學(xué)互聯(lián)網(wǎng)司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對于AI大模型能力的評測，尤其是AIGC內(nèi)容方面的檢測還沒有一個通用指標(biāo)或通用范式。
在安全問題受到高度重視的當(dāng)下，AI大模型產(chǎn)業(yè)需要統(tǒng)籌發(fā)展與安全，特別是涉及公共安全領(lǐng)域的垂直應(yīng)用大模型，亟需建立可信與規(guī)范化的評測標(biāo)準(zhǔn)體系。
?
四、多方聯(lián)動并舉
助力行業(yè)大模型規(guī)范化應(yīng)用
“變革是由問題倒逼而產(chǎn)生，又在不斷解決問題中而深化。”AI通用大模型在向行業(yè)大模型持續(xù)精進的過程中，需要跨過應(yīng)用適配性與安全規(guī)范化兩道坎，這也是當(dāng)前各個行業(yè)針對大模型發(fā)力的重點。
“行業(yè)大模型落地部署，硬件非常簡單，通過加大算力的部署即可實現(xiàn)。真正的挑戰(zhàn)是軟件技術(shù)以及對行業(yè)業(yè)務(wù)層面的深度理解。”胡善勇表示，行業(yè)大模型對公共安全治理將會是一場非常重大開創(chuàng)性變革，雖然在公安與司法領(lǐng)域，大模型商業(yè)化應(yīng)用閉環(huán)還較難實現(xiàn)，但前期的戰(zhàn)略預(yù)研至關(guān)重要，這不但需要國家及地方政府予以資源支持，還需要在統(tǒng)一引領(lǐng)下，通過產(chǎn)學(xué)研以及社會組織共同努力實現(xiàn)預(yù)研的持續(xù)推進，在為大模型行業(yè)化應(yīng)用打下堅實基礎(chǔ)的前提下，相信在未來三到五年公共安全行業(yè)大模型應(yīng)用將會有成效彰顯。
自AI落地行業(yè)之日起，安全問題已經(jīng)不是一個應(yīng)用層面的問題，而是產(chǎn)業(yè)級問題。胡善勇特別強調(diào)，AI安全問題關(guān)鍵是源頭，通過法律、法規(guī)前置化處理以達到治理非結(jié)構(gòu)數(shù)據(jù)帶來的深度偽造與虛假信息。趙建強也提出，針對AI大模型及生成式人工智能技術(shù)的安全治理需要從多個方面入手:
一是要源頭治理，國家發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》明確提出來在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標(biāo)注。相關(guān)部門也將制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引，加強對生成式人工智能的模型、算法、數(shù)據(jù)的安全評估和管控。
二是要加強行業(yè)自律，無論是內(nèi)容生產(chǎn)、應(yīng)用還是服務(wù)，相關(guān)企業(yè)需要加強自律，需要對大模型從技術(shù)、內(nèi)容等方面進行深度審核、管理、治理；行業(yè)組織則需加快相應(yīng)產(chǎn)品評估方法和標(biāo)準(zhǔn)落地，以引導(dǎo)行業(yè)發(fā)展。
三是通過技術(shù)的方式去支撐法律、規(guī)則和標(biāo)準(zhǔn)落地，實現(xiàn)對大模型產(chǎn)品的“質(zhì)檢”。目前人為因素已經(jīng)沒有辦法監(jiān)督和評價生成式人工智能所生成的內(nèi)容，需要通過AI方式進行鑒別，以AI對抗AI，進而實現(xiàn)對大模型進行安全性評估，對內(nèi)容數(shù)據(jù)進行相應(yīng)的監(jiān)督檢查，實現(xiàn)最大限度發(fā)現(xiàn)可能存在的偽造、虛假信息。
正如前段時間熱映的《奧本海默》引發(fā)的熱議，原子彈的研發(fā)對人類而言最終是利是弊，發(fā)人深省。也許當(dāng)前社會正處于強人工智能的“奧本海默時刻”，面對快速迭代的AI大模型以及AIGC技術(shù)，AI技術(shù)“雙刃劍”效應(yīng)必然要求行業(yè)必須堅持發(fā)展與安全并重的態(tài)度，才能讓新技術(shù)真正發(fā)揮更大價值。
?
小結(jié)
可以斷言，當(dāng)下人工智能正在進入通用的新階段，只是這個階段的前奏有多長還無人知曉。安防行業(yè)一直被認為是人工智能強應(yīng)用的領(lǐng)域，我們也寄希望在安防行業(yè)邁向高質(zhì)量發(fā)展關(guān)鍵時期，行業(yè)級AI大模型能夠讓更多創(chuàng)新技術(shù)融合并更快速、更廣泛地賦能更多細分場景應(yīng)用，助力行業(yè)深挖更廣闊的創(chuàng)新空間和市場潛力。
（文章來源于：中國安防協(xié)會，如有侵權(quán)請聯(lián)系刪除）
