今年以來，以ChatGPT為代表的生成式人工智能技術不斷取得突破，引發(fā)全球高度關注，人工智能發(fā)展進入更加智能、更加通用的新階段。目前，許多互聯(lián)網(wǎng)大廠、人工智能科技企業(yè)、高校和研究機構等自研的通用、行業(yè)、垂直AI大模型百花齊 放，為各行各業(yè)帶來了巨大的活力和創(chuàng)新機遇。安防作為AI技術商業(yè)化落地發(fā)展最快、市場容量最大的主賽道，在AI大模型的賦能下將有怎樣的新突破和新發(fā)展？
?
一、AI加速迭代行業(yè)大模型不斷涌現(xiàn)
去年年底以ChatGPT為代表的生成式人工智能技術在全球掀起一輪AI熱潮，隨之國內(nèi)互聯(lián)網(wǎng)大廠、人工智能企業(yè)紛紛緊跟，各類AI大模型層出不窮；李彥宏、張勇等互聯(lián)網(wǎng)大佬也一致斷言大模型將顛覆整個行業(yè)。
時至今年下半年，隨著類似ChatGPT等基礎大模型喧囂過后，AI行業(yè)化大模型逐漸占上科技創(chuàng)新的浪尖，無論是今年7月份上海的2023世界人工智能大會，還是此次廈門投洽會重要展區(qū)警安法務科技展，“行業(yè)大模型”成為活動的“頂流”與談論的高頻詞，下半年不斷涌現(xiàn)的垂直行業(yè)大模型也有力證明了這一事實。
相關業(yè)內(nèi)專家也表示，通用大模型研發(fā)基本是互聯(lián)網(wǎng)大廠們的專屬戰(zhàn)場，強有力的計算能力、大量有效的數(shù)據(jù)資源，以及高成本的長期訓練和推理正是這些巨頭具備的優(yōu)勢。然而通用大模型對于更關注碎片化場景下的行業(yè)用戶而言，無法滿足他們具體業(yè)務的需求。因此，強人工智能真正要落地應用、賦能行業(yè)，還需要依賴行業(yè)大模型。這也是為何今年在6月份召開的第十六屆（2023）中國國際社會公共安全產(chǎn)品博覽會上，相關企業(yè)行業(yè)大模型應用Demo紛紛亮相。比如宇視首度推出行業(yè)大模型梧桐系列云端應用、商湯科技帶來日日新SenseNova大模型、聯(lián)匯科技的視覺語言大模型OmModel以及熵基科技自主研發(fā)的BioCVLLM大語言模型等，展現(xiàn)出行業(yè)化可喜表現(xiàn)。
此次警安法務科技展上，行業(yè)大模型在警務及司法領域又展現(xiàn)出新的技術變革，美亞柏科推出了國內(nèi)首個公共安全大模型一體化裝備——“天擎”。“天擎”擁有豐富的公共安全行業(yè)知識，具備強大的警務意圖識別、警務情報分析、案情推理等業(yè)務理解和推理能力，能夠從海量數(shù)據(jù)中持續(xù)自我進化，實現(xiàn)行業(yè)知識、業(yè)務問題，解決反饋的全流程閉環(huán)進化，大大提升辦案效率，大幅降低業(yè)務成本；在人工智能論壇上，清華大學互聯(lián)網(wǎng)司法研究院帶來了面向司法領域的大語言模型構建探索與實踐，為司法大語言模型落地提供了很好的路徑與思考；蘇州科達基于公安實戰(zhàn)業(yè)務提出KD多模態(tài)大模型，推動大模型在安防行業(yè)生根發(fā)芽。
?
二、安防+AI成就有目共睹
大模型值得期待
眾所周知，安防行業(yè)作為人工智能技術應用最具代表性的領域，大約在2015年左右，識別、分析類的算法開始在行業(yè)內(nèi)成規(guī)模應用，到2018年短短幾年間，人臉檢測、識別和視頻分析應用已成為行業(yè)主流?？梢哉f，AI技術推動著安防行業(yè)全面進入了智能化時代，并不斷重塑著行業(yè)應用與商業(yè)模式。
當前，AI加速迭代并滲透到整個安防產(chǎn)業(yè)，從前端產(chǎn)品到后端平臺、再到整體解決方案，各種產(chǎn)品琳瑯滿目。人工智能技術在端、邊、云各層級上實現(xiàn)全面賦能應用，并且在各行業(yè)數(shù)字化驅動下，應用場景已從落地實戰(zhàn)較早的公安、交通等領域向金融、社區(qū)、園區(qū)、水利、商業(yè)、民用等領域持續(xù)拓展。
對于人工智能帶給公安領域的創(chuàng)新與變革，在此次人工智能論壇上，廈門市公安局覃智泉主任通過人工智能在公安偵查打擊、治安防控、110接處警、智慧交通、服務民生、流程再造等方面的創(chuàng)新實踐給出了最有力的佐證。
可以說，人工智能技術或如蘇州科達首席科學家章勇所言，AI感知智能已經(jīng)在行業(yè)展示出其“十八般武藝”，其成就有目共睹。接下來，AI大模型又將在行業(yè)創(chuàng)造怎樣的一番天地？已經(jīng)成為整個行業(yè)拭目以待的重頭戲。
除了已經(jīng)取得的成果，行業(yè)也注意到，隨著人工智能技術的演進，傳統(tǒng)深度學習算法在碎片化的安防應用場景中的局限性日益凸顯。“基于特征識別的AI1.0對感知信息的深度理解，如目標和目標之間的關系、目標和場景之間的互動關系等會有很大的困難。”章勇表示，一方面是多樣化的場景帶來數(shù)據(jù)采集及標注的困難，同時任務多變性，導致AI1.0泛化性能比較差。另一方面，對行業(yè)知識的理解需要高質量知識圖譜構建模式，需要大規(guī)模自動化的知識獲取，但知識又是動態(tài)變化的，現(xiàn)有傳統(tǒng)算法無法滿足實際場景應用。這也是為何弱人工智能下算法只能做人臉識別、車牌識別等有限的產(chǎn)品，持續(xù)擴展的空間不足，再疊加高昂的研發(fā)成本，目前一些人工智能企業(yè)活得并不輕松也有這方面的原因。
相比之下，大模型具有更好的泛化能力與知識圖譜的構建能力，能夠突破傳統(tǒng)算法的精度和數(shù)據(jù)局限問題，同時大數(shù)據(jù)與人工智能的結合也將更加緊密，行業(yè)智能化應用將有可能突破現(xiàn)有瓶頸。
?
三、大模型帶來想象空間
但行業(yè)化應用面臨不少考驗
以AIGC為例，其在語義理解、文本創(chuàng)作、邏輯推理等領域的卓越表現(xiàn)，以及自然語言對話的低門檻交互方式，讓行業(yè)看到智能化升級又將迎來新的發(fā)展空間。
1
行業(yè)大模型帶來新的想象空間
對于特定行業(yè)的碎片化場景，用戶其實并不需要通用大模型的全面能力，更需要行業(yè)大模型的精度和質量。在行業(yè)知識圖譜的基礎上，以沉淀的行業(yè)數(shù)據(jù)、專家經(jīng)驗以及工程實踐能力予以配合，通用大模型演進下的行業(yè)垂直模型將拉開強人工智能場景化應用新序幕。
眾所周知，作為數(shù)字化和智能化應用的前沿領域，安防行業(yè)擁有極為豐富的感知設備和可觀的數(shù)據(jù)資源，再加上廣泛的應用場景，行業(yè)必將成為大模型率先落地的垂直領域之一。伴隨著高性能、高穩(wěn)定的大模型不斷突破發(fā)展，更高通用性和工業(yè)化水平AI2.0將持續(xù)拓寬安防行業(yè)數(shù)字化、智能化的邊界。一方面大模型、AGI等新一輪的AI技術變革將使得安防領域AI算法更加精準。另一方面通過多模態(tài)技術可以將圖像、語音和文本等數(shù)據(jù)進行融合，實現(xiàn)多樣化海量數(shù)據(jù)深度挖掘，并在此基礎上進一步提取數(shù)據(jù)內(nèi)容關聯(lián)價值。例如在多種非結構性數(shù)據(jù)中提取相關的人、事、物、組織等關鍵要素，繼而形成具有知識價值的圖譜，不但提升了長尾AI需求落地的效率和效果，更有可能改變相關產(chǎn)品研發(fā)、項目運營等環(huán)節(jié)的交互方式。
可以相信，伴隨著AI大模型等技術在安防領域逐漸落地及場景突破，有望在行業(yè)內(nèi)真正構建起事前預測預防、事中制止、事后監(jiān)督的治理體系與機制，進而提高社會預測預警預防各類風險能力，增強社會公共安全防控的整體性、協(xié)同性、精準性，更能推而廣之，探索安防在安全生產(chǎn)、應急防災、生態(tài)建設與保護等領域的深度應用。AI大模型融入公共安全領域其背后的價值將不可估量。
2
行業(yè)化發(fā)展面臨應用與安全諸多挑戰(zhàn)
在誘人的發(fā)展前景外，技術的雙刃劍效應在AI大模型上依然不容小覷。正如覃智泉主任所言，當前公安領域面臨著AI大模型應用及安全方面諸多問題需要深入思考。
在應用方面，哪些業(yè)務可以引入大模型？用哪些業(yè)務數(shù)據(jù)進行大模型訓練？數(shù)以千億計的數(shù)據(jù)進行訓練必將帶來高昂的費用支出，誰來承擔？大模型在公安工作中落地應用，帶來的法律跟責任問題該如何界定等等；在安全方面，如何保證訓練數(shù)據(jù)安全，AI大模型帶來的虛假信息、深度偽造信息等如何解決？這些已經(jīng)成為阻擋AI大模型賦能公安應用較為現(xiàn)實的問題。
在AI大模型應用部署上，華為技術有限公司科學家胡善勇也提出：由通用大模型向專業(yè)行業(yè)大模型演進，需要投入高昂的算力成本、數(shù)據(jù)成本、算法成本以及人力成本，這與狹窄行業(yè)應用對應的商業(yè)價值和商業(yè)收益不成正比，因此目前來看，面向行業(yè)大模型還難以形成正向的商業(yè)應用閉環(huán)，需要企業(yè)持續(xù)不斷地試錯與投入。
安全問題是AI大模型另一較為凸顯的話題，近段時間無論是AI“黑產(chǎn)”，還是深度偽造帶來的涉詐犯罪風險正在積聚。在此次人工智能論壇上，美亞柏科AI研發(fā)中心總經(jīng)理趙建強等相關專家系統(tǒng)地總結了AI大模型在數(shù)據(jù)安全方面面臨的一些困境：一方面AI大模型存在算法、數(shù)據(jù)等安全風險。以算法風險為例，大模型無法抵抗提示注入、對抗樣本等攻擊，可靠性低。如受到攻擊，用于大模型訓練的一些個人隱私數(shù)據(jù)容易泄露，尤其是涉及到的個人身份信息。同時，它還存在歧視、倫理偏見等數(shù)據(jù)方面的問題。另一方面大模型、生成式AI（AIGC）技術存在被不法分子利用的風險，如通過深度偽造相關視頻或圖像信息進行詐騙，目前國內(nèi)已經(jīng)出現(xiàn)類似的案件。
同時，生成式人工智能技術可能帶來非常多的虛假信息，或者說加速虛假信息的生成和傳播。
除了以上兩個方面，AI大模型或者生成式人工智能技術本身及應用過程中還會帶來很多在倫理道德、法理、法律等方面的挑戰(zhàn)，甚至可能影響整個社會穩(wěn)定，危害到國家安全。
3
大模型可信與規(guī)范化需要評測標準
據(jù)賽迪顧問統(tǒng)計顯示，截至2023年7月，國內(nèi)累計已經(jīng)有130個大模型問世，再加上一些企業(yè)孵化的行業(yè)大模型，有人戲稱目前國內(nèi)已經(jīng)進入“千模大戰(zhàn)”。
然而，這些大模型是否果真名副其實，能否稱得上“大模型”，以及當前公布的大模型算法是否有缺陷、內(nèi)容是否符合法律法規(guī)要求及政策監(jiān)管，都不得而知。面對大模型、AIGC急速發(fā)展帶來的一系列應用與安全問題，如何構建可信的AI大模型、實現(xiàn)對AIGC內(nèi)容的規(guī)范管理已經(jīng)成為行業(yè)及國家重點關注的內(nèi)容。
清華大學互聯(lián)網(wǎng)司法研究院助理教授艾清遙表示，相較于智能輔助駕駛，目前對于AI大模型能力的評測，尤其是AIGC內(nèi)容方面的檢測還沒有一個通用指標或通用范式。
在安全問題受到高度重視的當下，AI大模型產(chǎn)業(yè)需要統(tǒng)籌發(fā)展與安全，特別是涉及公共安全領域的垂直應用大模型，亟需建立可信與規(guī)范化的評測標準體系。
?
四、多方聯(lián)動并舉
助力行業(yè)大模型規(guī)范化應用
“變革是由問題倒逼而產(chǎn)生，又在不斷解決問題中而深化?！盇I通用大模型在向行業(yè)大模型持續(xù)精進的過程中，需要跨過應用適配性與安全規(guī)范化兩道坎，這也是當前各個行業(yè)針對大模型發(fā)力的重點。
“行業(yè)大模型落地部署，硬件非常簡單，通過加大算力的部署即可實現(xiàn)。真正的挑戰(zhàn)是軟件技術以及對行業(yè)業(yè)務層面的深度理解?！焙朴卤硎荆袠I(yè)大模型對公共安全治理將會是一場非常重大開創(chuàng)性變革，雖然在公安與司法領域，大模型商業(yè)化應用閉環(huán)還較難實現(xiàn)，但前期的戰(zhàn)略預研至關重要，這不但需要國家及地方政府予以資源支持，還需要在統(tǒng)一引領下，通過產(chǎn)學研以及社會組織共同努力實現(xiàn)預研的持續(xù)推進，在為大模型行業(yè)化應用打下堅實基礎的前提下，相信在未來三到五年公共安全行業(yè)大模型應用將會有成效彰顯。
自AI落地行業(yè)之日起，安全問題已經(jīng)不是一個應用層面的問題，而是產(chǎn)業(yè)級問題。胡善勇特別強調(diào)，AI安全問題關鍵是源頭，通過法律、法規(guī)前置化處理以達到治理非結構數(shù)據(jù)帶來的深度偽造與虛假信息。趙建強也提出，針對AI大模型及生成式人工智能技術的安全治理需要從多個方面入手:
一是要源頭治理，國家發(fā)布的《生成式人工智能服務管理暫行辦法》明確提出來在生成式人工智能技術研發(fā)過程中進行數(shù)據(jù)標注。相關部門也將制定相應的分類分級監(jiān)管規(guī)則或者指引，加強對生成式人工智能的模型、算法、數(shù)據(jù)的安全評估和管控。
二是要加強行業(yè)自律，無論是內(nèi)容生產(chǎn)、應用還是服務，相關企業(yè)需要加強自律，需要對大模型從技術、內(nèi)容等方面進行深度審核、管理、治理；行業(yè)組織則需加快相應產(chǎn)品評估方法和標準落地，以引導行業(yè)發(fā)展。
三是通過技術的方式去支撐法律、規(guī)則和標準落地，實現(xiàn)對大模型產(chǎn)品的“質檢”。目前人為因素已經(jīng)沒有辦法監(jiān)督和評價生成式人工智能所生成的內(nèi)容，需要通過AI方式進行鑒別，以AI對抗AI，進而實現(xiàn)對大模型進行安全性評估，對內(nèi)容數(shù)據(jù)進行相應的監(jiān)督檢查，實現(xiàn)最大限度發(fā)現(xiàn)可能存在的偽造、虛假信息。
正如前段時間熱映的《奧本海默》引發(fā)的熱議，原子彈的研發(fā)對人類而言最終是利是弊，發(fā)人深省。也許當前社會正處于強人工智能的“奧本海默時刻”，面對快速迭代的AI大模型以及AIGC技術，AI技術“雙刃劍”效應必然要求行業(yè)必須堅持發(fā)展與安全并重的態(tài)度，才能讓新技術真正發(fā)揮更大價值。
?
小結
可以斷言，當下人工智能正在進入通用的新階段，只是這個階段的前奏有多長還無人知曉。安防行業(yè)一直被認為是人工智能強應用的領域，我們也寄希望在安防行業(yè)邁向高質量發(fā)展關鍵時期，行業(yè)級AI大模型能夠讓更多創(chuàng)新技術融合并更快速、更廣泛地賦能更多細分場景應用，助力行業(yè)深挖更廣闊的創(chuàng)新空間和市場潛力。
（文章來源于：中國安防協(xié)會，如有侵權請聯(lián)系刪除）
