陳觀秋
人臉識別、語音識別、智能算法推送……當前，人工智能(AI)技術加速融入社會生活，2023年年初，ChatGPT更是以其豐富的知識與出色的自然語言交互能力，引起了現象級的關注。
工信部數據顯示，2023年1-10月，國內人工智能產業發展勢頭向好，核心產業規模達到5,000億元。從企業數量上看，截至2024年1月，國內人工智能相關企業為157.18萬家。2021年-2023年，國內人工智能企業數量分別增加36.36萬家、42.71萬家、52.92萬家，同比增長87.11%、17.47%、23.91%。
其中，以大模型為代表的生成式AI正加速與各行各業深度融合，關聯產業規模已突破10萬億，催生出規模可觀的數字經濟新業態、新場景和新模式。其中，尤以智能制造、能源、金融、醫療、教育等領域的人工智能商業化應用最為活躍。
伴隨著智能產業的蓬勃發展，各式各樣的海量數據也在人們的生活中被大量收集、存儲和利用。數據安全和隱私保護問題由此成為人工智能系統在開發和應用中面臨的嚴峻挑戰。
隨著人工智能發展加速，由此引發的問題逐漸擺上臺面。
奇安信發布《2024人工智能安全報告》：AI深度偽造欺詐激增30倍
奇安信集團對外發布《2024人工智能安全報告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網絡攻擊事件。奇安信預計，未來十年，人工智能技術的惡意使用將快速增長，將在政治安全、網絡安全、物理安全和軍事安全等方面構成嚴重威脅。
近年來，隨著數字化智能化的深入，新的技術不斷衍生出新的安全風險，數字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域。
AI技術的應用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。
上述《報告》認為，AI技術將會推動安全領域發生范式變革，全行業需啟動人工智能網絡防御推進計劃。在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好大模型及AI安全行業的發展潛力。
2023年6月，歐洲議會通過了《AI法案》授權草案，草案內容包括用于監督人工智能基礎模型的分級管理辦法。
2023年10月，由中國全國信息安全標準化技術委員會組織，面向社會公開征求《生成式人工智能服務安全基本要求》意見。同月，日本首相岸田文雄在日本京都發表演講，公布面向生成式人工智能的監管計劃。
2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發表講話，并在會后聯合發布《宣言》，該《宣言》成為“第一份關于有必要監管AI發展的全球聲明”。
斯坦福大學發布的《2023年人工智能指數報告》中提到，對127個國家的立法記錄調研的結果顯示，包含“人工智能”的法案被通過成為法律的數量，從2016年的僅1個增長到2022年的37個。該報告對自2016年以來81個國家的人工智能法律法規記錄的分析也同樣表明，全球立法程序中提及人工智能的次數增加了近6.5倍。
據中研產業研究院《2024-2029年中國AI安全行業市場全景調研與發展前景預測報告》分析：
事實上，為了應對AI安全風險，我國從業機構已經開始探索安全科技以加強AI技術的潛在風險研判和防范。例如，2023年9月，螞蟻集團推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測平臺“蟻鑒2.0”和大模型風險防御平臺“天鑒”，為大規模AI模型的安全保障帶來了全新的突破。
工信部日前在其官方網站上發布了關于2023年第四季度電信服務質量的通告。其中提出，發布國內首個個人信息保護AI大模型“智御”助手，為APP開發運營、檢測防護、政策解讀等提供智能化服務。著力整治“搖一搖”亂跳轉等突出問題，公開通報81款違規APP和SDK，持續凈化移動互聯網服務環境。
查詢獲悉，“智御”人工智能大模型由中國信息通信研究院研發，面向移動互聯網應用開發者、分發平臺、終端廠商、檢測機構等行業上下游主體，提供多模態、多樣化的合規咨詢、風險檢測、代碼生成、操作指引等服務，構建 AI 賦能個人信息保護新范式。
報告對中國AI安全行業的內外部環境、行業發展現狀、產業鏈發展狀況、市場供需、競爭格局、標桿企業、發展趨勢、機會風險、發展策略與投資建議等進行了分析，并重點分析了我國AI安全行業將面臨的機遇與挑戰。
想要了解更多AI安全行業詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業市場全景調研與發展前景預測報告》。
研究院服務號
中研網訂閱號