- 王
“人工智慧技術的飛速進步，帶來前所未有的發展機遇，但也帶來數據安全隱患和演算法風險。”正在進行的市人代會上，市人大代表、北京社會主義學院一級巡視員王報換針對人工智慧技術“雙刃劍”效應應對提出建議。
王報換説，在人工智慧的訓練過程中，數據是核心，但如何確保數據的合法性和正當性卻是一大難題。版權問題、惡意爬取等都需要國家層面進行明確的定義和監管。此外，訓練數據的偏見和攻擊性也極大影響着人工智慧的輸出結果，“若輸入的數據帶有偏見或惡意，那麼模型輸出的內容很可能同樣帶有偏見或誤導性。”
王報換還認為，人工智慧平臺本身也可能存在安全隱患，如開發框架存在安全漏洞、插件問題等，可能導致智慧服務的中斷或數據洩露。另外，人工智慧讓生成攻擊腳本和代碼變得更加容易，網路攻擊的檢測和防禦就變得更加困難。
除了技術和平颱風險之外，人工智慧也給社會生態和治理帶來了新的挑戰。“它降低了違規內容生成的門檻，使得網路詐騙、惡意軟體等變得更加容易和普遍。因此，需要加強對人工智慧技術的監管和治理，以確保其健康、有序發展。”王報換説。
王報換建議，積極推動人工智慧技術在網路安全領域的應用，如利用大模型進行網路攻擊防禦、自動化監測和響應等，以提升網路安全的防護能力。
在他看來，未來網路空間安全可以以人工智慧安全大模型為核心，按需靈活調用已有的安全技術，或生成新的內容來共同實施安全保障。“這不僅可以提高網路安全的防禦能力，也可以降低網路安全成本，提高網路安全的整體效益。”至於人工智慧治理規則的制定和推廣問題，他認為，需要加強國際合作，共同應對人工智慧帶來的挑戰。（張蕾）
