筑牢人工智能安全防线是应时之举

近日，《北京市人工智能赋能新型工业化(gōngyèhuà)行动方案（2025年）》发布，围绕“人工智能与新型工业化”推出16条措施支持企业发展，特别针对加强(jiāqiáng)智能安全保障、打造行业头部大模型、提升装备(zhuāngbèi)智能化水平(shuǐpíng)等方面提出了一系列包含真金白银的奖励举措。 人工智能(réngōngzhìnéng)作为引领(yǐnlǐng)新一轮科技革命和产业变革的战略性(zhànlüèxìng)技术，在推动经济社会发展的同时，也带来算法偏见、数据泄露、伦理失序等安全风险(fēngxiǎn)。习近平总书记在中共中央政治局(zhōnggòngzhōngyāngzhèngzhìjú)第二十次集体学习时强调，要(yào)把握(bǎwò)人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。面对人工智能技术迭代(diédài)加速与安全风险交织的复杂局面，立足国家安全战略全局，构建安全风险防范体系是应时之举。 当前，人工智能(réngōngzhìnéng)对国家安全、社会稳定和(hé)人类文明构成系统性挑战。从技术(jìshù)维度看(kàn)，算法(suànfǎ)黑箱、数据偏差、模型缺陷等底层问题持续存在，成功防范网络攻击难度较高，容易危及智慧医疗诊断精准度(jīngzhǔndù)和金融风控系统可靠性。从社会维度看，深度伪造技术可生成以假乱真(yǐjiǎluànzhēn)的虚假信息，严重冲击社会信任体系与意识形态安全防线。从文明维度看，系统暗含的算法歧视正在解构社会公平正义，自动驾驶面临的“电车难题”带来伦理困境，这些挑战不断倒逼人类文明新(xīn)规范的建立。面对这些新形势，构建涵盖技术治理、风险防控、伦理规约的立体化治理体系，是我国把握技术主导权的战略选择(xuǎnzé)。 人工智能(réngōngzhìnéng)技术的(de)快速发展，要求我们建立健全安全风险防范体系(tǐxì)(tǐxì)，以保障技术的健康稳定发展。做好这项工作，要坚持系统观念和问题导向，探索形成有效的方法(fāngfǎ)路径，以点的突破带动面的提高。我国以制定全面、长远的国家级人工智能安全风险防范战略规划为依托，构建系统完备的法律法规(fǎlǜfǎguī)体系，强化制度约束。在(zài)此基础上(shàng)，加快制定和完善人工智能相关的法律法规，明确人工智能系统的开发者、使用者和监管者在安全风险防范方面的权利、义务和责任，将有利于确保人工智能产业有序发展。 目前，《新一代人工智能发展规划》《生成式人工智能服务管理暂行办法》等一系列(yīxìliè)部门规章业已发布，初步明确了数据安全(ānquán)、算法透明、责任追溯(zhuīsù)等核心规则。相关行政法规对企业公开训练数据来源(láiyuán)、算法逻辑(luójí)，对生成内容进行标识等提出了要求，并进一步(jìnyíbù)推动AI服务安全评估制度落地。针对深度伪造、自动驾驶(jiàshǐ)等重点领域，我国也有了初步的专项治理规范。当然，从长远发展考虑，还需针对数据安全、算法公平、隐私保护等问题，出台更为具体的实施细则和标准规范，使人工智能产业发展有法可依、有章可循(yǒuzhāngkěxún)。 人才是人工智能(réngōngzhìnéng)安全(ānquán)风险防范的重要支撑。广泛开展(kāizhǎn)人工智能安全宣传教育活动，面向政府、企业(qǐyè)、社会(shèhuì)组织和(hé)公众，普及人工智能安全知识，提高全社会对人工智能安全风险的认知水平和防范意识，十分重要。通过举办培训讲座、发布科普资料、开展案例研讨等多种形式，营造全民关注、共同参与人工智能安全风险防范的良好氛围。加强人工智能安全专业(zhuānyè)人才培养体系建设，在高校中增设相关专业课程(zhuānyèkèchéng)和专业方向，优化课程设置，注重实践教学环节，培养既(jì)懂人工智能技术又具备安全管理知识的复合型人才。鼓励企业开展内部培训和技能提升活动，建立人才激励机制，吸引和留住优秀人才，为人工智能安全风险防范体系建设提供源源不断的动力(dònglì)。 加强人工智能安全风险(fēngxiǎn)防范体系建设，既是技术命题，更是(gèngshì)社会治理命题。我们应坚持科技(kējì)发展与安全并重的原则，多方协同、多措并举，积极应对人工智能发展带来的安全挑战，推动(tuīdòng)人工智能技术朝着安全、可靠、可控的方向发展，让人工智能更好地服务国家、造福社会、惠及(huìjí)人民。 （耿姗姗，系中共北京(běijīng)市委党校〔北京行政学院(xuéyuàn)〕讲师、北京党内法规研究会秘书长）