2025-03-05 中国发展网
中国发展网讯 今年两会期间,全国政协委员、360集团创始人周鸿祎带来了三份提案,聚焦AI和安全。
统筹解决大模型应用安全
近年来,人工智能技术加速迭代,成为全球科技变革的关键驱动力。国产推理大模型DeepSeek-R1的诞生首次从技术上实现对美国的超越,标志着中国AI技术成功从“追赶者”向“领跑者”的角色转换,为政府、企业与个人呈献出全新的生产力工具。
由于DeepSeek-R1功能强大,且兼具开源、透明、免费等特质,尤其适合在政府与企业开展私有化部署,推进“数转智改”,实现降本增效。在这一背景之下,人工智能大模型安全的重要性日益凸显,一旦部署在政府、企业内部的基座模型、知识库或智能体中任一环节出现安全隐患,都极有可能诱发整个生产环境爆发系统性风险,且无法通过传统安全方案有效化解。
对此,周鸿祎建议:
1、支持安全技术创新与成果转化。建议相关部门及时出台配套政策措施,鼓励具备“安全+人工智能”完整解决方案的链主企业,针对人工智能应用所涉及的基座模型、知识库、智能体等安全问题,以模制模,基于安全大模型技术开展研发工作,加速推动技术成果转化,将安全要素深度嵌入人工智能应用全流程。
2、组建产业联盟,打造安全产品。引导相关链主企业发挥牵头作用,广泛吸纳产业链上下游企业、科研机构及终端用户,组建人工智能大模型安全联盟,在联盟内部实现技术成果共享,共同开展产品及服务测试,待产品与服务成熟稳定后,向更广阔的市场加以推广,助力大模型安全保障普及至千行百业。
适度包容大模型“幻觉”
DeepSeek通过大模型技术范式的重大突破,让大模型加速走进百行千业,成为推动中国科技进步、经济增长和国家强盛的关键力量。大模型应用过程中,包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的情况,由此也产生了一些争议。
“幻觉”是一把双刃剑,是大模型与生俱来的特点、不可消除,也决定其创造力和想象力,对于实现AGI(通用人工智能)极其重要,并可在科研、文艺创作等领域大放异彩。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。
对此,周鸿祎建议:
大模型发展关系国运,不能因过度追求准确而限制其创造力,需要对“幻觉”给予柔性监管,打造支持创新、包容失误的良好环境,争取让更多企业“复制”DeepSeek的成功。建议借鉴“避风港原则”成功经验,对大模型以及相关的产品和服务,实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停、下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争。
以安全即服务破解网络安全行业困境
当前,伴随国家数字化和智能化的发展,安全挑战日益凸显。网络安全建设不能仅聚焦于大企业、国家部委和国家机关,地方性企业及民营企业也尤为重要,它们往往是供应链、产业链、生态链重要一环。
然而,当下网络安全行业内卷严重,传统网络安全售卖硬件盒子的模式弊端尽显,企业投入大量预算却防护效果不佳,厂家也疲于应对定制任务,市场拓展受阻,造成“双输”局面。
如今,软件即服务(SaaS)已成为全球趋势。SaaS 服务产品具有产品可见、可体验的优势,价格便宜,交付简单也容易推广,能够快速助力企业形成安全能力,构建防御体系。近年来,企业通过购买云服务、算力、存储的模式极大地提高了效率,降低了成本,有力推动了国家数字化建设进程。网络安全行业也亟须跟上当前安全形势需求,推动网络安全的服务化转型。
对此,周鸿祎建议:
1、鼓励从购买硬件产品转变为购买安全服务。建议财政部将安全服务部署纳入专项补助项目,对积极采用安全服务的企业给予财政补贴或税收优惠,引导市场向服务型转变,实现网络安全能力的跨越式提升。
2、鼓励购买SaaS化的安全产品。国家可鼓励和引导企业采购此类服务,让企业能够以低成本快速适配自身需求,直观评估服务成效,从而有效提升网络安全防护水平。