随着人工智能技术的快速迭代,大模型凭借强大的语义理解、知识整合与内容生成能力,正加速渗透到政务服务、社会治理、机关办公等各个环节,成为推动政务数字化、智能化转型的重要引擎。但政务工作关乎公共利益、民生福祉与社会公平,具有极强的严肃性、权威性和安全性要求,这就决定了大模型在政务领域的应用不能“无界扩张”,必须清晰界定其能力边界,明确“能做什么、不能做什么”,才能实现技术赋能与政务规范的有机统一。

当前,我国政务大模型还处于起步阶段,《政务领域人工智能大模型部署应用指引》等政策文件明确提出,政务大模型必须坚持“辅助型”定位,这是界定其应用边界的核心前提。接下来,我们就从“能做”与“不能做”两个维度,结合实际应用场景,详细拆解大模型在政务领域的边界所在,让技术更好地服务于政务工作,而非成为风险隐患。

在这里插入图片描述

一、大模型在政务中“能做什么”:聚焦辅助赋能,提升政务效能

大模型的核心价值的是“减负增效、精准赋能”,其应用场景主要集中在政务工作中重复性高、流程性强、专业性适中的环节,重点为工作人员提供辅助支持,为公众和企业提供便捷服务,不触碰决策核心、不替代法定职责。具体可分为四大类场景:

(一)政务服务:让群众办事更便捷,破解“办事难、跑多次”痛点

在政务服务领域,大模型的应用主要聚焦于“降门槛、提效率”,打通服务群众的“最后一公里”,尤其在高频咨询、材料预审、流程指引等场景中发挥重要作用。

1. 智能咨询应答:依托海量政务知识库,大模型可打造24小时智能客服,精准解答群众和企业关于社保、医保、个税、工商注册等高频问题。例如杭州医保局的“医保小智”,其语音客服承担了超70%的市民咨询接待任务,文字客服问答准确率超90%,通过全时段智能应答,大幅减少群众等待时间,同时缓解人工客服压力。与传统智能客服不同,大模型能理解模糊提问、多轮对话,甚至能区分内资、外资等不同主体的办事差异,给出更精准的指引。

2. 办事材料预审与指引:群众和企业办理政务业务时,往往因材料不全、填写不规范导致反复跑。大模型可提前审核办事材料,识别缺失项、错误项,并实时给出修改建议;同时,根据用户需求,自动生成个性化办事指南,明确办理流程、所需材料、办理地点及时限,让群众“一次备齐、一次办好”。北京经开区的政务大模型服务平台“亦智”,其智慧政务小助手“小亦”可提供自动化材料预审服务,依托200多万个海量知识,为办事人精准指引流程。

3. 政策精准推送与解读:大模型可整合各类政务政策,结合群众和企业的身份、需求,实现政策“精准滴灌”。例如,为小微企业推送税收减免政策,为灵活就业人员推送社保缴纳政策;同时,将晦涩的政策文件转化为通俗易懂的语言,搭配案例解读,让群众快速理解政策核心,避免因政策理解偏差错过相关福利。

(二)机关办公:为工作人员减负,提升办公效率

政务工作人员日常面临大量重复性办公任务,大模型可通过自动化处理、智能辅助,帮助工作人员从繁琐事务中解放出来,聚焦更具价值的工作。

1. 公文辅助起草与修改:大模型可根据政务公文规范和具体需求,快速生成通知、报告、函等常用公文初稿,工作人员只需在此基础上修改完善,大幅缩短公文起草时间;同时,可对已起草的公文进行语法校对、格式规范、语气优化,确保公文符合政务规范。

2. 政务数据整理与分析:政务工作中会产生大量数据,如信访数据、政务服务办理数据、人口数据等。大模型可快速对这些数据进行分类、整理、汇总,生成数据报表和初步分析结论,为工作人员掌握工作动态、排查问题提供辅助。例如,通过分析信访数据,大模型可快速梳理出高频信访问题,为相关部门针对性解决问题提供参考。

3. 会议辅助服务:大模型可实现会议纪要自动生成,准确记录会议核心内容、决策事项和任务分工,避免人工记录的遗漏和偏差;同时,可提前整理会议所需资料,根据会议主题生成议程建议,提升会议效率。

(三)社会治理:辅助排查风险,提升治理精细化水平

在社会治理领域,大模型可依托多源数据整合与分析能力,辅助相关部门排查风险、优化治理,推动城市“治理”向“智理”转型,但不参与具体执法和决策。

1. 风险隐患预警:大模型可整合交通、消防、应急管理、市场监管等领域的实时数据,对可能出现的风险隐患进行提前预警。例如,通过分析交通流量数据,预警拥堵路段;通过分析企业经营数据,预警市场监管风险;通过分析消防设施数据,预警消防安全隐患,为相关部门及时处置提供支撑。

2. 舆情监测与分析:大模型可实时监测网络舆情,快速识别涉及政务工作、社会热点的相关言论,区分正面、负面、中性舆情,同时分析舆情传播趋势、核心诉求,为相关部门回应社会关切、处置舆情危机提供辅助。

3. 基层治理辅助:在基层社区治理中,大模型可整合社区人口、物业、矛盾纠纷等数据,辅助社区工作人员排查矛盾隐患、开展便民服务。例如,快速梳理社区独居老人、困境儿童等特殊群体信息,提醒工作人员开展走访帮扶;辅助调解简单的邻里矛盾,提出合理调解建议。

(四)辅助决策:提供参考支撑,不替代决策主体

大模型可通过整合海量政务数据、政策文件和历史案例,为政务决策提供数据支撑和方案参考,但最终决策权仍属于政务工作人员和相关部门。

例如,在制定区域发展规划时,大模型可分析区域经济数据、产业布局、人口结构等信息,生成多种规划方案建议;在制定民生政策时,可分析群众需求、历史政策实施效果等,为政策优化提供参考。需要注意的是,大模型给出的建议仅作为参考,最终决策需结合实际情况,经工作人员审核、集体研究后确定,确保决策的科学性、合法性和合理性。同时,大模型还可助力政务数据治理,通过技术手段提升数据质量,构建高质量政务数据集,为决策提供更可靠的支撑。

二、大模型在政务中“不能做什么”:坚守底线红线,防范风险隐患

政务工作的特殊性,决定了大模型的应用必须坚守“底线思维”,明确禁止触碰决策核心、涉密信息、法定职责等关键领域,这既是政策要求,也是防范技术风险、维护政务公信力的必然选择。结合《政务领域人工智能大模型部署应用指引》及实践中的风险案例,以下五大领域是大模型绝对不能触碰的“红线”:

(一)不能替代人类作出最终决策,尤其是重大政务决策

这是大模型在政务领域应用的核心边界。大模型本质是“辅助工具”,其输出的结果、建议都是基于训练数据和算法生成的,存在一定的局限性,可能出现“模型幻觉”,无法完全替代人类的判断和决策能力——尤其是涉及公共利益、民生福祉、社会公平、国家安全的重大政务决策,如重大项目审批、行政处罚、政策制定、应急处置等,必须由政务工作人员结合实际情况、法律法规和公共利益,经过集体研究、民主决策后作出,绝对不能让大模型“说了算”。

例如,在行政处罚中,大模型可辅助梳理违法事实、查找相关法律法规,但最终的处罚决定、处罚力度,必须由执法人员根据案件具体情况作出,确保处罚的公正性和合法性;在应急处置中,大模型可辅助分析风险、提供处置建议,但最终的处置方案和指令,必须由应急管理部门工作人员作出,避免因模型失误导致处置不当,造成严重后果。《政务领域人工智能大模型部署应用指引》也明确要求,落实大模型“辅助型”定位,避免其替代人类作出决策。

(二)不能触碰涉密信息,严禁泄露国家秘密、工作秘密和个人隐私

政务工作涉及大量涉密信息,包括国家秘密、工作秘密、商业秘密以及公民个人信息(如身份证号、家庭住址、医疗记录等),这些信息的安全关乎国家安全、公共利益和公民合法权益,是大模型应用的“绝对红线”。

一方面,大模型的训练数据不能包含涉密信息,严禁将涉密文件、敏感数据用于模型训练,避免因数据泄露导致安全风险。例如,某市智能客服系统在用户咨询过程中,默认存储包含身份证号、家庭住址的完整对话记录,造成“数据裸泳”风险,这类行为必须严格禁止。另一方面,大模型在应用过程中,不能访问、处理涉密信息,严禁通过大模型传输、存储涉密内容,如涉密公文、涉密数据、敏感工作信息等。

同时,大模型需严格遵守《个人信息保护法》等法律法规,规范处理公民个人信息,不得非法收集、使用、泄露公民个人信息。例如,在政务服务中,大模型只能获取办理业务所需的必要个人信息,不得过度收集,且需采取加密存储等安全措施,确保个人信息安全。政务部门在模型训练、部署应用等过程中,必须严格落实“涉密不上网、上网不涉密”等保密纪律要求,加装保密“护栏”。

(三)不能替代法定职责,尤其是执法、审批、监管等核心职责

政务工作人员的执法、审批、监管等职责,是由法律法规明确规定的,具有法定性和强制性,大模型只能辅助完成相关工作,不能替代工作人员履行法定职责。

例如,执法人员的现场执法、调查取证、违法认定等职责,必须由具备执法资质的工作人员亲自完成,大模型不能替代执法人员到现场执法,也不能替代其作出违法认定;行政审批人员的审批权限、审批流程,是法定的,大模型可辅助审核材料、指引流程,但不能替代审批人员作出审批决定,尤其是涉及重大项目、敏感事项的审批,必须由审批人员严格按照法律法规和审批流程办理。

此外,大模型也不能替代政务工作人员开展信访接待、矛盾调解等直接面向群众的工作,这类工作需要工作人员具备共情能力、沟通能力和判断能力,大模型只能提供辅助支持,不能直接与群众对接处理核心诉求。同时,要避免强制使用大模型、无效使用大模型,防范“数字形式主义”,切实为基层减负而非增负。

(四)不能输出虚假、错误信息,严禁误导群众和工作人员

政务工作的权威性要求,大模型输出的信息必须真实、准确、合规,不能出现虚假、错误、误导性内容——这也是防范“模型幻觉”风险的关键。由于大模型的训练数据可能存在偏差、不完整,或者算法存在缺陷,可能会输出错误信息,如错误的政策解读、错误的办事流程、错误的法律法规引用等,这类情况必须严格避免。

例如,某市在尝试用AI优化政策文件时,因训练数据包含过期法规条款,导致生成的文件出现错误表述,造成政策解读混乱,经人工审核发现后紧急撤回,这类案例警示我们,大模型的输出必须经过人工审核,确保信息准确无误后,才能面向群众和工作人员使用。《政务领域人工智能大模型部署应用指引》明确要求,对于面向公众和企业提供服务的大模型应用场景,应严格执行内容审核制度,采用人工审核、多模型交叉校验等措施,防范模型“幻觉”风险,确保输出内容不超出业务范围,维护政务部门公信力。

同时,大模型不能输出违背法律法规、公序良俗的内容,不能传播错误的价值观,不能误导群众对政务工作的认知。

(五)不能脱离监管,严禁“无序应用”“野蛮生长”

大模型在政务领域的应用,必须纳入规范监管,不能脱离监管“无序应用”。一方面,大模型的选型、部署、应用,必须符合政务工作的规范和要求,优先选择已完成网信部门备案的成熟模型产品和服务,对于专业性较强的场景,可利用领域专家知识和专业数据进行针对性训练,打造垂直模型,严禁未经审核、未备案的大模型投入政务应用。

另一方面,大模型的应用过程必须全程可追溯、可监管,要建立健全运行管理体系,包括数据管理、安全管理、迭代优化、用户评价反馈等机制,及时发现和解决应用过程中出现的问题。例如,建立大模型应用运行日志管理,定期对日志记录进行审计;建立常态化更新机制,及时更新训练数据和知识库,提升模型准确性;建立用户评价反馈机制,以用户需求驱动模型迭代优化。

此外,要避免政务大模型“碎片化”建设,依托“东数西算”和全国一体化算力网,统筹推进智能算力基础设施布局,探索“一地建设、多地多部门复用”的集约化部署模式,防止形成“模型孤岛”,避免资源浪费。

三、把握政务大模型边界的核心建议:赋能不越界,规范促发展

明确大模型在政务中的边界,核心是要实现“技术赋能”与“政务规范”的平衡,既要充分发挥大模型的优势,提升政务效能、优化服务体验,也要坚守底线、防范风险,让大模型真正成为政务工作的“好帮手”,而非“绊脚石”。结合政策要求和实践经验,提出三点核心建议:

第一,坚持“辅助定位”不动摇。始终明确大模型是政务工作的“辅助工具”,而非“决策主体”,所有应用场景都要围绕“减负增效、辅助赋能”展开,不触碰决策核心、不替代法定职责,确保大模型的应用始终服务于政务工作的核心目标。这也是《政务领域人工智能大模型部署应用指引》贯穿全文的核心导向,各类政务大模型应用场景都应严格落实这一定位。

第二,健全“规范管理”体系。政务部门应建立健全大模型应用的全生命周期管理体系,包括模型选型、数据管理、安全防护、审核监管、迭代优化等环节。加强数据治理,提升数据质量,确保训练数据来源可靠可追溯;构建安全保障体系,明确安全责任,防范数据泄露、对抗攻击等风险;建立严格的内容审核机制,确保大模型输出信息准确合规;推动集约化部署,提升资源利用效率,避免重复建设和“数字形式主义”。

第三,强化“人才支撑”与“风险防控”。一方面,加强政务工作人员的人工智能素养培训,让工作人员掌握大模型的应用方法,学会利用大模型提升工作效率,同时具备识别和防范大模型风险的能力;另一方面,加强技术研发和风险排查,针对大模型可能出现的“幻觉”、数据泄露、算法偏见等风险,建立应急处置预案,及时发现和解决问题,确保大模型在政务领域的应用安全、有序、高效。同时,可借鉴杭州“隐私计算+区块链”、粤港澳大湾区“数据本地化+跨境白名单”等成熟经验,提升风险防控能力。

四、结尾:让大模型在边界内释放政务赋能价值

大模型为政务工作带来了新的机遇,其强大的赋能能力,正在推动政务服务更便捷、办公更高效、治理更精细。但政务工作的特殊性,决定了大模型的应用不能“随心所欲”,必须清晰界定边界、坚守底线红线。

明确大模型在政务中“能做什么、不能做什么”,不是限制技术发展,而是为了让技术更好地服务于政务工作,避免因无序应用、越界应用带来的风险隐患,维护政务公信力和公共利益。未来,随着技术的不断迭代和管理体系的不断完善,相信大模型将在明确的边界内,充分释放赋能价值,助力政务数字化、智能化转型,推动政府治理能力现代化水平不断提升,为群众和企业提供更优质、更高效的政务服务。

同时,我们也应看到,政务大模型的边界不是固定不变的,会随着技术发展、政策完善和实践探索不断优化。各国也在通过出台专项政策,引导和规范大模型在政务领域的应用,聚焦智能问答、公文写作等场景,明确管控原则,为我国提供了可借鉴的经验。唯有坚持“赋能不越界、规范促发展”的原则,才能实现技术与政务的深度融合,让大模型真正成为政务工作的“得力助手”。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐