登录社区云,与社区用户共同成长
邀请您加入社区
摘要: Skill是AI Agent实现稳定任务执行的核心机制,本文系统阐述了Skill的本质、与Prompt的关键差异(持久化、结构化、可组合性),并提供了最小Skill结构(README.md)、完整目录设计(含脚本、参考资料等)。通过“AI求职诊断Skill”实战演示创建流程,强调边界定义与场景测试。提出Skill验证三法(正常/边界/诱导测试)与自检三问(行动导向、内容定位、执行主体),确
本文面向掌握 Python 面向对象、零基础入门 AI Agent 的开发者,作者凭借多年单片机与开发板开发经验,完整记录了从针对性学习 Python 技能、理解核心语法,到亲手搭建同步版 Agent 原型的全过程。文中制定轻量化学习路线,聚焦 Agent 开发刚需知识点;依托抽象基类、继承、多态等面向对象特性,分步实现可扩展的任务路由 Agent,集成天气查询、计算器、本地记事等功能,并详解异常
大模型入门指南:从基础概念到提示词大师 本文系统介绍了大模型的核心概念和使用技巧,帮助读者快速掌握AI技术。内容涵盖三大板块:基础模型类(LLM、开源/闭源模型)、核心技术类(Transformer架构、RAG、微调等)和交互应用类(提示词工程、智能体)。通过通俗易懂的类比和示例,解释了30+个AI专业术语,并提供了实用的提示词书写规范。文章特别强调提示词工程的重要性,指导读者如何通过优化提问方式
目前最流行的大模型api调用器?(大概以前部署过一次,基本上也没啥难度,就看有没有api额度了先白嫖月之暗面的一点api用用,过段时间deepseek开放平台开了再搞点deepseek的玩玩。
摘要 GPT-3论文《Language Models are Few-Shot Learners》开创性地展示了大规模语言模型通过上下文学习(In-Context Learning)的能力。研究表明,当模型参数量达到1750亿时,仅需在prompt中提供任务说明和少量示例(Few-shot),无需微调即可完成多种NLP任务。这种Decoder-only架构的Transformer模型通过单向注意力
计算最优所谓 compute-optimal training,就是在固定计算预算 (C) 下,选择最合适的参数量 (N) 和训练 token 数 (D),让模型最终 loss 最低、效果最好。如果无限增加计算量,模型能做到多强?如果计算预算固定,应该怎么分配给模型参数和训练数据?这个问题非常重要。因为现实中没有无限计算资源。多少张 GPU训练多久总 FLOPs 预算是多少数据规模有多少推理成本能
In-context learning 可以翻译为上下文学习。它指的是:模型在不进行梯度更新的情况下,仅根据输入上下文中的任务描述和示例,临时适应一个新任务。这和传统微调非常不同。给模型很多任务样本↓计算损失↓反向传播↓更新模型参数↓得到适配任务的新模型把任务描述和示例写进 prompt↓模型读取上下文↓模型根据上下文模式直接输出答案↓模型参数不变也就是说,GPT-3 的 few-shot lea
BERT与GPT-3的核心差异在于模型架构与任务定位。BERT采用双向Transformer编码器,通过掩码语言建模学习文本理解能力,适合分类、匹配和信息抽取任务;GPT-3使用自回归解码器,通过预测下一个token实现文本生成,擅长对话、写作等生成式任务。二者在参数量(BERT-Large 3.4亿 vs GPT-3 1750亿)、注意力机制(双向 vs 因果)和训练目标(掩码预测 vs 自回归
Embedding:离散 → 连续(进入神经网络的世界)Transformer:提取复杂的上下文依赖(核心计算)LayerNorm:稳定输出分布(为预测做准备)Linear Head:隐藏空间 → 词汇表空间(回到离散世界)
机器人是否真的需要一亿小时数据,今天还很难给出确定答案。但这句话背后可以折射出一个提醒:如果具身智能希望复制大模型时代的能力跃迁,就必须面对数据规模、数据质量和数据组织方式这三个问题。过去几年,行业已经证明了真机数据的价值,也证明了遥操作路线的有效性。但这条路径成本高、扩展慢、强依赖本体,很难单独支撑通用机器人模型走向下一阶段。human data 路线提供了另一种可能。从人类在真实世界中的动作痕
本文用通俗语言解释了AI大模型中的"参数"概念。参数是神经网络中连接神经元之间的数字权重和偏置值,决定了模型的学习能力。参数数量通过增加网络层数、宽度和注意力头数来提升,从几百万增长到万亿级。虽然参数越多模型潜力越大,但数据质量和架构设计同样重要。文章还介绍了AI应用开发工程师的职责,他们负责将大模型转化为实用产品,市场需求旺盛且薪资优厚。
在2023年2月之前,大语言模型的世界完全被闭源巨头垄断。GPT-3、PaLM、Chinchilla这些动辄千亿参数的模型,不仅训练成本高达数千万美元,就连普通研究者想调用一下API都要排队付费。就在所有人都以为大模型会成为少数科技公司的私产时,Meta AI发布了LLaMA系列模型,彻底改变了整个行业的格局。LLaMA用70亿参数就接近了GPT-3 1750亿的性能,130亿参数直接全面超越了G
如果把整篇文章浓缩成一句话,那就是:GPT 这条线告诉我们,语言模型如何从原始 Transformer 中抽出一条“decoder-only 通用底座”的路线,并通过规模化训练让 zero-shot、few-shot 和 prompt 驱动能力不断增强;Llama 这条线告诉我们,开源模型如何在这条路线之上,通过更适合大模型的组件和训练策略,把性能与可用性一起做高;Qwen 则进一步展示了新一代模
我在一线科技企业深耕十二载,见证过太多因技术更迭而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。✅AI大模型学习路线图✅Agent行业报告✅100集大模型视频教程✅大模型书籍PDF✅DeepSeek教程✅AI产品经理入门资料完整的大模型学习和面试资料已经上传带到CSDN的
两个向量的点积,衡量的是它们的"方向一致性"。方向越一致,点积越大。所以Query和Key越相似(方向越接近),注意力分数就越高。但这里有一个问题:如果向量维度很大,点积的值也会很大。值一大,softmax就趋向于"赢者通吃"——最大的那个分数接近1,其他全部接近0。这不是我们想要的。所以论文里除了一个根号d_k(Key的维度),相当于把分数拉回来。这个细节虽小,但很关键。没有这个缩放,注意力分布
摘要:OpenAI API 使用标准 HTTPS 协议,支持 REST API 调用和 SSE 流式响应。主要接口为 POST /v1/chat/completions,需包含 API Key 和 JSON 请求体,其中 model 和 messages 为必填字段。响应包含模型回复及 token 使用情况。支持函数调用功能,通过 tool_calls 实现外部工具交互。API 为无状态设计,需自
AI核心概念解析:大模型、智能体、AIGC与RAG的区别与联系 大模型(如GPT-4)是知识库型AI,擅长语言处理但被动响应;智能体(AI Agent)则是能自主行动的AI系统,具备规划执行能力。AIGC指AI生成的内容(文本/图像等),RAG是通过检索增强大模型的知识更新能力。四者关系可概括为:大模型是基础大脑,智能体=大模型+行动能力,RAG是知识增强插件,AIGC是产出结果。当前趋势显示,A
Tom B. Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah 等 (OpenAI, 2020)在 GPT-2 证明了生成式模型具备 Zero-Shot(零样本)潜力的一年后,OpenAI 发布了参数量高达 1750 亿的“庞然大物” GPT-3。。
GPT-3.5级别的AI2B参数+普通CPU就能跑 免费、开源、离线、私有 周末就能搭一套生产级系统别再迷信大模型、贵显卡 你的笔记本,早已是AI神器。
文章摘要: 《驾驭工程(Harness Engineering)》是一种通过规则约束引导AI高效输出的方法论,类比软件开发中的规范流程。本章从Harness思维的起源讲起,并引入AI时代的规格驱动开发(SDD)——将需求文档(Spec)作为核心,使人类需求与AI任务说明书统一。相比传统开发中模糊的需求传递,SDD通过可版本化的规格文档(含测试代码)确保人机协同的精确性,提升开发效率。
Ollama/ LM studio + Anything LLM 为在本地简易高效地部署大语言模型称为了可能,通过本文对比了Ollama/ LM studio的情况,本人推荐在使用anything llm时,可以结合使用Ollama, LM Studio可以单独使用。
Anthropic开源了模型上下文协议,通过配置claude客户端可以发挥agent的作用,本文展示了该功能在文件管理方面的能力。
摘要: 文章探讨了大模型时代常见的“XY问题”误区,即用户过度关注局部步骤(Y)而忽视核心目标(X),导致模型无法提供最优解。作者指出,有效的人机协作应聚焦目标定义(X),让模型参与整体规划而非仅解决局部问题,同时强调人类需保留对结果的验证权,理解模型局限性。未来竞争力在于能否精准定义问题、描述目标并判断边界,而非仅依赖模型执行。文章提倡从“修补局部”转向“共谋全局”的协作模式,以实现更高效率与创
本文总结了AI Agent从概念验证到实际业务落地的关键挑战与解决方案。核心观点包括:1)任务分解应以用户体验为导向而非技术逻辑;2)状态持久化管理是应对中断和重启的基础;3)需要建立三层错误防御机制(重试/降级/人工兜底);4)通过任务完成率、用户满意度等指标建立评估体系。文章通过电商客服案例说明,通过状态持久化、降级方案优化等工程改进,可将任务完成率从37%提升至89%。最终强调AI Agen
本文系统梳理了大语言模型的技术演进与应用路径。首先概述了从GPT-3到LLaMA等百亿级参数模型的发展历程,重点分析了Transformer架构的涌现能力。其次,详细阐释了模型构建的两个关键阶段:自监督预训练+微调优化的训练过程,以及基于Prompt的推理生成机制。在技术层面,深入探讨了预训练的数据处理、模型架构和训练优化方法,以及指令微调、RLHF等适配技术。最后指出大模型与行业结合是未来重要方
文章摘要:用户在安装claude-mem工具时发现界面默认为英文,但在官方文档和GitHub issues中均未找到切换中文的方法。经过两小时源码追踪,最终在prompts.ts文件中发现内置的31种语言模式(包括简体中文code--zh.json),只需在配置文件中添加"CLAUDE_MEM_MODE": "code--zh"即可切换。作者指出该功能因文档
本篇文章系统讲解了大模型从预训练(海量数据自学)、监督微调(学会对话)到RLHF(对齐人类偏好)的完整技术路径与成本。
本文将对当前市场上主流的AI编程模型进行全面对比分析,包括OpenAI的GPT系列、Google的Gemini、Anthropic的Claude系列以及国内的通义千问等。我们将从模型性能、编程能力、成本效益等多个维度进行评估,为开发者和技术选型提供参考依据。
本文分享了作者将AI Agent接入Obsidian本地笔记系统后的使用体验。通过Obsidian的Markdown格式、双向链接和插件生态,作者发现Agent能够深度参与知识管理,自动完成笔记整理、摘要生成、知识图谱维护等工作,使个人知识库呈现出"自我进化"的特性。相比云端笔记工具,本地化的Obsidian vault为Agent提供了更自由的读写空间和长期记忆能力,实现了从
MAIW提供了一个可工作的、开源的AI指挥层实现,构建于某机构AI平台之上。能够跨系统推理的统一运营“大脑”可解释的建议而非不透明的启发式更快的、基于更强证据的事件响应具有编码化护栏的更安全运营更好利用现有自动化和数据投资这展示了如何将仓库从被动应对挑战转向主动、数据驱动、AI辅助的运营模式。FINISHED更多精彩内容 请关注我的个人公众号 公众号(办公AI智能小助手)或者 我的个人博客 htt
Aeroshell 2.0版本升级聚焦三大核心改进:生产力提升、AI实用化和稳定性优化。新增媒体文件预览功能,支持音视频直接播放;AI功能深度整合到终端操作中,具备命令学习和诊断能力;重构远程编辑同步机制,优化终端录制和UI体验,修复多项稳定性问题。此次升级标志着产品从功能堆叠转向完整体系构建,使终端工具真正实现"好用、能长期用"的目标。
Codex vs GPT-4:程序员专用AI的五大优势 摘要:Codex作为专为代码优化的AI模型,在编程领域表现优于通用型GPT-4。其优势体现在:1) 训练数据纯代码化,来自GitHub等技术平台;2) 架构针对代码优化,强化语法约束和结构感知;3) 具备工程化能力,支持文件操作和命令执行;4) 交互模式环境感知,可实时调试;5) 输出质量更高,语法错误率低于1%。核心在于Codex通过代码专
本文系统梳理了AI大模型微调的核心概念与技术路线。首先区分了预训练(通用知识学习)与微调(领域知识训练)两个阶段,将微调方法按数据类型分为监督微调(SFT)和偏好优化(PO),按参数量分为全量微调与PEFT(含LoRA、Prefix Tuning等方法)。重点对比了DPO与PPO两种偏好优化算法的优缺点,并给出问答系统、对话助手等场景的微调方案建议。文章为开发者提供了从理论到实践的完整微调知识框架
本文系统解析了大语言模型(LLM)的核心技术与发展脉络,涵盖GPT系列和LLaMA系列的技术演进,重点介绍了规模法则(Scaling Laws)、涌现能力、指令微调(SFT)与强化学习对齐(RLHF)等关键技术。文章详细对比了主流开源大模型的特点,并提供了使用Transformers加载LLaMA模型的代码示例。最后探讨了监督微调、人类反馈强化学习等前沿方法,为读者提供了从理论到实践的完整学习路径
在“宇宙的尽头是编制”的当下,2026年国家及各省公务员考试竞争烈度再次升级。作为广大考生的核心备考工具,公考APP已经从最初的“线上题库”演变为如今结合大模型(LLM)与知识图谱的“AI智能私教”。本文结合CSDN开发者的极客视角与公考行业的深度数据,深度剖析当前公考APP的行业背景与用户痛点,多维筛选并横向评测了市面上最具代表性的5款公考软件。其中智蛙公考APP凭借全链路AI赋能脱颖而出。本文
2026 年,LLM 推理成本已下降至 2024 年的 1/10,但“通用模型”在垂直场景仍存在显著幻觉、风格偏差、知识缺失等问题。微调的核心价值在于参数高效定制:用极低成本让模型“只懂你的业务、只说你的语言、只守你的规则”。企业真实场景与 ROI金融合规:微调后反洗钱问答准确率从 72% → 96%,审计通过率 100%,年节省人力 3000 万。医疗辅助:领域微调后临床指南引用精确度提升 41
本文回顾了从GPT-3到GPT-4的技术演进,探讨了大模型如何重塑应用开发范式。GPT-3时代以文本补全为核心,开发需手动拼接Prompt并解析非结构化输出;而GPT-4通过多模态支持、函数调用和结构化输出等能力,推动了向量数据库、Agent模式和编排框架的兴起。文章通过代码示例对比了新旧开发模式,并展望了AI应用架构的未来发展方向。
训练诗词生成模型的一点心得一、诗词对比其它文体二、模型选择三、训练集选取四、损失函数五、训练时间六、生成结果七、模型擅长的诗文类型八、将来可做的事情九、模型生成样例最近学习NPL的一些模型,训练了一个古诗生成模型作为练习。记录一些学习过程中的想法。一、诗词对比其它文体诗词生成问题要比散文、小说生成简单。最主要的原因是一般诗词篇幅比较短。现在的ML模型还做不到特别长的记忆力。目前,我可以测试到的,文
本指南用于把deepinUOSAI 助手 接入到 飞书(Feishu)。你只需要照着做:创建应用 → 加机器人能力 → 配权限 → 拿到 App ID/Secret → 在UOSAI 后台填入 → 配事件订阅 → 发布 → 测试。
Transformer模型架构解析:从Token到向量空间 Transformer模型彻底改变了NLP领域,其核心由Encoder和Decoder组成,采用自注意力机制替代传统RNN。工作流程分为6个阶段:Tokenization将文本拆分为子词Token;Embedding将Token映射为数学向量;Positional Encoding添加位置信息;Encoder/Decoder深度理解语义;
s.suolj.com - (支持文心、科大讯飞、智谱等国内大语言模型,Midjourney绘画、语音对讲、聊天插件)国内可以直连,响应速度很快 很稳定 https://seboai.github.io - 国内可以直连,响应速度很快 很稳定 http://gpt1.v2.ikmai.cn - 国内可以直连,响应速度很快 很稳定 https://amgpt4.github.io - 国内可以直