登录社区云,与社区用户共同成长
邀请您加入社区
本项目为个人技术 Demo,代码已开源:
https://gitee.com/chen__yy/agent-demo
欢迎大家一起沟通交流,后续也会完善进去文生图等一系列广泛使用的功能
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐
3dMax要失宠了?醒醒吧,真正危险的不是软件,而是那些低端的设计师建模师!
小白也能看懂的大模型推理优化:为什么AI回复能这么快
Prefill + Decode 两阶段:像考试一样,先审题(并行处理),再写答案(逐字生成)。KV Cache:像草稿纸一样缓存中间结果,避免重复计算,是加速的基石。模型量化:像图片压缩一样缩小模型体积,INT4 量化让大模型在消费级显卡上也能跑。:减少"搬运数据"的次数,让注意力计算快好几倍。投机解码:小助理写草稿、老板审核,用并行换速度,质量不打折。批处理:让多个用户共享 GPU,Conti
C#工业上位机项目实战第七篇:数据持久化架构落地,Repository仓储模式与工业数据容错设计
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)