登录社区云,与社区用户共同成长
邀请您加入社区
摘要: MiniCPM桌宠是一款基于本地化AI的桌面交互宠物,依托Intel AIPC硬件与OpenVINO引擎优化,实现零云端依赖、全离线运行,保障隐私安全。其核心特点包括: 一键部署:口语化指令即可完成安装,自动适配网络、硬件及依赖环境,新手友好; 轻量化高效:MiniCPM5端侧模型仅1.5GB,支持情绪陪伴、文案润色等功能,资源占用低; 双算力模式:GPU模式流畅交互,NPU模式低功耗挂机
基于的桌面端 OCR 文字识别演示程序,通过 C# Windows Forms 实现模型的在线下载、图片上传、OCR 推理、检测框可视化及耗时统计。
OpenVINO™ C# API 3.3 正式发布!本次版本正式接入 OpenVINO GenAI,让 C#/.NET 项目可以直接调用本地 LLM、Whisper 语音识别和 VLM 图文问答能力。传统推理继续稳定支持,GenAI runtime 按需引入,覆盖 net46 到 net10.0,更适合桌面、工业、内网和边缘 AI 应用落地。
QString path = QFileDialog::getOpenFileName(this, "选择模型文件", "", "OpenVINO Model (*.xml)");// ==================== LLaMA OpenVINO 推理循环 ====================# ================== OpenVINO 配置 =============
办公、游戏、观影时腾不出手?樱桃 AI 语音助手,语音指令轻松访问复杂系统功能与设置,从文件操作到系统配置,一句话搞定。
(注意模型路径更改为自己的路径))复制到你的项目输出目录。
GPU 和 CPU 处理KV Cache动态性很自然——运行时动态分配内存就行。
本文给出一条参考部署路径:环境安装 → optimum-cli 一键导出 INT4 IR → openvino-genai LLMPipeline 推理 → Hybrid Reasoning 双模式实战。
即为:对于每个输入图像,输出 784 个局部区域的特征向量,每个向量 384 维。这些密集特征可以用于下游任务(如语义分割、对应关系匹配、可视化等)。模型的特征维度(ViT-Small 的输出维度为 384)。输入图像尺寸 448×448,patch size = 16,所以每张图像被分割成。个不重叠的 patch。每个 patch 对应图像中的一个局部区域。因此,导出的 ONNX 模型输出。工具
随着大语言模型(LLM)技术的快速发展,如何在保障数据隐私的前提下实现高效的本地知识问答成为亟待解决的关键问题。本文提出了一种基于OpenVINO推理框架的端侧私有化系统架构,通过深度融合向量检索与Qwen2.5大语言模型,构建了完整的个人知识库智能管家解决方案。系统在 Intel 异构计算平台上实现了 CPU/GPU/NPU 多设备协同加速,采用 INT8 量化与动态批处理技术,在保持模型精度的
这个周五,齐聚上海技术沙龙,沉浸式学习多模态模型部署优化技术,在真实项目实践中完成技术进阶与成果沉淀!
本文给出一条与OpenVINO Notebooks 中minicpm-v-4.6 教程严格对齐的部署路径。
本文将带你了解如何借助 Intel® OpenVINO™ 工具套件,将 FLUX.2 Klein 4B 模型部署到 Intel 硬件上,充分释放其实时图像生成与编辑的能力。
我该如何把机器人、摄像头和平台正确连接起来,从而开始采集可用于训练的演示数据?
活动时间:2026年5月1日 – 6月30日
图a是原始信号,含三次,五次谐波,图b是原始信号频谱分析(FFT)结果,图c是滤除三次和五次谐波信号后的对比结果,图d是滤波后波形频谱分析(FFT分析)结果。图a是原始信号,含三次,五次谐波,图b是原始信号频谱分析(FFT)结果,图c是滤除三次和五次谐波信号后的对比结果,图d是滤波后波形频谱分析(FFT分析)结果。可进行谐波提取,可实现对仿真模型中示波器的波形数据或者外部采样数据进行频谱分析和自定
最近在折腾COMSOL多物理场仿真时,发现激光加工这块真是"物理场全家桶"——热传导、流体飞溅、相变全挤在一块儿。手头有个"激光打孔·飞溅-较好-原始.mph"模型,打开发现他们用Level Set方法追踪气液界面,结果粒子飞溅还是得靠离散相建模硬怼。下次准备试试把激光打孔和增材制造的模型杂交,看看能不能搞出个自带冷却管道的异形零件,反正COMSOL里点错技能树也不会真的浪费材料。生死单元在增材制
OpenVINO™ 已正式实现对 ERNIE-Image 的 Day 0 支持。这意味着开发者可以在模型发布后的第一时间,将 ERNIE-Image 更方便地跑在 Intel CPU 和 GPU 上,快速完成从模型导出、推理验证到应用落地的全流程实践。
本文分享了CV模型线上服务的优化经验。针对YOLOv5检测服务的高延迟和内存溢出问题,提出三个维度的优化方案:1) 通过异步处理和消息队列解耦IO与GPU计算,避免阻塞;2) 实现动态批处理提高GPU利用率,平衡吞吐与延迟;3) 排查显存泄漏并建立显存池化管理。文章还强调了监控指标、熔断机制的重要性,并给出客户端配合、压测模拟、降级方案等实用建议。作者指出,模型部署需要算法与工程并重,对生产环境保
本文分享了使用OpenVINO优化YOLOv5模型部署的实战经验。重点包括:正确转换ONNX模型为OpenVINO IR格式的技巧、设备选择与初始化配置、预处理和后处理的性能优化、异步推理实现高吞吐量,以及针对不同硬件的调优策略。文章特别强调了动态batch处理、FP16量化、线程绑定等关键技术,并提供了Docker部署和调试建议。通过合理配置,在i7-12700上可将YOLOv5s的推理速度从1
本项目基于Qwen3-VL视觉语言大模型和OpenVINO推理优化,开发了一个端侧智能发票识别系统。系统通过PDF智能解析、AI视觉识别和OpenVINO加速,实现了从PDF到Excel的全流程自动化处理。创新点包括:采用OpenVINO优化使推理速度提升3-5倍,int4量化降低内存占用至2-3GB,Gradio提供友好交互界面。适用于企业财务、个人用户等场景,能有效提升发票处理效率。当前支持中
Gemma 4 正清晰地体现了这种变化:它将多模态理解、长上下文交互和推理能力整合进了同一个模型家族中。
开发者不需要放弃熟悉的 llama.cpp 工具链,也不需要切换到另一套全新的软件栈,就可以在 Intel® CPU、GPU 和 NPU 上运行 GGUF 模型。
全图纸语义理解升级方案摘要(148字) 本方案针对QuoteApp v2.0的图纸解析能力升级,重点解决现有系统在形位公差、焊接符号等关键工艺特征识别缺失导致的±25~40%报价误差问题。推荐采用混合技术方案(YOLOv8目标检测+PaddleOCR+规则引擎),实现14种GD&T符号、焊接特征及技术要求文本块的精准识别,模型体积控制在400MB内,处理延迟3-8秒/页。新增Extende
本文档是 OpenVINO™ C# API 3.2 版本的官方升级说明,全面介绍了新版本相比老版本的重大改进和创新特性。无论您是正在使用老版本的老用户,还是正在评估技术选型的新用户,本文档都将帮助您全面了解这个基于 AI 大模型深度优化的重磅版本。经过数月的精心打磨,正式发布了!这个版本不仅仅是一次简单的功能迭代,而是基于老版本代码库,通过 AI 大模型进行全方位深度优化的重磅升级。从架构重构到功
《附图报价助手项目总结》 该项目为中小制造企业开发的智能报价工具,实现从图纸上传到报价单生成的全流程自动化。核心功能包括:3D/2D图纸解析(支持STEP/DWG等格式)、几何特征自动提取(尺寸/孔数/工艺特征)、11道工序工时计算、完整成本链核算及报价单导出。系统采用PyQt6开发,具备GUI/CLI双模式,49.6MB绿色单文件部署。关键技术包括ezdxf解析、PaddleOCR识别和Open
OpenVINO(Open Visual Inference and Neural Network Optimization)是英特尔推出的深度学习推理优化工具套件,其核心原理是通过“模型优化 + 硬件加速 + 跨平台部署”三位一体的架构,实现AI模型在异构硬件上的高效推理。若出现 `ModuleNotFoundError: No module named 'openvino.runtime'`,
作为智汇金陵· AI开源人才峰会的一部分,本次活动由英特尔联合魔搭社区共同呈现,吸引了众多开发者、技术专家与合作伙伴齐聚一堂,共同探讨 AI PC 时代的技术趋势与端侧智能体的落地实践。
高精度称重模块设计方案供电:12-24V通信接口:CAN通道:2精度0.1g,带零点校位高精度,低温漂含原理图,PCB,BOM表,源工程代码,可直接生产最近调试无人售货机的散称模块,踩了一堆坑——普通电阻应变片模块要么零点飘上天,要么20kg量程误差±5g根本没法用,串口通信还老丢包,CAN协议的又贵得离谱。翻了翻开源仓库改了三天,终于搞出个低成本、0.1g精度、12-24V宽压、双路称重、带源工
To use OpenVINO with your Intel integrated GPU, you typically follow 4 main steps: install it, prepare a model, convert the model to OpenVINO format, and run inference on CPU/GPU.Below is a simple beg
计算图可以理解为提前把整个网络的结构写好,这样用的时候就不用一行行解析python代码了,所以也实现了跨语言,速度也更快,当然,快不过onnx。经过前面的学习,我们大概都知道有这些不同的模型了,也知道一些他们的运用场景,然后我想再学习一下他们都是由什么组成的。因为我这里onnx是纯推理,而且由于HIMLoco的框架设计,就导致实际的onnx中的初始化器个数比pt的键值少。他的推理是比正常的pyto
摘要:本项目实现了一个基于DINOv3的异常检测系统RAD,包含数据加载、特征记忆库构建、异常检测评估等核心模块。系统使用DINOv3提取多层特征,通过KNN检索计算图像级和像素级异常分数,支持MVTecAD、VisA、3D-ADAM和Real-IAD等数据集。关键组件包括:dataset.py定义数据集加载,build_bank_.py构建特征记忆库,rad_.py实现评估流程,utils.py