每日一看大模型新闻(2024.1.7-1.8中)UCLA 团队提出自我博弈微调方法 SPIN;同济大学与复旦等发布检索增强生成(RAG)综述;大模型无限流式输入推理飙升46%!国产开源加速「全家桶」
1.产品发布
1.1金山云发布MaaS,对接多个大模型
发布日期:2024.1.8
金山云发布MaaS互信推理专区方案2.0 默认对接多个大模型_凤凰网
主要内容:金山云发布最新产品MaaS 2.0方案,支持云上LangChain的一键部署和对接多个生态合作商业大模型和开源大模型。此外,金山云还推出了互信VPC和应用型负载均衡ALB等产品,以满足不同场景下的需求。金山云表示,将持续迭代产品,全面拥抱人工智能,并已形成了全栈技术体系以满足不同的技术需求。
2.技术更新
2.1刘作虎展示OPPO手机大模型功能
发布日期:2024.1.8
刘作虎展示OPPO手机大模型功能,意外透露其为理想Mega车主_凤凰网
主要内容:在OPPO新品发布会上,OPPO首席产品官刘作虎向观众展示了“AI大模型语音摘要”的功能。刘作虎是首批预订了理想Mega的车主之一,前几天他和理想汽车CEO李想进行了电话交流。通话结束后,刘作虎使用了“AI大模型语音摘要”功能,通过全智能、全自动、重点清晰地生成待办事项,为手机端带来了强大的AI大模型体验。
2.2 UCLA 团队提出自我博弈微调方法 SPIN
发布日期:2024.1.8
UCLA提出自我博弈微调:无需额外微调数据,左右互搏即可大幅提升LLM能力-CSDN博客
主要内容:加利福尼亚大学洛杉矶分校的顾全全团队提出了一种新方法SPIN(Self-Play Fine-Tuning),仅使用自我博弈,无需额外微调数据,就能大幅提升大型语言模型(LLM)的能力。这种方法类似于金庸武侠小说中的左右互搏,通过自我博弈微调,可以让所有大模型达到从弱到强的提升。研究已在社交网络引起热议,许多研究人员对此表示兴奋,并对2024年在相关方向的进展表现出极大期待。顾全全教授表示,如果希望训练一个超越GPT-4的大模型,这是一项绝对值得尝试的技术。
2.3大模型无限流式输入推理飙升46%!国产开源加速「全家桶」,打破多轮对话长度限制
发布日期:2024.1.8
大模型无限流式输入推理飙升46%!国产开源加速「全家桶」,打破多轮对话长度限制
主要内容:麻省理工Guangxuan Xiao等人推出的StreamingLLM,能够在不牺牲推理速度和生成效果的前提下,实现多轮对话总共400万个token的流式输入,22.2倍的推理速度提升。但StreamingLLM使用原生PyTorch实现,对于多轮对话推理场景落地应用的低成本、低延迟、高吞吐等需求仍有优化空间。Colossal-AI团队开源了SwiftInfer,基于TensorRT实现了StreamingLLM,可以进一步提升大模型推理性能46%,为多轮对话推理提供了高效可靠的落地方案。
Colossal-AI开源地址:GitHub - hpcaitech/ColossalAI: Making large AI models cheaper, faster and more accessible
2.4同济大学与复旦等发布检索增强生成(RAG)综述
发布日期:2024.1.7
专补大模型短板的检索增强(RAG)有哪些新进展?这篇综述讲明白了_技术_文档_问题
主要内容:同济大学王昊奋研究员团队和复旦大学熊赟教授团队联合发布了检索增强生成(RAG)综述,全面梳理了RAG的核心范式、关键技术和未来发展趋势。RAG通过在语言模型生成答案之前,先从广泛的文档数据库中检索相关信息,然后利用这些信息来引导生成过程,大幅提升了内容的准确性和相关性。这份工作为研究人员绘制了一幅清晰的RAG技术发展蓝图,指出了未来的研究探索方向。同时,为开发者提供了参考,帮助辨识不同技术的优缺点,并指导如何在多样化的应用场景中最有效地利用这些技术。
3.商业动态
3.1苹果正在憋大招?知名爆料人:6月WWDC预计众多AI工具将问世
发布日期:2024.1.8
苹果正在憋大招?知名爆料人:6月WWDC预计众多AI工具将问世_凤凰网
主要内容:苹果爆料人马克·古尔曼爆料,苹果公司计划在今年6月的全球开发者大会(WWDC)上推出一系列基于生成式人工智能(AI)的工具,并将这些工具作为即将发布的iOS 18的一部分。这些工具可能会改变用户与苹果核心应用程序的交互方式,并在人工智能领域树立新的标杆。除了人工智能,苹果还计划推出其他创新产品,如Apple Vision Pro AR/VR头戴式显示设备、新的M3机型和改进型机型。
3.2 2023年我国AI相关企业注册量达50万
发布日期:2024.1.8
2023年度热门产业盘点:人工智能相关企业注册量首次突破50万大关-企查查
主要内容:企查查大数据研究院发布的“2023年度热门产业盘点”显示,中国AI相关企业数量达到了157.18万家。在过去的十年中,中国AI相关企业的注册量呈现持续增长的趋势,2020年新增19.43万家,同比增长171.86%,达到了近十年的增速峰值。在2021年至2023年期间,中国AI相关企业分别新增了36.36万家、42.71万家和52.92万家,同比增长分别为87.11%、17.47%和23.91%。就地区而言,广东拥有22.58万家AI相关企业,居各地区之首;而就城市而言,北京拥有9.47万家AI相关企业,位居各城市之首。
4.其他资讯
4.1重庆:未来工厂建设指南
发布日期:2024.1.7
主要内容:重庆市经济和信息化委员会发布了《重庆市工业产业大脑建设指南(1.0)》和《重庆市未来工厂建设指南(1.0)》。工业产业大脑建设指南提出,重点关注特色制造业细分行业,构建“数据汇聚—智能计算—能力生成—赋能服务”一体化的AI大模型。未来工厂建设指南提出,全面应用新一代信息技术,探索创新设计、AIGC辅助设计等新技术应用,逐步建设“AI领航工厂、链网平台工厂、超级无界工厂”三种形态的未来工厂。
更多推荐
所有评论(0)