击上方关注 “终端研发部”

设为“星标”，和你一起掌握更多数据库知识

AI 开源之战打响！

作为曾经AI领域扛把子的谷歌，这两年多来，风头几度被抢，一直处于被压着打的境地，，昨天Gemma的发布，预示着谷歌登上开源大模型“铁王座”，重新回归开源赛场。

Gemma 是什么？

Gemma 是 Google 基于 Gemini 技术推出的四款新型大型语言模型（LLM），提供了 2B 和 7B 两种不同规模的版本，每种都包含了预训练基础版本和经过指令优化的版本。所有版本均可在各类消费级硬件上运行，无需数据量化处理，拥有高达 8K tokens 的处理能力。

Gemma的性能有多高？

1、有两个模型，2B和7B的，在消费级显卡运行没问题。

2、对于使用者非常友好。开发者可以利用Gemma模型提供的Colab和Kaggle快速启动和运行项目。

此外，Gemma模型与Hugging Face、MaxText、NVIDIA NeMo和TensorRT-LLM等行业内的流行工具集成无缝，使得开发者无需在集成工具上花费大量时间，即可专注于模型的高效应用。

比如可以在Colab中直接运行，跟Hugging face之类的集成也很好，估计会很方便使用。

3、Gemma模型针对多个AI硬件平台进行了优化，特别在NVIDIA GPU和Google Cloud TPU上展现了出色性能，比如Gemma宣称比Llama-2的13B性能还要好。

有了Gemini同源技术的加持，Gemma不仅在相同的规模下实现SOTA的性能。而且更令人印象深刻的是，还能在关键基准上越级碾压更大的模型，比如Lama2 13B。

以下是其基础版本与其他开放模型在LLM 排行榜上的比较（得分越高越好）：

添加图片注释，不超过 140 字（可选）

4、可以提供更强大的整合技术！比如可以与NVIDIA的紧密合作，可以进行跨设备兼容，在数据中心、云端还是本地搭载RTX显卡的个人电脑上，Gemma模型都能提供高性能的整合技术！

Gemma带来的机遇

Gemma 大模型的开放使用，可以应用多个不同的场景，比如智能客服和助手，文本生成和摘要，智能写作助手，情感分析和意见挖掘，图文生产，同时将为全球的开发者和企业提供更多的选择和机会，比如：

1. 自媒体智能化剪辑

2. 模型优化与改进

3. 应用开发与集成

4. 模型部署与运维

5. 模型安全与隐私保护

6. 教育与培训

对于竞争对象来说

对于中大型模型而言

Gemma的主要竞争对手主要包括：Meta 的开源大型语言模型Llama 2、Mistral AI 的 7B 模型、Deci 的 DecilLM 和Microsoft 的 Phi-2，OpenAI储备了一个用于打压对手的技术储备库，即使做得差不多了也隐而不发，专等竞争对手发布新产品的时候扔出来，以形成宣传优势，如果OpenAI判断对手的产品对自己的威胁越强，就越可能把技术储备库里最强的扔出来。但是由于OpenAI处于链条顶端，都会被作为打竞争的存在，形成了大模型巨头混战的局面，使得各大语言模型巨头加快AI模型的崛起

对于小模型而言

小模型巨头研发者会进一步会卷数据质量，今年会见到更多端侧运行的应用和模型！

对于开发者而言

这次，除了模型本身，谷歌还提供了一套工具帮助开发者，确保Gemma模型负责任的使用，帮助开发者用Gemma构建更安全的AI应用程序。

针对于这样一能智能聊天应用

可以利用Gemma作为应用的底层模型，开发一款属于自己的智能聊天APP，如果刚到以前，从头开始训练一个大语言模型，这既需要庞大的计算资源，也需要深厚的技术背景。现在有个谷歌开源的Gemma，可以很大程度上减少时间和资源的投入，对于企业和开发者都是非常友好的！

如何使用Gemma模型？

ps:可以在Colab中直接使用

1、获取Gemma访问权限

获取Gemma的访问权限，你得先有一个kaggle账号，如果没有可以先注册一个：

https://www.kaggle.com/

2、然后登陆kaggle点击这个链接获取Gemma的访问权限。

接下来傻瓜式的接受必要的条款，并点击accept。

3、选择合适的Colab运行环境

4、生成API key

你得有Kaggle的用户名和API Key来访问Gemma。

在Kaggle的setting->account里面找到API，点击Create New Token。

然后会自动生成一个Json文件并下载，打开之后是这样的。

将json文件中的用户名和key替换掉这个

然后依次运行colab的代码，安装Keras和KerasNLP。

依次引用安装好的包，选择backend，创建gemma模型。

Gemma来进行对话,语法：

gemma_lm.generate("What is the meaning of life?", max_length=64)

只是不管怎样，开源大模型给普通人带来的“可能性”远远大于非开源模型。相信Gemma的发布能够给大模型日趋平静的水面再次投下一颗巨石，引发一波儿AI的开发热潮。

当下，AI大模型的开源之战已经打响。但放眼看，Gemma一马当先！

回复 【idea激活】即可获得idea的激活方式

回复 【Java】获取java相关的视频教程和资料

回复 【SpringCloud】获取SpringCloud相关多的学习资料

回复 【python】获取全套0基础Python知识手册

回复 【2020】获取2020java相关面试题教程

回复 【加群】即可加入终端研发部相关的技术交流群

阅读更多

用 Spring 的 BeanUtils 前，建议你先了解这几个坑！

重磅！Sora内测名额可以申请了，快让我看看哪些大可爱还不知道怎么申请知道啥？

重磅！Sora内测名额可以申请了，快让我看看哪些大可爱还不知道怎么申请知道啥？

重磅总结！国内免费的靠谱GPT软件工具收集汇总

相信自己，没有做不到的，只有想不到的

在这里获得的不仅仅是技术！

喜欢就给个“在看”