使用Ollama在本地安装Google轻量级开源大模型Gemma
2024-07-25
60
Google轻量级开源大模型Gemma在个人电脑上也可以部署体验了!以下是详细部署步骤:
一、安装 Ollama
1.访问 Ollama 官方网站(https://ollama.com/)。
2.下载适合操作系统的 Ollama 版本。
3.在 Windows 上,下载后直接运行安装程序。
4.安装完成后,在命令行中执行 ollama -V 命令以验证安装是否成功。如果显示了版本号,则表示安装成功。
二、运行 Gemma 模型:
1.在 Ollama 的用户界面中,找到顶部导航栏的 “Models” 链接并点击。
2.进入 Gemma 模型页面,根据提示下载 Gemma 模型。
Gemma有适合笔记本运行的轻量级模型。我们可以到Kaggle Models下载Gemma模型。
Gemma Kaggle下载地址:https://www.kaggle.com/models/google/gemma
3.根据您的硬件配置选择合适的模型版本。例如,如果显存小于 8GB,需要选择 2B 轻量版模型。
4.对于 7B 模型,使用命令 ollama run gemma:7b。对于 2B 轻量版,使用命令 ollama run gemma:2b。
5.首次运行时,系统会自动下载模型文件。下载完成后,您将进入交互模式,可以开始与模型交互。
更新于:1个月前赞一波!1
相关文章
- 免费开源的开发工具DevToys
- 免费开源的远程桌面软件RustDesk官网下载
- 开源中文LLaMA2模型 Chinese-Llama-2-7b
- 开源去马赛克工具Depix用法
- 开源远程支持软件RustDesk官网下载
- 基于Vue的免费开源admin管理后台框架
- .Net开源框架列表
- 免费开源WinForm UI控件库ReaLTaiizor
- ScottPlot:功能强大且开源免费的C#绘图控件
- Apache2.4 下载和安装 - Win10
- Google Duet AI值得关注的7个功能点
- VSCode开源吗?可以基于VSCode开发商业IDE吗?
- 有哪些C/C++的开源项目可以给系统的学习C/C++语言做参考呢?
- 开源的Web前端项目Nue JS用法
- Google Chrome谷歌浏览器七大新特性
- 如何申请加入Google Bard候补名单?
- Zephyr 开源的实时操作系统
- 开源JavaScript HTML5画布库Fabric.js官网
- volta - 开源的 JavaScript 工具管理器官网
- 分享3个基于.Net的开源远程管理工具
文章评论
全部评论