这两天科技新闻中Llama 3消息刷爆了，中国时间 2024 年 4 月 19 日 0 点 0 分，Meta Llama 3 发布。模型以开源形式提供，包含 8B 和 70B 两种参数规模，涵盖预训练和指令调优的变体。Llama 3 支持多种商业和研究用途，并已在多个行业标准测试中展示了其卓越的性能。
Llama 3 在超过 15 万亿个标记上进行训练，比 Llama 2 的数据集大 7 倍多。它大大降低了错误拒绝率，并提供了更高的响应一致性和多样性。此外，它还集成了新的信任和安全工具，如 Llama Guard 2、Code Shield 和 CyberSec Eval 2。
项目开源地址
https://github.com/meta-llama/llama3
模型已经在Hugging Face上可以下载了
那么具体有多强，下面给大家介绍4种方法免费体验Llama 3。
1.本地电脑部署
本地电脑部署我们使用ollama 来部署。Llama 3模型一开源ollama 官方也是第一时间实现模型量化修改。
https://ollama.com/library/llama3#/
模型下载后我们启动 ollama run llama3:8b (这里我们以8B模型做测试)
我们通过命令行测试一下
初步测试速度挺快，也能回答问题，缺点就是中文回答的不好。
huggingface chat 访问
既然模型托管在全球最大的 huggingface 模型托管平台上，那么自然少不了模型免费在线访问。（需要科学上网）文章结尾有其他方式可以访问无需科学上网。
我们可以通过https://huggingface.co/chat/ 访问
登录huggingface 网站进入这个聊天对话窗口中。
在当前模型选择选择meta-llama 模型
默认的huggingface chat模型选择的是 CohereForAI/c4ai-command-r-plus 模型，我们需要点击模型选择来切换
设置完成后就可以使用了，目前huggingface上提供的是Llama-3-70B-Instruct 模型，效果应该比8B要强，我们测试一下。
问题：猫、白菜和鲸鱼都属于什么？
返回的结果是中英文了（看来和8B模型的问题一样，中文支持的不好）
翻译一下：
中国经典谜语！答案是：“三个名词”（三个名词）。猫 (māo) 的意思是“猫” 白菜 (bái cài) 的意思是“大白菜”或“白菜” 鲸鱼 (jīng yú) 的意思是“鲸鱼” 这三个都是名词，但它们在含义或类别上没有关联。这个谜语是在玩弄这样一个事实：它们都只是文字，而不是有更深层次的联系。
3 meta ai访问
Meta AI 是 Meta 推出的聊天机器人，当然这个模型肯定在自家聊天机器人上使用了。(需要科学上网) 文章结尾有其他方式可以访问无需科学上网。
访问https://ai.meta.com/
在输入对话框中可以选择不登录访问，也可以facebook账号登录访问
我们选择不登录账号访问。这里它需要你的出生年月，随便填写一下。
输入问题：列一个包含顶级科幻电影和发行年份的两列电子表格：标题 | 发布年份
生成结果，速度也非常快，同样的问题还是回答中文不好（全是英文回答），翻译一下
3.openrouter访问
输入网站https://openrouter.ai/ 通过这个国外第三方大模型聚合网站来访问
在右上角模型选择中 选择“Llama 3 8B Instruct” 和“Llama 3 70B Instruct (nitro)” 其他模型我们关闭他们
输入 问题
4.chat.lmsys.org访问
chat.lmsys.org 是一个与大型语言模型(LLM)相关的开放平台，用于训练、部署和评估基于大型语言模型的聊天机器人。该平台由 LMSYS Org 运营。它对主流大模型进行评测，所以我们利用这个平台使用 Llama3 模型
访问地址：https://chat.lmsys.org/
进入网站我们可以选择direct chat
切换到聊天对话窗口中，我们从模型列表中选择Llama 3 70B Instruct 第一个模型就是（一般情况 这个网站会把最新模型放在最前面以方便大家评测）
对话框中输入问题
为一篇写关于尼古拉·特斯拉及其技术贡献的文章创建一个大纲
同样给我返回了英文的内容。
特别说明：
目前 Llama3 主要国外模型，在开源大模型影响面也是比较大的，所以国外很多第三方公司评测机构也都第一时间退出免费的Llama3 免费测试地址，有的小伙伴受制于网络不能访问。我这里可以教大家使用一个浏览器套浏览器的方式访问以上这些系统。（当然如果你自己电脑上有显卡喜欢折腾的换可以按照第一个方法来体验Llama3 ）
打开 网站之后会发现有四个区域可以选择，这四个区域分别是：欧洲、北美、亚洲和南美洲。没等到你自己选择，几秒钟会默认自动选择距离你最近的服务器打开一个浏览器环境。
通过浏览器内套浏览器的方式从而达到访问国外网站的目的（网速可能比较慢，主要使用的人比较多）
在浏览器里面输入以上网站网址就可以免费体验Llama 3。详细操作可以关注我这期视频
里面有详细介绍。
总结：Llama3的发布对AI行业产生了深远影响。它的开源性质使得全球各地的开发人员、研究人员和好奇心强的人都可以进行游戏、构建和实验。此外，Llama3的开源也可能对包括OpenAI在内的大模型公司形成竞争，同时也能够让众多依赖开源模型的人工智能公司受益。它的性能优秀，技术创新明显，并且得到了多家公司的支持和应用。欢迎留言点赞，觉的文章不错，请支持。
