Mistral 入门指南 —— 总结
Channel:
Subscribers:
6,590
Published on ● Video Link: https://www.youtube.com/watch?v=h4eB_hFqeG8
Mistral 推出的开源 Mixtral 8x7B 模型采用了“专家混合”(MoE)架构。与传统的 Transformer 不同,MoE 模型内置多个专家级前馈网络(本模型为8个),在进行推理时,由一个门控网络负责选择两个专家进行工作。这样的设置让 MoE 在保持与大型模型相当的性能的同时,能够实现更快的推理速度。Mixtral 8x7B 模型共有 46.7B 参数,但在实际推理时仅激活其中的 12.9B 参数来预测下一个 Token。
在《Mistral 入门指南》课程中,由 Mistral 的 Sophia Yang, Ph.D. 主讲,你将会了解到:
- 通过 API 调用及 Mistral AI 的 Le Chat 网站,探索 Mistral 的开源模型(Mistral 7B、Mixtral 8x7B)及商业模型。
- 实施 JSON 模式来生成可直接融入大型软件系统的结构化输出。
- 学习如何使用函数调用进行工具操作,比如使用自定义 Python 代码查询表格数据。
- 将你的大语言模型(LLM)的响应与外部知识源结合,使用 RAG 技术增强实用性。
- 创建一个可以参照外部文档的 Mistral 驱动聊天界面。
本课程将助力提升你的提示工程能力。
课程链接:deeplearning.ai/short-courses/getting-started-with-mistral/
Other Videos By 宝玉的技术分享
2024-05-14 | 另一个 Google Project Astra 演示,陪你一起看 Google I/O 直播并为你解说。 |
2024-05-13 | OpenAI 2024春季更新的在线演示部分视频(双语字幕) |
2024-05-13 | OpenAI 2024 春季更新的介绍部分(中文字幕) |
2024-05-10 | 面向视觉模型的提示工程 —— 7 总结 |
2024-05-10 | 面向视觉模型的提示工程 —— 6 微调 |
2024-05-10 | 面向视觉模型的提示工程 —— 5 图像生成 |
2024-05-10 | 面向视觉模型的提示工程 —— 4 对象检测 |
2024-05-10 | 面向视觉模型的提示工程 —— 3 图像分割 |
2024-05-10 | 面向视觉模型的提示工程 —— 2 概览 |
2024-05-10 | 面向视觉模型的提示工程 —— 1 介绍 |
2024-04-22 | Mistral 入门指南 —— 总结 |
2024-04-22 | Mistral 入门指南 —— 如何实现一个简单的聊天机器人 |
2024-04-22 | Mistral 入门指南 —— 如何从头实现一个简单的检索增强生成(RAG) |
2024-04-22 | Mistral 入门指南 —— 如何使用函数调用 |
2024-04-22 | Mistral 入门指南 —— 如何选择合适的模型 |
2024-04-22 | Mistral 入门指南 —— 如何写提示词 |
2024-04-22 | Mistral 入门指南 —— 概览 |
2024-04-22 | Mistral 入门指南 —— 介绍 |
2024-03-22 | GTC: Fei Fei Li and Bill Dally | The High-Speed Revolution in AI and Managing the Impact on Humanity |
2024-03-22 | What’s Next in Generative AI S62430 | Conference Session Catalog | GTC 2024 | NVIDIA output |
2024-03-21 | GTC 2024:Transforming AI [S63046] 黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕 |