Mistral 入门指南 —— 总结

Subscribers:
6,590
Published on ● Video Link: https://www.youtube.com/watch?v=h4eB_hFqeG8



Duration: 0:27
71 views
1


Mistral 推出的开源 Mixtral 8x7B 模型采用了“专家混合”(MoE)架构。与传统的 Transformer 不同,MoE 模型内置多个专家级前馈网络(本模型为8个),在进行推理时,由一个门控网络负责选择两个专家进行工作。这样的设置让 MoE 在保持与大型模型相当的性能的同时,能够实现更快的推理速度。Mixtral 8x7B 模型共有 46.7B 参数,但在实际推理时仅激活其中的 12.9B 参数来预测下一个 Token。

在《Mistral 入门指南》课程中,由 Mistral 的 Sophia Yang, Ph.D. 主讲,你将会了解到:

- 通过 API 调用及 Mistral AI 的 Le Chat 网站,探索 Mistral 的开源模型(Mistral 7B、Mixtral 8x7B)及商业模型。
- 实施 JSON 模式来生成可直接融入大型软件系统的结构化输出。
- 学习如何使用函数调用进行工具操作,比如使用自定义 Python 代码查询表格数据。
- 将你的大语言模型(LLM)的响应与外部知识源结合,使用 RAG 技术增强实用性。
- 创建一个可以参照外部文档的 Mistral 驱动聊天界面。

本课程将助力提升你的提示工程能力。

课程链接:deeplearning.ai/short-courses/getting-started-with-mistral/




Other Videos By 宝玉的技术分享


2024-05-14另一个 Google Project Astra 演示,陪你一起看 Google I/O 直播并为你解说。
2024-05-13OpenAI 2024春季更新的在线演示部分视频(双语字幕)
2024-05-13OpenAI 2024 春季更新的介绍部分(中文字幕)
2024-05-10面向视觉模型的提示工程 —— 7 总结
2024-05-10面向视觉模型的提示工程 —— 6 微调
2024-05-10面向视觉模型的提示工程 —— 5 图像生成
2024-05-10面向视觉模型的提示工程 —— 4 对象检测
2024-05-10面向视觉模型的提示工程 —— 3 图像分割
2024-05-10面向视觉模型的提示工程 —— 2 概览
2024-05-10面向视觉模型的提示工程 —— 1 介绍
2024-04-22Mistral 入门指南 —— 总结
2024-04-22Mistral 入门指南 —— 如何实现一个简单的聊天机器人
2024-04-22Mistral 入门指南 —— 如何从头实现一个简单的检索增强生成(RAG)
2024-04-22Mistral 入门指南 —— 如何使用函数调用
2024-04-22Mistral 入门指南 —— 如何选择合适的模型
2024-04-22Mistral 入门指南 —— 如何写提示词
2024-04-22Mistral 入门指南 —— 概览
2024-04-22Mistral 入门指南 —— 介绍
2024-03-22GTC: Fei Fei Li and Bill Dally | The High-Speed Revolution in AI and Managing the Impact on Humanity
2024-03-22What’s Next in Generative AI S62430 | Conference Session Catalog | GTC 2024 | NVIDIA output
2024-03-21GTC 2024:Transforming AI [S63046] 黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕