IPEX-LLM 是一个为Intel XPU (包括CPU和GPU) 打造的轻量级大语言模型加速库。本代码仓库包含了若干关于IPEX-LLM的教程,能帮助你理解什么是IPEX-LLM,以及如何使用IPEX-LLM 来开发基于大语言模型的应用。
教程组织如下:
- 第1章
概览
介绍了什么是 IPEX-LLM以及您可以用它做什么。 - 第2章
环境准备
提供了一组最佳实践,用于设置您的环境。 - 第3章
应用开发基础
介绍了 IPEX-LLM 的基本用法,以及如何构建一个最简单的聊天应用。 - 第4章
中文支持
展示了一些支持中文输入/输出的大语言模型的用法,例如ChatGLM2、Baichuan。 - 第5章
中级应用开发
介绍了使用 IPEX-LLM 进行应用开发的中级知识,例如如何构建更复杂的聊天机器人、如何做语音识别等。 - 第6章
GPU加速
介绍了如何用IPEX-LLM在Intel GPU上加速LLM应用。 - 第7章
微调
介绍了如何使用 IPEX-LLM 进行微调。 - 第8章
高级应用开发
介绍了使用 IPEX-LLM 进行应用开发的高级知识,例如langchain的使用。