Stanford CS 25 | Transformers United 课程笔记，「首个Transformers专题讲座，NLP、CV和RL无所不包」
各位小伙伴好啊[嘿哈]，欢迎你来到CS25的课程笔记（cs25-notes项目），CS25这门课程，个人觉得是一个宝藏课程，整体内容十分丰富，形式风格偏分享讲座（seminar），分享的内容前沿且思想丰富，初了解这门课程，就感觉这是一个沧海遗珠，有更多的小伙伴能够了解到这门课程，以及能够更好的学习这门课程。基于好的知识应该得到更为广泛的传播，所以我们参与的小伙伴对于课程的整体愿景有如下几点：
1）让更多的人了解到CS25这门如此多元化的一门课程（内容的质量高）
2）更提供更低的门槛让更多的人学习这门课程（内容注解是要清晰的）
3）能在课程笔记的注解中提供更多的思考（有些内容重要的不只是知识本身，还有知识背后的思想）
我想我们即是知识的学习者、也期望成为知识的传播者，整个项目内容是完全开发获取的，我们期望同屏幕前的你一起学习前行。
协议要求：
本项目遵循 知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议（CC BY-NC-SA 4.0）：使用者可以对本创作进行转载、节选、混编、二次创作，但不得运用于商业目的，且使用时须进行署名，采用本创作的内容必须同样采用本协议进行授权。
署名（BY） – 你必须以给予姓名标注，并提供本许可证的链接。同时你需要声明公开的创作是否经过修改。你可以采用恰当的形式将相关信息表述出来，但不得以任何形式暗示授权人已正式认可了你以及你的使用行为。
相同方式共享（SA） – 如果你对本创作进行了重混、转换、依据本创作进行再创作，你必须依据本创作采用的许可证来分发你的创作。
重点说明：我们不排斥商业用途，为知识和劳动付费我们认为是合理的，但由于此课程源于斯坦福大学的 CS 公开课程，所以基于知识分享和传播的原则，我们期望此内容不得运用于商业目的，从而使得知识能够得到更为广泛的传播。
要说在世界大学公开课中哪些属于精品，斯坦福大学的 CS 课程可谓是榜上有名。这所世界名校先后免费公开了众多课程，有关于自然语言理解的、有关于机器学习的等等。
斯坦福大学的 CS 课程可以说是覆盖范围广，这门课程是CS的一门前沿课程：《CS 25: Transformers United》。
自 2017 年推出以来，Transformer 彻底改变了自然语言处理 (NLP)领域。现在，Transformer 在深度学习中被广泛使用，无论是计算机视觉 (CV)、强化学习 (RL)、生成对抗网络 (GAN)、语音甚至是生物学。除此之外，Transformer 还能够创建强大的语言模型（如 GPT-3），并在 AlphaFold2 中发挥了重要作用，该算法解决了蛋白质折叠问题。
这门课程的重点就是介绍 Transformers，并统一其在 ML、CV、NLP、生物学和其他社区的使用。此外，该课程还讨论关于 Transformer 的最新突破和想法，以激发交叉合作研究。
不过，想要学习这门课程的小伙伴，必须先要掌握深度学习基础知识（必须理解注意力机制），或者已经通过 CS224N / CS231N / CS230 课程。
CS 25 课程邀请了来自不同领域关于 Transformer 研究的前沿人士进行客座讲座。有 AI 教父 Geoff Hinton；OpenAI 的研究科学家 Mark Chen，主要介绍基于 Transformers 的 GPT-3、Codex；Google Brain 的科学家 Lucas Beyer，主要介绍 Transformer 在视觉领域的应用；Meta FAIR 科学家 Aditya Grover，主要介绍 RL 中的 Transformer 以及计算引擎等。
注：说明当前项目的规划，并将每个任务通过 Issue 形式进行对外进行发布。
- 如果你想参与到项目中来欢迎查看项目的 Issue 查看没有被分配的任务。
- 如果你发现了一些问题，欢迎在 Issue 中进行反馈🐛。
- 如果你对本项目感兴趣想要参与进来可以通过 Discussion 进行交流💬。
如果你对 Datawhale 很感兴趣并想要发起一个新的项目，欢迎查看 Datawhale 贡献指南。
| 姓名 | 职责 | 简介 |
|---|---|---|
| ML67 | 项目负责人 | XX |
注：表头可自定义，但必须在名单中标明项目负责人
扫描下方二维码关注公众号：Datawhale
本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。
