README.md

第四章：从零实现 GPT 模型以生成文本

章节主要代码

• ch04.ipynb 包含了章节中出现的所有代码。
• previous_chapters.py 是一个 Python 模块，包含了上一章的 MultiHeadAttention 模块，我们在 ch04.ipynb 中导入该模块以创建 GPT 模型。

可选代码

• gpt.py 是一个独立的 Python 脚本文件，包含了我们迄今为止实现的代码，包括本章编写的 GPT 模型。