本仓库收集整理多门 AI/LLM 相关课程的讲义（PDF）与学习笔记，主要来自：
- Carnegie Mellon University（CMU）
- Stanford University
开设时间： 2025年秋季（Fall 2025）
课程网站： https://2025.cmu-llms.org/
课程简介：
研究生级别课程，全面覆盖大语言模型的方法与应用。课程内容包括：
- 语言模型基础（网络架构、训练、推理、评估）
- LLM解释性与对齐
- 涌现能力分析
- 语言任务应用及跨模态扩展
- 预训练扩展技术
- 高效训练与部署方法
- 部署相关问题与前沿挑战
开设时间： 2026年春季（Spring 2026，已更新至 2026-02-03）
课程网站： https://cmu-llms.org/
课程简介：
研究生级别课程，专注于LLM核心技术在实际应用中的系统化应用。课程内容涵盖：
- 通用模型与专用训练的权衡
- 应用特定的数据、模型架构与训练流程
- 推理算法与输出过滤
- 计算基础设施与用户界面
- 应用场景评估方法
- Web代理、检索系统、音乐生成、编程辅助等多领域应用
开设时间： 2025年秋季（Fall 2025）
授课教师： Mihail Eric
课程网站： https://themodernsoftware.dev/
作业代码： https://github.com/mihail911/modern-software-dev-assignments
课程简介：
围绕“现代软件开发者如何有效使用 AI/LLM 工具”展开，覆盖提示工程、coding agents、MCP、AI IDE、代码审查、AI 测试与安全、DevOps/事故响应等主题，并包含多场行业嘉宾分享。
开设时间： 2025年春季（Spring 2025）
授课教师： Zhihao Jia
课程网站： https://www.cs.cmu.edu/~zhihaoj2/15-779/
课程简介：
专注于现代机器学习系统设计，特别是针对大语言模型（LLM）和生成式AI的系统优化。课程内容涵盖：
- GPU编程与架构（CUDA、Warp专用化、Mega-Kernel）
- ML编译技术（Triton、TVM、自动调优）
- 图级优化（TASO、PET、Mirage）
- 分布式训练与并行化（数据并行、模型并行、流水线并行、自动并行化）
- 内存优化（零冗余、重新计算）
- Transformer与注意力机制（FlashAttention、Flash-Decoding）
- LLM服务技术（批处理、PagedAttention、RadixAttention、推测解码）
- LLM微调技术（LoRA、QLoRA等）
- 专家混合架构（MoE）
.
├── 11-667/ # CMU 11-667: LLM Methods and Applications
│ ├── 01_Building_blocks_of_modern_LLMs/
│ │ ├── 01_Building_blocks_of_modern_LLMs.pdf
│ │ └── tortoise.md
│ ├── 02_Transformer_architecture.../
│ ├── ... (共22讲)
│ └── README.md
├── 11-766/ # CMU 11-766: LLM Applications
│ ├── 2026-01-13-llm-history/
│ │ ├── 2026-01-13-llm-history.pdf
│ │ └── tortoise.md
│ ├── 2026-01-15-nlu-nlg/
│ ├── 2026-01-20-prompting/
│ ├── 2026-01-22-finetuning/
│ ├── 2026-01-27-embeddings/
│ ├── 2026-01-29-retrieval/
│ ├── 2026-02-03-retrieval+rag/
│ └── README.md
├── CS146S/ # Stanford CS146S: The Modern Software Developer
│ ├── Week1-Introduction-and-how-an-LLM-is-made/
│ │ ├── Week1-Introduction-and-how-an-LLM-is-made.pdf
│ │ └── tortoise.md
│ ├── Week1-Power-prompting-for-LLMs/
│ ├── ... (共16讲)
│ └── README.md
├── 15-779/ # ML Systems (LLM Edition)
│ ├── 01-course-introduction/
│ │ ├── 01-course-introduction.pdf
│ │ └── tortoise.md
│ ├── 02-MLSys-basics/
│ ├── ... (共17讲)
│ └── README.md
└── README.md
本仓库内容来源于：
- 课程讲义： CMU / Stanford 相关课程公开的 PDF slides
- 课程网站： 各课程官方网站（见上方课程列表）
- 笔记整理： 基于课程讲义的个人学习笔记
本仓库仅供学习交流使用，请勿用于商业目的。
- 所有课程材料版权归相应学校与授课教师所有
- 笔记内容为个人学习整理，内容使用LLM整理，可能存在理解偏差或错误
- 如需引用课程内容，请访问官方课程网站获取原始材料
- 欢迎交流讨论，共同学习进步
本仓库内容为教育学习目的整理，不代表官方立场。如有任何版权问题或侵权行为，请通过以下方式联系：
- 提交 Issue
- 发送邮件说明情况
我们将在收到通知后第一时间删除相关内容。
感谢卡内基梅隆大学及各位授课教师提供如此优质的AI/ML课程资源，为学习者提供了深入理解现代生成式AI、大语言模型及机器学习系统的宝贵机会。
- 11-667 课程网站： https://2025.cmu-llms.org/
- 11-766 课程网站： https://cmu-llms.org/
- CS146S 课程网站： https://themodernsoftware.dev/
- 15-779 课程网站： https://www.cs.cmu.edu/~zhihaoj2/15-779/
本仓库采用双重协议：
- 课程讲义（PDF 文件）：版权归相应学校与授课教师所有
- 学习笔记（Markdown 文件）：采用 CC BY-NC-SA 4.0 协议
详见 LICENSE 文件。
最后更新： 2026-02-04
涵盖学期： Spring 2025, Fall 2025, Spring 2026
课程数量： 4门课程，共62讲 (11-667: 22讲, 11-766: 7讲, CS146S: 16讲, 15-779: 17讲)