十派的玩具箱有哪些内容？
顾名思义，玩具箱就应该是玩具箱。 知识笔记、工具笔记、写出的小玩意儿，都是玩具。 有时候玩玩具是为了写blog，有时候写blog是为了玩玩具。
任何批评和建议均会受到最热烈的欢迎： Issues / pipipi2328@gmail.com
各种工具介绍
主要集中于深度学习常用的工具。
好玩的玩具们
写的奇怪的小玩意儿。
翻译和转载的文章
有时还会翻译或转载一些我觉得很有趣的内容。
陶哲轩的职业建议 You and Your Research - Richard Hamming
CS336
搭建起比较现代的Transformer训练循环，进行实验。
Assignment 1前半段 Assignment 1后半段
为此单独写了一些知识性的专题，当然也包括之前的“各种工具介绍”。
估算Transformer模型参数量 估算AdamW训练内存和计算量 从SGD到AdamW，优化器怎么发展过来的？ 原始softmax、数值稳定的softmax和在线softmax 结合nanovllm的FlashAttention和PagedAttention主要原理概述
数据结构与算法
总计三套笔记：算法设计与分析（算法导论），洛谷基础篇，LeetCode HOT 100。
算法课-数学部分 算法课-算法部分 洛谷基础篇 LeetCode HOT 100的前50 LeetCode HOT 100的后50
minitorch
一个有趣的手写简易版PyTorch的项目。 基于Python基础语法、或Numpy、或Numba、或CUDA，编写一个符合接口的迷你版PyTorch。 有CS61A前置（现代Python）和一点人工智能基础知识就能写。
CSAPP
复旦大学软件工程专业的ICS课程lab，基本与CMU原版保持一致。
Shelllab Cachelab Attacklab Bomblab Datalab 为了辅助Datalab的讲解，单独编写了介绍浮点数的 ieee754 。
CS61A 2024 summer
只记录了Discussion(disc)部分的笔记： 因为这一部分难度适中、有东西说，相关的笔记也能推广到lab和hw部分w 跳过了不感兴趣的SQL和scheme部分。
disc07 树、链表 disc05 迭代、时空复杂度 disc04 树的递归 disc03 递归 disc02 高阶函数 disc01 “迭代与抽象”
评论