跳转至

第 8 节 · Self-Attention 与上下文:最贵的那块地

一次真实的长上下文实测:prefill 从 31K 输入每秒 953 token,掉到 145K 输入每秒 125 token。这一节算这笔账。

本节尚未发布。 全书 34 节,已发布 13 节;本章 7 节,已发布 0 节。

本节已在目录中占位,正文随写作进度分批发布。回到本章导读 · 全书目录