ByteByteGo

ByteByteGo 是一个技术博客，专注于系统设计和底层技术概念的可视化解释。

相关文章

• A Guide to Context Engineering for LLMs（2025-12-16）
  • 探讨了 LLM 如何处理信息、什么是上下文工程、四种核心策略
  • 引用了 Chroma 的 Context Rot 研究、Anthropic 的多智能体系统、Karpathy 的观点
• A Guide to AI Inference Engineering（2026-06-15）
  • 解释 LLM 推理中的 prefill / decode 拆分、TTFT / TPS 指标和六类推理优化技术
  • 覆盖合批、前缀缓存、量化、推测式解码、模型并行和解耦式推理服务

参见

• Context Engineering
• A Guide to Context Engineering for LLMs
• AI Inference Engineering
• A Guide to AI Inference Engineering