智能体(Agent)被许多人视为 AI 的终极目标。本文从 Chip Huyen 的经典著作《AI Engineering》中摘录改编,全面解析 AI 智能体的核心概念。文章从智能体的定义出发,深入探讨决定智能体能力的两个关键方面:工具(Tools)与规划(Planning),并通过 SWE-agent 和 RAG 系统等实例说明智能体的工作原理与失败模式。
Mamba 是一种挑战 Transformer 的新型状态空间模型(SSM),首次在百万级 token 长序列上实现了与 Transformer 相当的性能,同时解决了注意力机制的二次复杂度瓶颈。本文用直观的比喻和数学推导,深入浅出地讲解了 Mamba 的核心原理、选择机制及其对 AI 未来的意义。
BAIR 博客深度综述:自适应并行推理(APR)通过让语言模型自行决定何时并行化、产生多少线程以及如何协调,将并行化从外部强加变为模型的生成控制流。文章系统梳理了从简单分支合并、启发式搜索到 ParaThinker、GroupThink、Hogwild! 等方法的演进,深入比较了 Multiverse(引擎级 KV 缓存复用)与 ThreadWeaver(客户端编排)两种推理系统路线,并讨论了并行化奖励设计的关键问题——仅结构奖励易被钻空子,效率奖励需追踪关键路径,并行效率应以保证正确性为前提。
CODA 提出一种 GPU kernel 抽象,将 Transformer 训练中的内存密集型算子(LayerNorm、激活函数、残差等)表达为 GEMM+Epilogue 程序,通过编译时融合消除全局内存往返,最高 2.8 倍加速。
多流LLM引入并行的token流处理多条思维线,在安全性和效率上带来突破——K=4流实现3.2倍加速,94%提示注入抵御率。
Cloudflare 分享了使用 Anthropic Mythos Preview 进行漏洞研究的经验:漏洞链构建、概念验证生成、信噪比问题和多阶段测试框架设计。
Odyssey 发布 Agora-1,首个多智能体世界模型,支持四人在同一生成世界中实时交互,将模拟与渲染解耦,开创游戏、机器人、RL 训练新范式。
如果vibecoding真那么强,世界应到处是vibecoded的作品。但现实中一个也没有。AI降低了打字门槛但从未触及验证层和决策层——真正的门槛一直在那儿。
当市场下行时每家公司都在优化流程,AI带来不切实际期望。但作者指出仅靠AI无法让流程变快——真正瓶颈在上游输入质量。瓶颈需要高质量输入而非盲目加速。
Semble是一个专为AI智能体打造的代码搜索库,CPU运行无需API Key或GPU,tree-sitter分块+Model2Vec+BM25双路检索,比grep+read节省98% token,支持MCP模式兼容主流AI编码工具。