当你的AI智能体服务不止一个人时,每次工具调用都必须回答:这个智能体在代表谁行事?让我们通过构建一个连接Slack和GitHub的AI智能体来学习如何解决这个问题。 一次Slack读取使用该用户的工作区。GitHub issue以该用户的身份在其可访问的仓库中创建。智能体可能做出错误的判断,但绝不能
“软件工厂”这个术语如今备受关注,这并非没有道理。AI编码助手生成代码的速度比以往快得多。但仅仅编码更快,并不意味着交付更快、更安全。在许多团队中,这只会将瓶颈转移到审查、测试、部署和运维环节。 软件工厂是一种将整个软件开发生命周期组织为相互关联、可重复运行的系统的方式。可以想象一下汽车制造装配线。
当你向一个原始 LLM 询问关于你产品的具体问题时会发生什么?它会回答。快速、流畅,而且经常完全是编造的。这就是本次研讨会的起点——而修复这个问题正是全部意义所在。 8月12日(星期三),我们在 DigitalOcean 的 AI 平台上现场构建了一个真实的客户支持助手。我们称它为 HelpBot,
API密钥为软件提供身份验证。策略对象决定该软件被允许执行的操作。 本系列上一篇文章 以会议室中的一个问题结尾:究竟是谁决定我们可以这样做?当时的论点是,答案必须存在于网关能够强制实施任何策略之前,而网关的职责就是让这个答案可重复执行。 这篇文章要探讨的是,当一个答案不再只是一个决定,而是成为一个对
像Claude Opus 4.8这样的前沿模型可以驱动跨语言的智能体编程,从Python到C++再到GDScript;但在生产规模下,它们的每token成本会迅速累积。DigitalOcean的推理路由器(Inference Router)直接解决了这个问题:它将常规任务路由给较小的开源模型,仅在任
你的AI产品在六个月前推出了一个代理模式选择加入功能。你进行了倾向性分析,根据参与度层级和查询置信度进行了调整,并报告了任务完成率干净利落地提升了8个百分点。这个数字进入了季度业务回顾,大家都很满意。 不可避免地,一位严谨的数据科学家会提出一个令人不安的问题。你有多大把握倾向性模型捕获了所有混杂因素
简要回答:在生成之前对完整图像请求进行分类,返回一个小的JSON决策,并将分类器和图像调用附加到同一个租户账本上。有用的设计选择是成本边界,而不是特定的审核端点。 对于物流产品来说,这个账本很重要。承运商、仓库运营方和内部支持团队可能都通过同一个图像功能发送提示词,但他们的审核率和提示词大小各不相同
从业者关于隐藏推理成本乘数的论述,附带 DigitalOcean Serverless Inference 的实测数据。跨提供商的模式普遍适用。以下DO特有数字来自在 inference.do-ai.run 上记录的API运行,而非营销宣传。 差距是结构性的,而非账单错误 你在生产环境中的LLM账单
基于LLM的AI功能的因果推断不再是理论问题。Airbnb、Netflix、Lyft和Uber都发布了详细的工程博客文章,精确描述了它们如何衡量产品变更对用户行为的因果影响。 它们提到的技术(双重差分、断点回归、双重稳健估计等)都是标准工具。 有趣的是这些团队如何在规模化生产中落地这些方法:哪些方法
AI智能体在理解数据库之前就获得了数据库访问权限。 这个顺序是错误的。 真实的生成数据库很少是不言自明的。重要的表并不总是命名为 orders 。客户表可能被称为 t_bd_customer 。一个字段可能带有业务关键状态码,只有了解其背后的系统才能理解其含义。数据仓库可能将原始操作数据、清洗后的维