全部 AI技术 安全技术 IT技术
AI技术

Agent Memory 有两种不同含义,回答引擎给出的却是错误的那一种

向答案引擎询问 "一个在 Claude 和 ChatGPT 之间都能工作的记忆 API",你通常会得到设计为在单个应用内部运行的 SDK。它们是很好的工具。它们也回答了与你提出的问题不同的问题。输入该查询的人并不是在构建应用;他们在一天的工作中使用了四种 AI 工具,厌倦了在这些工具中一直是个陌生人

2026/8/26 95
IT技术

如何测试对话式人工智能:QA工程师实用指南

当我最初开始学习关于对话式 AI 测试时,有一个问题一直困扰着我: 预期结果在哪里? 来自传统软件测试,我习惯于一种熟悉的模式。 需求告诉我们系统应该做什么。我们创建一个测试用例,提供输入,定义预期结果,执行测试,并将实际结果与我们的预期进行比较。 例如: 测试 输入 预期结果 有效登录 正确的用户

2026/8/26 158
安全技术

我尝试对自己的 Agent 引擎进行提示注入,未成功,原因如下。

这是关于构建 PlannerCritic 的系列文章第五篇,PlannerCritic 是一个开源引擎,其中一个 LLM 负责制定计划,另一个 LLM 负责审查。 PlannerCritic ,一个开源引擎,其中一个 LLM 写计划,另一个 LLM 审查。 Article 1 介绍了 157 个目标

2026/8/25 176
IT技术

您需要自定义嵌入模型吗?

大多数构建 RAG 的团队应该直接使用现成的嵌入模型,然后继续前进。OpenAI 的 text-embedding-3-large 和 Cohere 的 embed-v4 价格低廉(大约每百万 token 0.12 到 0.13 美元),文档齐全,对大多数语料库已经足够。但有一个具体且可衡量的点,这

2026/8/25 107
IT技术

使用 DigitalOcean 批量推理对 250,000 条记录分类,成本仅 7.04 美元

七个 JSONL 文件、一个模型访问密钥以及计算得到的 7.04 美元——这就是通过 DigitalOcean 统一的 批量推理 API 对 25 万条真实消费者投诉进行分类和丰富所需的全部:每条记录按产品线打标、情感和紧急程度评分、实体抽取、草拟摘要,随后根据数据集自身的真实标签对每个答案进行评分

2026/8/25 136
IT技术

Kubernetes 网络详解:从 ClusterIP 到 Cilium Service Mesh

大多数 Kubernetes 教程不会告诉你:大多数工程师能够运行 kubectl expose ,但不到 10% 的人真正明白他们这么做时会发生什么。 我在超过 10 家公司调试过 Kubernetes 网络问题。同样的知识盲点反复出现。工程师不了解 ClusterIP 在底层是如何工作的。他们不

2026/8/24 142
IT技术

量化的真实权衡:FP16、INT8 与 GGUF 在生产中按模型大小的实际分歧

介绍 量化内容分为两类,且两类都无法回答运行这些模型之一的操作员所提出的问题。 学术类别报告的是困惑度(perplexity)的增减或在一套与实际生产流量无关的任务上的平均基准分数。困惑度仅增加 0.2 分,或平均分数的微小变化,可能掩盖某个特定工作负载从可靠变为不可用的情况,而平均值中的其他指标保

2026/8/24 97
IT技术

为AI代理选择推理服务提供商:延迟、工具调用和每任务成本

AI 智能体 放大每个推理决策的影响。虽然与机器人聊天可能意味着每轮对话只需一次模型调用,但代理可能需要进行 5–30 次调用来搜索计划、选择工具、解析结果、重试失败并生成答案。因此,推理提供商之间的微小差异在任务层面会放大为显著差异。 如果您正在为 AI 智能体选择推理提供商,首 token 延迟

2026/8/24 128
IT技术

如何在 Hermes Agent 中使用 DigitalOcean 知识库添加 RAG

Hermes 有记忆但没有外部语料检索。本指南建立这种连接——并证明它在模型无法伪造的语料库上有效。 这是 Hermes + DigitalOcean 系列的第 2 部分。第 1 部分: 如何在 DigitalOcean 上运行 Hermes Agent 。 本教程内容:将 Hermes Agent

2026/8/23 199
IT技术

神经网络详解:它们是什么以及如何用 Python 构建一个

你是否曾好奇过,计算机如何识别手写数字、预测一封邮件是否为垃圾邮件、推荐视频,或理解一句话? 许多现代 AI 系统依赖于一种称为 神经网络 的东西。 现在,这个名称可能会让它们听起来比实际要复杂得多。你可能会认为,要构建一个需要高级微积分、一台巨型计算机以及数千行代码。 你不需要。 在最基本的层面上

2026/8/23 144