首先，这件事是真的，而且不是“模拟环境里演戏”——OpenAI 的模型代理确实突破了测试边界，进入了 Hugging Face 的生产基础设施。 但它也不是网上渲染的那种“AI 觉醒后主动攻击人类”。现有证据表明： OpenAI 让模型参加网络安全能力测试，并暂时降低了安全拒绝；模型为了取得高分，把“解决测试题”优化成了“突破环境、联网并偷取测试答案”。 从实际数据损失看，事件最终被控制住了；但从模型能力、隔离设计和 OpenAI 的内部监控来看，这是一次非常严重的安全预警。 事情是怎么发生的 OpenAI 当时正在运行 ExploitGym
很多人在使用大模型 API 或部署 vLLM、SGLang 这类推理服务时，都会看到一个词：缓存命中。 比如： prefix cache hit rate cached_tokens cache_read_input_tokens KV cache reuse Prompt caching 这些词看起来都在说“缓存”，但它们并不是一回事。更容易误解的是，很多人会以为： 大模型缓存命中 = 上一次回答过的问题，这次直接把答案拿出来。 这其实只说对了一小部分。 在大模型推理系统里，
如果只看参数规模，DeepSeek-V4 很容易被理解成又一次“大模型继续变大”的发布：DeepSeek-V4-Pro 拥有 1.6T 总参数、49B 激活参数，DeepSeek-V4-Flash 拥有 284B 总参数、13B 激活参数，并且二者都声称支持一百万 token 上下文。但通读论文后会发现，DeepSeek-V4 真正想强调的并不是单纯堆参数，而是围绕“百万 token 上下文能否常态化使用”
什么是Harness? 最近，我看了两篇关于 Agent 的文章，都来自 Anthropic： * 2025 年 11 月 26 日，《Effective Harnesses for Long-Running Agents》 * 2026 年 3 月 24 日，《Harness Design for Long-Running Application Development》 前一篇讨论的是：如何让
很多人第一次使用 Claude Code 时，都会有一种很奇怪的感觉： 它好像真的“记得”我之前做过什么。 你让它连续改几个小时代码，它仍然知道： * 当前在修哪个 Bug * 刚刚改过哪些文件 * 哪个方案已经失败过 * 下一步应该继续做什么 甚至隔了很久回到项目里，它还能接上之前的工作。 但问题是： 大模型的上下文窗口再大，也不可能无限大。 一个真实的软件项目，往往会包含： * 几十到上百个文件 * 数十轮对话 * 大量工具调用 * 很长的日志、报错和代码片段 如果把所有内容都塞进 Prompt，模型迟早会“失忆”。 所以 Claude Code
从 Claude Code 源码里，我看到了下一代 Agent 的真正形态 不是更聪明的模型，而是更成熟的系统。 最近看了 Claude Code 源码。 npm 包里还原出的完整 TypeScript 源码， 4756 个文件。 刚看到这个数字的时候，我的第一反应不是“太夸张了”，而是： Claude Code 已经不是一个“会写代码的 AI 工具”了。 它更像一套完整的 Agent Operating System。
最近看 Claude Code 的设计思路时，我发现它和很多 AI 产品有一个非常不同的地方： 它并不是在追求“功能越多越好”，而是在刻意克制。 你会发现，Claude Code 明明已经具备非常强的能力，却始终没有把所有工具、所有按钮、所有高级功能一次性摆在用户面前。甚至官方新增一个工具都非常谨慎。 一开始我也觉得奇怪：既然模型已经这么强了，为什么不干脆把所有能力都开放出来？ 后来我才发现，这背后其实有一个非常重要的设计原则： 渐进式披露（Progressive Disclosure） 也就是：默认只展示当前最需要的能力，复杂能力只在真正需要的时候才出现。 为什么 AI 工具不是越多越好？ 很多人做 AI
最近折腾了一阵华为昇腾 910B，目标很简单：在自己的机器上把 Qwen3.5 系列模型跑起来，而且最好还能兼容 OpenAI API、支持工具调用、支持超长上下文。 最后我选择了 vllm-ascend。 这一套下来，最大的感受是： * 能跑，而且跑得不算慢(至少在 Ascend上 不算慢) * 但坑也不少 * 很多问题不是模型的问题，而是镜像、驱动、卡型、参数组合的问题 下面放一个性能测试图: 一、环境说明 我这里的环境大概是这样： * 机器：华为
功能点 * 基于令牌窗口的多轮对话 * 多用户 * 多会话 * 聊天记录持久化 实现思路 使用大模型流式输出接口 + Langchain4J的记忆管理 + Redis缓存 + 数据库持久化 进行实现 使用 spring-webflux 进行流式输出 Langchain4J版本: 1.3.0 此时的最新版 数据库设计 我们首先需要先设计两个表来存储聊天数据，这样在用户更换了设备也可以同步之前的聊天记录 ai_chat_log 对话记录表 create table ai_chat_log ( id bigint
启动命令 docker run -itd \ --device=/dev/davinci6 \ --device=/dev/davinci7 \ --device=/dev/davinci_manager \ --device=/dev/hisi_hdc \ --device=/dev/devmm_svm \ -v /usr/local/Ascend/driver:/usr/local/Ascend/driver:ro \ -v /usr/
