周四，Anthropic 宣布推出 Citations（引用）功能，这是一项新的 API 特性，通过将回答直接链接到源文档，帮助 Claude 模型避免捏造信息（也称为幻觉）。该功能允许开发者向 Claude ...

【CSDN 编者按】在人工智能领域，Anthropic 无疑是一个备受瞩目的名字，尤其是他们开发的 Claude 模型，被视为 OpenAI ChatGPT 的有力竞争者。然而，进入这样一家顶尖公司并非易事。本文作者分享了自己在 Anthropic ...

据报道，OpenAI发布事故报告指出，当前遭遇GPT-4o和4o-mini模型性能下降问题，目前正在进行调查，并将尽快发布最新消息。科研人员创新性地推出了一项名为LONGPROC的基准测试工具，该工具专为评估模型在处理长上下文中的复杂信息并生成相应回 ...

自动化评估中有10,000个越狱提示，许多当前大语言模型被「攻破」。在基准条件下，没有防御性分类器时，Claude只成功阻止了14%的高级越狱尝试；Claude用新方法防护后，阻止了超过95%的越狱尝试。

2 月 13 日，CEO Sam Altman 表示，OpenAI 计划将其 Orion 大语言模型作为 GPT-4.5 发布 —— 这是一个传统的、非推理模型。之后，则会把 GPT 模型和 o 系列推理模型合并为一个单一的 AI。

近日，科技公司Anthropic推出了一种新型AI模型防护方法，并为此设立了高达2万美元的奖励，引发了广泛关注。这一新方法旨在有效阻挡AI系统尤其是大语言模型（LLM）中的越狱行为，解决了当前AI应用中安全性亟待提升的问题。

人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。

近日，人工智能 (AI)领域传来两则重磅消息。首先，Anthropic即将在不久的未来发布其全新的“混合AI”模型Claude ...

【新智元导读】 据悉，Anthropic本周会提前放出Claude 4？并且，一份38页Anthropic经济指数报告放出，结论是43%的人类工作正在被自动化！一个有趣的现象是：低薪和高薪职业中，AI使用率都很低。

当地时间2月10日，Anthropic发布新报告，深入剖析了各行业的AI使用情况。该研究基于数百万次匿名对话，发现AI在软件开发等领域广泛应用，但在体力劳动密集型行业使用率较低。工资处于中高水平的特定职业，如计算机程序员和文案撰稿人，是AI使用率最高 ...

混合AI模型：Anthropic的新模型能够将传统大语言模型和推理能力结合，根据任务的复杂程度在快速响应和深度推理之间切换。开发者可以通过滑动条 ...

巴黎AI峰会，美国副总统万斯直言「AI发展，美国优先」，不接受任何国家的强加监管，拒签70多个国家和组织参与的「AI宣言」。欧洲「背水一战」，斥资2000亿欧元加码AI竞赛。