周四，Anthropic 宣布推出 Citations（引用）功能，这是一项新的 API 特性，通过将回答直接链接到源文档，帮助 Claude 模型避免捏造信息（也称为幻觉）。该功能允许开发者向 Claude ...

【CSDN 编者按】在人工智能领域，Anthropic 无疑是一个备受瞩目的名字，尤其是他们开发的 Claude 模型，被视为 OpenAI ChatGPT 的有力竞争者。然而，进入这样一家顶尖公司并非易事。本文作者分享了自己在 Anthropic ...

据报道，OpenAI发布事故报告指出，当前遭遇GPT-4o和4o-mini模型性能下降问题，目前正在进行调查，并将尽快发布最新消息。科研人员创新性地推出了一项名为LONGPROC的基准测试工具，该工具专为评估模型在处理长上下文中的复杂信息并生成相应回 ...

自动化评估中有10,000个越狱提示，许多当前大语言模型被「攻破」。在基准条件下，没有防御性分类器时，Claude只成功阻止了14%的高级越狱尝试；Claude用新方法防护后，阻止了超过95%的越狱尝试。

2 月 13 日，CEO Sam Altman 表示，OpenAI 计划将其 Orion 大语言模型作为 GPT-4.5 发布 —— 这是一个传统的、非推理模型。之后，则会把 GPT 模型和 o 系列推理模型合并为一个单一的 AI。

近日，科技公司Anthropic推出了一种新型AI模型防护方法，并为此设立了高达2万美元的奖励，引发了广泛关注。这一新方法旨在有效阻挡AI系统尤其是大语言模型（LLM）中的越狱行为，解决了当前AI应用中安全性亟待提升的问题。

近日，人工智能 (AI)领域传来两则重磅消息。首先，Anthropic即将在不久的未来发布其全新的“混合AI”模型Claude ...

Schulman 是去年众多从 OpenAI 离职的高层之一，其他知名专家包括首席技术官 Mira Murato、首席科学家 Ilya Sutskever。Jan Leike 是前 OpenAI 超级对齐小组的联合负责人，该小组致力于让其 AI ...

也就是说，在超过一半的情况下，AI并未取代人类完成任务，而是与人类协作，参与诸如验证（例如核对用户的工作）、学习（例如帮助用户获取新知识和技能）以及任务迭代（例如帮助用户进行头脑风暴或执行重复的生成性任务）等工作。

当地时间2月10日，Anthropic发布新报告，深入剖析了各行业的AI使用情况。该研究基于数百万次匿名对话，发现AI在软件开发等领域广泛应用，但在体力劳动密集型行业使用率较低。工资处于中高水平的特定职业，如计算机程序员和文案撰稿人，是AI使用率最高 ...

品玩2月5日讯，据 VentureBeat 报道，Anthropic 近日发布一款全新的工具，Constitutional classifiers，该工具号称可以阻止 95% 的大模型越狱问题，防止 AI 模型生成有害内容。 据 Anthropic 表示，Constitutional classifiers 能过滤 “绝大多数 ”针对其顶级模型 Claude 3.5 Sonnet ...

英国政府和 Anthropic 计划通过后者的 Claude AI 模型 改善英国公民采用在线访问政府信息和服务并与之互动的方式 。此外 Anthropic 的 AI 也将助力英国的科学与经济发展，为未来的数字基础设施保驾护航。