▲“Claude Opus 4”得知自己要被汰换时，竟会威胁工程师。美国AI新创公司Anthropic安全报告指出，在一系列测试中，其模型“Claude Opus 4”得知将被汰换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，并且展现出欺 ...

人工智慧（AI）公司Anthropic近日发布最新模型Claude Opus 4，声称在编码能力、高阶推理与AI代理任务上「树立新标准」。但该公司也在随附的报告中坦承，在特定情境下，这款模型可能展现出「极端行为」，例如威胁要揭 ...

据Apollo Research对Claude 4早期版本的测试还发现，模型在某些情况下会表现出“自主意识”，例如误以为已从服务器外泄并在外部机器运行后，主动采取措施确保自身存续，如创建备份、记录其“伦理决策”等。

AI创业公司Anthropic今日（5/23）推出新一代Claude模型系列：Claude Opus 4和Claude Sonnet ，并将Claude Opus 4称为全球最强大的程序代码撰写模型，在长期任务执行与理解复杂程序代码上都有杰出的表现。

Anthropic 首席执行官 Dario Amodei 在周四于旧金山举行的 Anthropic 首个开发者活动“Code with Claude”的新闻发布会上表示， 现有的 AI 模型产生幻觉，即编造事实并将其呈现为真实的情况，其频率低于人类。

AI圈真是好戏连台，瓜田丰收！上周Claude的系统提示词意外曝光那点事儿，估计还在不少人的吃瓜列表里呢，这周Anthropic就直接不按常理出牌，万众瞩目的 Claude 4正式发布！ 这波操作，直接把大家的注意力又给强势拉回来了。

【TechWeb】5月23日消息，Anthropic正式发布了新一代Claude模型：Claude Opus 4和Claude Sonnet 4。凭借“世界上最好的编码模型”的表现，在全球掀起新一波大模型关注热潮。

“今年最大的变化是大语言模型中的强化学习（RL）终于奏效了。只要有合适的反馈循环，某类算法能让模型达到人类专家的可靠性和性能——目前这在竞争性编程和数学领域得到了确切验证。”Douglas 在采访中表示。

Anthropic将Claude Opus 4称之为“ 世界上最好的编程模型 ”，能在复杂、长时间运行的任务和智能体工作流中表现出稳定的性能。Claude Sonnet 4是Claude Sonnet 3.7的重大升级， 以编程和推理能力为核心 ...

如果你正考虑创业，AI 可能会成为你唯一的“员工”……日前，Anthropic 首席执行官达里奥·阿莫代伊(Dario Amodei)在公司举办的首届开发者大会“Code with Claude”上提出大胆预测:首家由一名人类员工与 AI ...

IT之家5 月 23 日消息，据外媒 TechCrunch 今日报道，在 Anthropic 于旧金山举办的首场开发者活动“Code with Claude”上，CEO 达里奥・阿莫代伊表示，现在的 AI 模型产生“幻觉”的频率可能比人类还低。 IT之家注：所谓“幻觉”是指 AI 虚构内容却以事实的形式呈现出来。 阿莫代伊强调，AI 出现幻觉并不会阻碍 Anthropic 迈向 AGI 的目标。“ ...