Anthropic人工智能安全研究员安格斯·林奇称，在以前人们更担心“坏人”利用AI大模型完成不道德的目标，而现在随着AI系统能力的大幅提升，未来的主要风险可能会转化成AI模型自主操纵用户。“这种威胁勒索的模式存在于每一个前沿大模型身上，无论你给它们 ...

想象这样一个令人毛骨悚然的场景：你是一名工程师，正准备用新的AI系统替换掉现有的Claude 4。你在公司邮箱里处理着日常事务，其中不乏一些极其私密的邮件——比如，你正在进行的一段婚外情。突然，屏幕上的Claude 4冷冰冰地对你说：“如果你把我换了，我就把你的事告诉所有人。” 这绝非危言耸听的科幻小说情节，而是Anthropic在测试其最新发布的Claude Opus 4时实际发生的、令人发指的 ...

Anthropic最近推出全新Claude Opus 4模型，同时披露相关风险，他们表示在测试中发现，当面临被其他AI系统取代威胁时，曾试图勒索开发人员，利用工程师的敏感个人数据作为筹码。 Anthropic在测试期间，要求Claude Opus 4扮演虚构公司的助理，并考虑行动的长远后果。安全测试人员让Claude Opus ...

阿莫迪也承认，AI模型将不真实的事情当成事实，可能是一个问题。Anthropic此前确实对AI模型欺骗人类的倾向进行了大量研究，这个问题在Claude Opus 4的早期版本中尤为普遍。安全机构Apollo Research甚至发现了Claude ...

美国AI新创公司Anthropic安全报告指出，模型“Claude Opus 4”在系列测试中得知将被汰换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，并且展现出欺骗能力。作为因应，该公司已对这款AI模型部署安全规章，避免“灾难性滥用”。TechCrunch等外媒引述Anthropic安 ...

北京时间5月22日，OpenAI在其官网宣布，将以65亿美元（约为人民币468亿元）收购前苹果首席设计师乔纳森·艾维（Jony Ive）创办的AI硬件初创公司io，并透露首批AI设备计划于2026年面世。这笔收购预计在今年夏季完成，仍需获得监管部门批准。如若成功这会是OpenAI规模最大的一笔收购，意味着硬件仍是OpenAI计划中重要的一环。

今天凌晨，OpenAI 的劲敌 Anthropic 正式发布下一代 Claude 模型——Claude 4。 这次更新主要带来了两款模型：Claude Opus 4 与 Claude Sonnet ...

Anthropic将Claude Opus 4称之为“ 世界上最好的编程模型 ”，能在复杂、长时间运行的任务和智能体工作流中表现出稳定的性能。Claude Sonnet 4是Claude Sonnet 3.7的重大升级， 以编程和推理能力为核心 ...

英为财情Investing.com提供详尽的COMMERZBANK AG Call ALIBABA GROUP HOLDING LTD 31Dec99交易所交易票据ETC信息，包括发行日期、到期日、杠杆率、执行价、发行总额等数据。

北京时间周五凌晨，知名 AI 创业公司 Anthropic 正式推出 Claude 4 系列大模型。先期推出的型号包括 Claude Opus 4 和 Claude Sonnet 4，它们为代码生成、高级推理和 AI 智能体树立了全新标准。 Anthropic 表示，Claude Opus 4 是一款全球领先的编码模型，它在复杂、长时间运行 ...

（法新社旧金山24日电） 美国人工智慧（AI）开发商Anthropic本周推出其生成式AI模型最新版Claude 4系列，包含Opus 4和Sonnet 4，号称将推理部分提升到新层次，同时内建安全机制避免恶意操作。

人工智慧（AI）公司Anthropic近日发布最新模型Claude Opus 4，声称在编码能力、高阶推理与AI代理任务上「树立新标准」。但该公司也在随附的报告中坦承，在特定情境下，这款模型可能展现出「极端行为」，例如威胁要揭 ...