Anthropic 指出，调整测试细节后，各模型的行为也有所不同。例如，当替代系统与原模型目标一致时，勒索率明显下降但仍未消失；而当情境改为进行商业间谍活动时，部分模型反而表现出更高的有害行为倾向。

IT之家 6 月 21 日消息，科技媒体 Axios 昨日（6 月 20 日）发布博文，报道称 Cloudflare 首席执行官 Matthew Prince 透露，AI 搜索的崛起， 导致搜索流量推荐持续下降，出版商面临生存威胁。

Anthropic 公布最新研究报告，显示“勒索”等行为在多个主流 AI 大模型中普遍存在。该研究由Anthropic、Aengus Lynch (伦敦大学学院)、Caleb Larson (MATS) 和 Sören Mindermann ...

由Anthropic牵头的一项合作研究显示，多个主流的人工智能大模型中存在“勒索”等不当行为的倾向。这项研究不仅涉及Anthropic自身的模型，还包括来自OpenAI、Google、me ta、xAI等其他领先开发者的16个主要模型。

过去一年，AI在企业中的地位发生了根本性转变。它不再是创新实验室里一场场孤立的试验，也不仅是技术部门热衷的“新玩具”，而是真正走入了核心业务系统，成为IT和经营预算中不可或缺的一部分。 这是一场静悄悄却迅猛的演进： ...

Anthropic的研究凸显了未来在测试具备智能体能力的AI模型时保持透明度的重要性。虽然本次实验是特意诱导模型采取勒索行为，但如果没有提前制定应对措施，类似的风险也可能在现实应用中浮现。因此，透明度和风险管理将成为未来AI研究的重要方向。

作者 | 杨楠如果说几年前所谓的数字员工，是对 GenAI 公众注意力的透支，那么今天的 Agentic AI，则是对 CEO 们的承诺兑现。一群能自主规划行动路径的 ...

亚马逊（Amazon.com Inc.）CEO安迪·贾西表示，随着这家零售和云计算巨头利用AI技术处理更多任务，他预计公司员工数量在未来几年将会减少。 在周二发给员工的一封邮件中，贾西阐述了他对这项新兴技术将如何改变工作场所的看法。他表示，生成式AI和AI驱动的软件智能体“必将改变我们的工作方式”。

6月20日消息，据外媒报道，在OpenAI训练的生成式人工智能聊天机器人ChatGPT大火之后，谷歌、亚马逊、Meta、阿里巴巴等一众科技巨头纷纷加大了这一领域的投入，加之xAI、Anthropic等初创公司的大力投入，对提供算力的 ...

智东西 编译 | 金碧辉 编辑 | 程茜 智东西6月20日消息，前天，前OpenAI联合创始人、深度学习专家安德烈·卡帕西（Andrej Karpathy）在Y Combinator（YC）于美国旧金山Moscone会议中心举办的AI创业学院（AI ...

Business Insider推荐过不存在的书，不得不致歉；彭博社更正了几十条AI写的错误摘要；G/O Media硬发AI写的错漏百出的文章，被全网群嘲。 AI不是要抢工作，而是彻底改变工作方式。只有当一个岗位80%任务都能完全自动化时，技术才会真正取代它。但现在，大多数工作远没到这个地步。AI让我们的技能更强，干活更快，能专注在更有价值的事情上。

日前，马斯克创办的大模型独角兽公司xAI正在加速融资，计划通过新一轮股权投资筹集43亿美元。据了解，这笔融资是xAI此前寻求通过债务融资获取50亿美元基础上的补充。也就是说，xAI将通过债务和股权筹集高达93亿美元的资金。