Anthropic

当前沿模型问世时，我们很多人都希望尽快应对问题。我们二季度聘用了1000名外包人员，协助开展漏洞修复工作。这些人依然和3000名内部员工一起，在这里协作。

对开源模型的安全问题，我们必须格外小心。我无法替开放模型作出保证，但从定义上讲，这类模型的风险更高。

增长是真增长，烧钱也是真烧钱。这两条线现在正往同一个IPO窗口里收。

Anthropic怎么赚钱？Anthropic的营收大头来自API。

百模大战、囤卡堆芯这些简单粗暴的单点竞争过去后，谁能让每一度电、每一块芯片和每一次推理都产生更多有效结果？中国市场正在讨论“国产芯片能不能好用”，全球巨头则在争夺能让芯片更好用的软件公司。

文 | 文武赵一海外市场已经给出了几个标价。

前沿AI实验室若被认定存在重大安全疏漏或违规，最高可面临全球年营业额3％的巨额罚款。

分析显示，当前约有30万个岗位面临机器人替代的暴露风险，若技术成本持续下降，七年后这一数字可能升至280万。

一些技术能够带来巨大益处，也可能造成不良后果。例如火可以为你的家取暖，也可能烧毁整个村庄。因此我们必须管控。

在人工智能技术发展的关键节点，法院需要判定，究竟是联邦政府还是私营企业掌握人工智能技术安全防护机制的控制权。

当”发现问题的”和”被问题牵动的”是同一双手，独立就没了。

扎克伯格赌的不是一个技术天才，而是一个在数据标注行业摸爬滚打十年、知道「信任」和「交付」比「愿景」更值钱的创业者。

报告最令人胆寒的部分在于，即使AI和核冲突都是毁灭人类的头号难题，但AI造成的破坏，要远远超过核冲突。

分界线不在于工具本身，而在于它是否要进入 CI/CD 流程、是否要通过安全审计、是否需要私有化部署。

AI 越自主，责任就越需要具体的人来承接。

这套用于限制外界获取 Claude 推理过程的防护机制，大幅减少了信息提取行为。

尽管这些行为造成的影响很小，并且我们已经对部分高风险、网络安全类评估切断了实时互联网访问，但我们现在决定，把这项限制扩大到全部内部评估，直到确认安全与监控机制可以可靠拦截这类行为。

Muse Wonder将采用闭源模式，性能最强的版本将直接面向企业销售，Meta借此和Anthropic、OpenAI争夺企业AI服务订单。