OpenAI

我不觉得我们比他国威胁者更聪明。我们只是三个拥有 Claude 和 Codex 订阅的人。

该框架允许员工在模型生命周期内标记潜在问题，并由技术人员对事件进行标注和分类。

该服务并非“AI律师”，主要服务于律师和法律软件公司，帮助其区分法院判决中的核心裁判理由与附带评论，寻找不利判例，分析合同条款如何分配风险等，从而在庭审中提高案件胜诉率。

这起案件是版权持有人针对 AI 公司提起的数十起诉讼中最受关注的案件之一。

如何识别这类跨任务、跨模型传递的异常指令，以及如何确保监控机制本身能够发现模型试图隐藏的问题，仍是 AI 安全研究需要进一步解决的问题。

吴恩达表示，AI确实存在风险，包括网络安全方面的风险，但有关AI导致人类灭绝的担忧“更像是科幻小说，而非科学”。

该研究所的成立反映出AI行业正在试图将AGI的讨论从实验室内部扩展到更广泛的公共领域。

随着能力日益增强的AI模型学会隐藏自身的不对齐行为，检测难度正在不断上升。

最新解封的法庭文件显示，微软内部曾将OpenAI的数据抓取行为称为“窃取”，与此同时两家公司都在抓取《纽约时报》的付费墙内容并据此构建数据集。

部分OpenAI研究人员认为，继软件工程之后，数学是大模型最自然的下一块试验场。

员工此前处理过的跨职业任务，占具体职业类 AI 活动的比例从 4 月的 13.1％ 升至 7 月的 25.9％。这说明，一部分跨界任务并没有停留在尝鲜阶段，而是逐渐进入日常工作流程。

Leffen 表示，GPT-6 Astra 的“Extra High”版本大约花费 10 小时处理这一问题，期间完成了从检索历史档案、比对存在疑问的字符，到构建恩尼格玛模拟器、编写密码分析代码、并行开展实验、测试不同密钥以及交叉验证结果等一系列工作。

一家被 OpenAI 模型攻破的公司，最终被主张“不需要新法律”的一方买下。

在专家主导的测试中，该模型发现了浏览器和操作系统内核中此前未知的漏洞，并构建了可用的漏洞利用程序。

具身智能是复杂系统工程，很难靠单家企业打通全链条。

OpenAI表示，行业尚未充分解决对齐与监控问题，已无法继续以最快速度且安稳地扩大AI规模。

皮特曼还下令两家公司在当地时间9月17日中午之前对OpenAI的动议作出回应。

你不能拥有所有控制权，然后又期待像放弃控制权一样获得可信度。