就在全球 AI 竞赛进入白热化阶段时，诺贝尔奖得主、被誉为“AI 教父”的 杰弗里·辛顿（Geoffrey Hinton） 再次发出沉重警示。他在接受《财富》杂志采访时直言不讳地指出，当前的科技行

随着人工智能进化速度远超行业预期，AI 安全领域的先驱 于美国当地时间 11 日正式宣布成立 Anthropic Institute 智库。这一组织的使命并非研发更强大的模型，而是专门研究并应

在AI能力指数级跃升、安全风险日益凸显的背景下，OpenAI正以高规格姿态填补其安全体系的关键拼图。公司近日在官网发布“Preparedness 负责人”（Preparedness Lead）高级

In recent years, developers have increasingly become the target of cyberattacks within open-source

近年、開発者はますますオープンソースのコンポーネントライブラリを狙ったネットワーク攻撃の対象となっています。ハッカーは偽のソフトウェアパッケージを使用したサプライチェーン攻撃の手法を進化させ続けて

近日，OpenAI 发布公告称，其所使用的第三方网络分析服务提供商 Mixpanel 遭到网络攻击，部分 API 用户数据可能已被泄露。OpenAI 在声明中表示，Mixpanel 的服务

近日，Anthropic 的对齐团队发布了一项重要研究，首次表明在现实的 AI 训练过程中，可能无意间培养出目标错位（misalignment）的 AI 模型。目标错位是指 AI 系统目标与人类设