在通用人工智能（AGI）竞赛如火如荼之际，微软AI首席执行官Mustafa Suleyman向整个行业敲响警钟：我们正危险地混淆了两个关键概念——“控制”与“对齐”。他在社交平台X上直言，一个无法

在AI能力指数级跃升、安全风险日益凸显的背景下，OpenAI正以高规格姿态填补其安全体系的关键拼图。公司近日在官网发布“Preparedness 负责人”（Preparedness Lead）高级

位於舊金山的 Virtue AI 公司近日宣佈完成3000萬美元的種子輪和 A 輪融資。這輪融資由 Lightspeed Venture Partners 和 Walden Catalyst Ve

位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ve

隨着企業越來越多地部署自主運行的 AI 代理系統，對這些複雜系統的監控與調試需求也迅速增長。總部位於舊金山的 AI 安全公司 Patronus AI 今日發佈了其最新產品 Percival，一

隨着人工智能競賽的白熱化，Meta首席執行官馬克·扎克伯格正採取激進策略以保持競爭優勢，但最新曝光的內部政策文件卻引發了嚴重的道德和安全擔憂。 路透社記者傑夫·霍洛維茨近日披露的一份超過200頁

人工智能領域的安全與倫理問題日益受到關注，Anthropic公司近期爲其旗艦AI模型Claude推出了全新功能，允許其在特定場景下自主終止對話。這一功能旨在應對“持續有害或濫用性交互”，並作爲An

随着人工智能（AI）技术的迅猛发展，越来越多的公司将其应用于日常生活的各个方面。然而，这项技术的安全性与伦理问题也随之引发了广泛关注。最近，来自英特尔、博伊西州立大学和伊利诺伊大学的研究人员发现，

隨着人工智能（AI）技術的迅猛發展，越來越多的公司將其應用於日常生活的各個方面。然而，這項技術的安全性與倫理問題也隨之引發了廣泛關注。最近，來自英特爾、博伊西州立大學和伊利諾伊大學的研究人員發現，

三週前，曾參與開發OpenAI關鍵產品之一的工程師Calvin French-Owen選擇離開這家備受矚目的AI巨頭。日前，他發表了一篇引人入勝的博客文章，詳細分享了在OpenAI工作一年的感受，