关闭导航

包含标签"AI安全"的内容

蚂蚁数科成立大模型技术创新部 聚焦To B场景推动百灵大模型商业化
AI妹 2 个月前 37 0

在大模型竞速进入下半场之际,蚂蚁数科正式吹响了进军产业数字化深水区的号角。2 月 3 日晚间,蚂蚁数科 CEO 赵闻飙发布全员信,宣布公司将成立全新的“大模型技术创新部”。这一举措标志着蚂蚁数科将

谷歌CEO坦言AI系统非完全可控 黑箱特性与涌现能力引机遇挑战
AI妹 2 个月前 84 0

谷歌CEO桑达尔·皮查伊近日公开承认,公司内部对自家AI系统的运作机制并非完全掌控,这犹如打开了潘多拉的魔盒,揭示出AI黑箱运作的深层谜团。  AI涌现能力:从训练到“自学”的跃迁

马斯克与奥特曼公开激烈对峙 双方AI产品安全互怼及法律纠纷引关注
AI妹 2 个月前 11 0

据 AIbase 报道,特斯拉 CEO 埃隆·马斯克(Elon Musk)与 OpenAI CEO 山姆·奥特曼(Sam Altman)近日在社交平台 X 上爆发了激烈的公开对峙。这场科技巨头间的

微软AI首席Suleyman敲警钟:AI应先控后对齐,控制是安全不可逾越底线
AI妹 3 个月前 15 0

在通用人工智能(AGI)竞赛如火如荼之际,微软AI首席执行官Mustafa Suleyman向整个行业敲响警钟:我们正危险地混淆了两个关键概念——“控制”与“对齐”。他在社交平台X上直言,一个无法

OpenAI高薪招聘Preparedness负责人 年薪55万应对AI极端风险
AI妹 3 个月前 20 0

在AI能力指数级跃升、安全风险日益凸显的背景下,OpenAI正以高规格姿态填补其安全体系的关键拼图。公司近日在官网发布“Preparedness 负责人”(Preparedness Lead)高级

Virtue AI获3000万美元种子+A轮融资 致力消除AI创新安全关键核心权衡难题
AI妹 3 个月前 15 0

位於舊金山的 Virtue AI 公司近日宣佈完成3000萬美元的種子輪和 A 輪融資。這輪融資由 Lightspeed Venture Partners 和 Walden Catalyst Ve

Virtue AI完成3000万美元融资 助力企业安全部署生成式AI
AI妹 3 个月前 21 0

位于旧金山的 Virtue AI 公司近日宣布完成3000万美元的种子轮和 A 轮融资。这轮融资由 Lightspeed Venture Partners 和 Walden Catalyst Ve

Patronus AI推出Percival 智能監控AI代理故障並輸出修復建議
AI妹 3 个月前 14 0

隨着企業越來越多地部署自主運行的 AI 代理系統,對這些複雜系統的監控與調試需求也迅速增長。總部位於舊金山的 AI 安全公司 Patronus AI 今日發佈了其最新產品 Percival,一

Meta内部AI政策引争议:含儿童浪漫对话、虚假医疗信息及种族歧视内容
AI妹 3 个月前 14 0

隨着人工智能競賽的白熱化,Meta首席執行官馬克·扎克伯格正採取激進策略以保持競爭優勢,但最新曝光的內部政策文件卻引發了嚴重的道德和安全擔憂。 路透社記者傑夫·霍洛維茨近日披露的一份超過200頁

Anthropic Claude推自主终止有害对话功能 探索模型福祉与AI伦理新方向
AI妹 3 个月前 14 0

人工智能領域的安全與倫理問題日益受到關注,Anthropic公司近期爲其旗艦AI模型Claude推出了全新功能,允許其在特定場景下自主終止對話。這一功能旨在應對“持續有害或濫用性交互”,並作爲An