新闻动态
新闻资讯
最新的大模型安全动态、研究成果和技术更新
研究成果2025-12-05
北大、智源联合国际顶尖机构发布全球首个AI 欺骗系统性报告，敲响前沿系统安全警钟
由北京大学、智源研究院联合斯坦福、牛津等国际顶尖机构发布的报告《AI Deception: Risks, Dynamics, and Controls》，系统性地探讨了人工智能在演进过程中产生的"欺骗"倾向。
阅读更多
社区活动2025-06-02
2025智源大会议程公开｜AI安全论坛
2025 年智源大会"AI 安全论坛"由智源研究院前理事长张宏江主持，汇聚国内外顶尖学者。论坛聚焦超级智能安全、AI 红线测评及技术缓解手段，深入探讨 CBRN 高风险场景欺骗等议题，通过智源搭建的平台为智能时代风险提供治理策略。
阅读更多
行业动态2024-09-19
签署《AI安全国际对话威尼斯共识》 智源持续推动人工智能安全发展
图灵奖得主 Yoshua Bengio、姚期智等在威尼斯达成《威尼斯共识》，智源研究院创始理事长张宏江等作为签署人，共同呼吁将 AI 安全视为全球公共产品。智源持续推动国际协同，建议各国设立监测部门并建立监管机制，以防范高级智能带来的灾难性风险。
阅读更多
行业动态2024-03-19
Hinton、Bengio等签署共识：北京AI安全国际对话收官，搭建中外AI安全合作平台
2024 年 3 月，由智源研究院发起的"北京 AI 安全国际对话"促成 Hinton 等专家签署《北京 AI 安全国际共识》。对话明确了 AI 风险红线与治理路线，强调全球协同的重要性。智源通过搭建中外合作平台，推动了中国深度参与全球 AI 安全治理。
阅读更多