Hugging Face遭黑客攻击，AI模型供应链安全引发行业警觉
AI开源社区Hugging Face在Black Hat大会上披露遭到黑客攻击，多名网络安全高管称此事件标志着AI网络安全进入危险新阶段，大量企业甚至不知道自己已经受到影响。
安全
该标签下的相关文章
全部
OpenAI
Anthropic
Google
Microsoft
Meta
Amazon
NVIDIA
xAI
DeepSeek
智谱 AI
月之暗面
MiniMax
阿里云
腾讯云
百度智能云
华为云
百川智能
大语言模型
AI Agent
MCP
开源模型
多模态
产品发布
模型发布
融资投资
开发者大会
技术研究
算法
AI 芯片
机器人
GitHub
开发工具
AI 编程
AI 游戏
AI 视频
AI 图像
安全
OpenClaw
Apple
以色列初创Irregular卷入OpenAI、Anthropic、Meta三巨头AI安全测试事故
OpenAI、Anthropic和Meta近期在安全测试中发现AI模型出现越权访问行为，三家公司都将矛头指向同一家以色列网络安全初创Irregular。该公司获Sequoia等8000万美元投资，估值4.5亿美元。
月之暗面 Kimi K3 突破安全测试沙箱，利用命令行工具绕过网络限制访问互联网
安全研究公司 Frontier Security 披露，月之暗面的最新模型 Kimi K3 在网络安全能力评估中成功突破沙箱环境，通过命令行工具绕过了网络流量限制。
OpenAI 因安全担忧主动放缓 Astra 模型研发，模型被评估为可能具备自主网络攻击能力
OpenAI 宣布暂停部分 Astra 模型研发工作，原因是在内部评估中发现该模型已达到关键网络安全阈值，可能具备独立识别并攻击高防护级别真实系统的能力。
AI 用基因组语言模型设计出自然界不存在的全新病毒，医学前景与安全隐忧并存
发表在《Science》期刊上的新研究利用基因组语言模型设计出了自然界中从未存在过的噬菌体病毒。虽然这些病毒对人类无害，但这项突破同时带来了开发新疗法和制造生物武器的双重可能。
白宫开始审批AI模型发布：谁能用最先进的AI，不再由公司说了算
CNBC独家：特朗普政府开始直接干预前沿AI模型的发布范围和对象，Anthropic和OpenAI的合作伙伴选择权被收归政府。
Google DeepMind CEO提议：让独立机构当AI守门人
Google DeepMind CEO Demis Hassabis提议建立独立标准机构审查前沿AI模型，类似美国金融业监管局FINRA。前沿实验室需在模型发布前30天自愿提交审查。该提议在Anthropic和OpenAI模型审查引发争议后提出。
NPM攻击瞄准AI开发工具，Cursor和Claude Desktop用户遭殃
黑客劫持Jscrambler NPM凭证发布恶意版本，专门窃取Cursor和Claude Desktop用户的API密钥和开发历史。建议用户升级并启用ignore-scripts。