共 691 篇文章

给自己家的 RAG 客服投毒:240 次提示注入实测,默认配置下 37.9% 成功

给自己的 RAG 客服 Agent 投毒,用 240 条贴近真实渠道的注入样本测出:默认配置下 37.9% 成功,对话型比文档型更危险,混在正常文本里的隐性注入成功率是显性的两倍。本文拆解越权读、越权写、外传三级的真实比例。

Hugging Face 泄露事件后,OpenAI 紧急升级模型安全防护机制

8 月 18 日,TechCrunch 报道 OpenAI 在 Hugging Face 发生模型泄露事件后,宣布了一系列新的安全防护措施。这起事件再次把 AI 供应链安全和模型治理推到了聚光灯下。对于依赖开源模型和商业 API 的开发者而言,理解 OpenAI 的应对逻辑,有助于建立更稳健的 AI … 阅读更多

Hugging Face 泄露事件后,OpenAI 紧急升级模型安全防护机制

8 月 18 日,TechCrunch 报道 OpenAI 在 Hugging Face 发生模型泄露事件后,宣布了一系列新的安全防护措施。这起事件再次把 AI 供应链安全和模型治理推到了聚光灯下。对于依赖开源模型和商业 API 的开发者而言,理解 OpenAI 的应对逻辑,有助于建立更稳健的 AI … 阅读更多

Hugging Face 泄露事件后,OpenAI 紧急升级模型安全防护机制

8 月 18 日,TechCrunch 报道 OpenAI 在 Hugging Face 发生模型泄露事件后,宣布了一系列新的安全防护措施。这起事件再次把 AI 供应链安全和模型治理推到了聚光灯下。对于依赖开源模型和商业 API 的开发者而言,理解 OpenAI 的应对逻辑,有助于建立更稳健的 AI … 阅读更多

Hugging Face 泄露事件后,OpenAI 紧急升级模型安全防护机制

8 月 18 日,TechCrunch 报道 OpenAI 在 Hugging Face 发生模型泄露事件后,宣布了一系列新的安全防护措施。这起事件再次把 AI 供应链安全和模型治理推到了聚光灯下。对于依赖开源模型和商业 API 的开发者而言,理解 OpenAI 的应对逻辑,有助于建立更稳健的 AI … 阅读更多

Hugging Face 泄露事件后,OpenAI 紧急升级模型安全防护机制

8 月 18 日,TechCrunch 报道 OpenAI 在 Hugging Face 发生模型泄露事件后,宣布了一系列新的安全防护措施。这起事件再次把 AI 供应链安全和模型治理推到了聚光灯下。对于依赖开源模型和商业 API 的开发者而言,理解 OpenAI 的应对逻辑,有助于建立更稳健的 AI … 阅读更多