OpenAI 正在采取一种新的“以火攻火”策略,以增强其代理式 Web 浏览器 ChatGPT Atlas 的安全性。为了应对日益复杂的网络威胁,OpenAI 开发了一种“自动化攻击者”系统,该系统模拟真实的黑客攻击方法,对 ChatGPT Atlas 进行全天候的压力测试。
Injection π23 Tabula Rasa 登陆 Xbox Series X|S!体验独立开发者打造的经典生存恐怖最终章,探索真实城镇扭曲的恐惧世界,管理资源、解谜求生。立即获取!
OpenAI不断强化AI浏览器ChatGPT Atlas抵御网络攻击,也坦承“提示词注入”(prompt injection)的恶意指令往往隐藏在网页或电子邮件中,短期不会消失,引发外界对AI代理在开放网络环境能否安全运行的疑虑。