微软首次推出 Counterfit 以实现人工智能安全自动化

微软首次推出 Counterfit 以实现人工智能安全自动化

随着复杂攻击数量不断增加,Microsoft 越来越关注网络安全,因此该公司正在研究解决方案以支持其服务。随着我们进入由人工智能驱动的创新技术时代,保护人工智能变得至关重要。考虑到这一点,微软正在推出一款名为 Counterfit的新工具。

Counterfit 是一种新的开源解决方案,微软将使用它来自动化跨 AI 系统的安全测试。组织可以利用该工具获得跨人工智能服务的安全洞察和保护。

微软表示,该项目源于客户的反馈。具体而言,该公司调查了 28 家组织,发现 25 家认为他们的 AI 安全性不够强大。他们需要更多工具来帮助他们的 IT 管理员更好地保护 AI 系统。

在一篇宣布 Counterfit 的博客文章中,微软解释了它如何使用该工具在内部实现人工智能安全自动化

“今天,我们经常使用 Counterfit 作为我们 AI 红队运营的一部分。我们发现自动化MITRE 的对抗性机器学习威胁矩阵中的技术并针对 Microsoft 自己的生产 AI 服务重放它们以主动扫描特定于 AI 的漏洞很有帮助。Counterfit 也在 AI 开发阶段进行试点,以在 AI 系统中的漏洞投入生产之前捕获它们。”

好处

虽然 Microsoft Counterfit 有几个好处,但它依赖于三个核心的灵活目标:

  1. “Counterfit 与环境无关——它可以帮助评估托管在任何云环境、本地或边缘的 AI 模型。
  2. Counterfit 与模型无关——该工具抽象了其 AI 模型的内部工作原理,以便安全专业人员可以专注于安全评估。
  3. Counterfit 致力于成为数据不可知论者——它适用于使用文本、图像或通用输入的 AI 模型。”

微软表示,新工具易于推出,易于使用,适合拥有 Metasploit 或 PowerShell Empyre 的 IT 团队。如果您想了解有关 Counterfit 的更多信息以及如何在整个组织中进行部署,请在此处查看官方 GitHub 页面。

资源来自互联网:表盘吧 » 微软首次推出 Counterfit 以实现人工智能安全自动化
微信公众号:逸凡生活界
分享与智能手表有关的资讯
9466652314人已关注
分享到:
赞(0) 觉得文章有用就打赏一下文章作者!!

找乐子!抢沙发

  • 昵称 (必填)
  • (邮箱) (必填)
  • (网址)

表示一下诚意

支付宝扫一扫打赏

微信扫一扫打赏