1654676814_62a05d4e974fb8f59cbd8

黑客团伙又增“一员”,AI 黑客或很快登场

  • 浏览次数 9561
  • 喜欢 0
  • 评分 12345

人工智能(AI)自出现以来,基础理论、技术手段日趋成熟,应用领域也逐渐扩张,甚至可以假想未来社会,人工智能将成为主角之一,但在评判其发展带来的社会价值时,盲目乐观绝不可取。

回顾 RSA Conference 2021 大会,哈佛大学肯尼迪分校安全技术专家、研究员兼讲师布鲁斯·施奈尔就曾表示,人工智能时代下的黑客攻击会以一种系统设计者无法预料甚至难以想象的方式袭来,破坏整体系统或者冲击其中的一组特定规则。

受疫情影响,网络界“奥斯卡”之称的 RSAC 2022 一直延迟到六月才得举办。今年,施奈尔对于人工智能黑客攻击又有什么新的观点?

1654676814_62a05d4e974fb8f59cbd8

AI 发展带来的利与害

在 RSA Conference 2021 大会上,施奈尔曾表示,如火如荼发展的人工智能技术在给全社会带来巨大收益同时,也有可能引发新一轮的安全冲击。

施奈尔在会上表示,未来的黑客攻击很可能会由某种形式的 AI 主动发起,一旦 AI 系统获得了执行黑客攻击的能力,其运行速度与运行规模都将远超人类的想象,这将极大提高风险检测的难度,即使安全人员能够及时发现,也很难理解 AI 黑客是怎样展开攻势的。

今年的大会上,施奈尔同样着重的讲述了人工智能发展、应用带来的安全风险。

AI 黑客或成现实

在 2022 RSAC 大会的主题演讲中,施奈尔“想象”了人工智能黑客的未来。他表示人工智能将以前所未有的方式入侵人类,给人类带来不可估量的附带损害。

施奈尔强调,人工智能正在成为黑客,虽然目前它们的发展还没有那么好,但是正在变得更好,最终人工智能将超过人类。

至于 AI 怎样进行黑客行为,施奈尔也提出了两个观点。一是人工智能可能被指示入侵一个系统,二是人工智能可能会自然而然地、不经意地入侵一个系统。

众所周知,在人类的语言和思维中,目标和欲望总是不完全明确的,这种情况会导致在我们给指令时不够完全,但是我们了解上下文,能够自行脑补。

对于人工智能来说,施奈尔争辩称,在不给出完整地指定目标时,不能期望人工智能理解上下文,人工智能会跳出框框思考,因为它没有任何框框的概念。

他进一步解释说,人工智能解决问题的方式和人类并不一样,比人类考虑更多可能的解决方案。另外,人工智能不会从价值、规范、影响或背景方面进行思考,走的是我们根本不考虑的道路。

AI 应用广泛,同样带来问题

施奈尔在大会上强调,一直以来,需要知识,运气,手段的黑客攻击都是专属于人类的活动,然而,当人工智能开始黑客攻击时,一切将再次改变。

人工智能将改变黑客攻击的速度、规模和范围,它们将像外星人一样行动。AI 文本生成机器人出现,已经给人类做了预示。

另外,随着人工智能能力的提高,开始应用到社会许多方面,可以看到人工智能可以审核银行贷款,也可以对求职者进行筛选,人工智能已经在可以做出影响人类生活的许多重要决策。不久的将来,社会上将看到更多的重要决定由人工智能来做。

增加人工智能使用意味着对这些系统的攻击变得更具破坏性,也将使网络更加危险。施奈尔警告说,当大量应用人工智能时,社会无法再用现有的工具来管理,黑客攻击将成为难以忽略的问题。

人工智能也可以成为防御利器

施奈尔在演讲中提到,在技术的推动下,人类走向未来会更轻松,但只有整个人类社会主动决定技术在未来时代下所应扮演的角色,我们才能真正享受技术发展带来的福祉。因此,在 AI 全面普及并覆盖整个世界之前,人类必须先用清醒的头脑做出审视与预判。

人工智能不仅可以用来黑客攻击,同样也可以用于防御。施奈尔指出,虽然人工智能黑客可以由进攻方和防守方部署,但最终它偏向于防守方。

如果一家软件公司在自己的代码上部署一个寻找漏洞的人工智能,它将快速的发现和修补漏洞,我们可以想象,在未来,软件漏洞将成为 “过去的事情”。

在去年的 RSAC 大会上,施奈尔就曾表示,软件供应商未来可能会部署更多 AI 工具,由其自主查找代码漏洞并提供修复程序。除此之外,施奈尔还乐观地提到,如果能够实现,这类工具将消除我们今天已知的一切软件漏洞。

演讲最后,施奈尔指出,人类必须思考,当计算机开始做人类的工作时,内在的风险是什么。同样人类需要决定,技术在未来社会发展中应该扮演什么角色,这些都是在黑客开始“接管”世界之前,人类需要弄清楚的事情。

 


转自 FreeBuf,原文链接:https://www.freebuf.com/news/335602.html

封面来源于网络,如有侵权请联系删除