标签: 人工智能

美国正利用人工智能程序破解密码获取重要数据

美国史蒂文斯理工学院(Stevens Institute of Technology)开发了一个所谓的生成式对抗网络,可以对你所使用的密码进行合理猜测,准确率达到四分之一。他们的基本理念非常简单:让一个神经网络构建一个东西,然后由另外一个神经网络判定其质量。 这个概念是由伊恩·古德菲洛(Ian Goodfellow)发明的,他曾经入选《麻省理工科技评论》评选的 2017 年 “ 35 岁以下 35 名优秀创新者 ” 榜单,但他本人并未参与该项目。史蒂文斯理工学院的团队让一个人工智能程序利用数千万个泄露的密码来学习如何生成新密码,再让另外一个人工智能程序学习如何判断新生成的密码是否有吸引力。 将实际结果与网上泄露的 LinkedIn 登录数据进行比对后发现,人工智能生成的密码有 12% 与真实密码匹配。当研究人员从 hashCat 软件工具那里获得一些人类制作的规则,并将其加入到人工智能系统后,便可猜测 27% 的密码——比单纯使用 hashCat 高出 24%。 虽然这项技术还处于初期,但这却是生成式对抗网络首次用于破解密码。另外,只要能够获取更多数据,这项技术似乎的确能获得快于传统方法的改进速度。但无论如何,这似乎都是个坏消息,因为不法分子可能利用这项技术来发动网络攻击。 稿源:cnBeta、新浪科技,封面源自网络;

美国 CIA 正开发多个人工智能项目收集社交媒体情报

据外媒 9 月 11 日报道,美国中央情报局( CIA )正通过开发人工智能程序访问、收集与检索社交媒体情报。 美国 CIA 技术开发副主任 Dawn Meyerriecks 在情报与国家安全峰会上发表声明,宣称该机构目前正开展逾 137 个不同人工智能项目作为未来发展计划的一部分,其中多数由硅谷科技公司与 CIA 开发人员共同创建。 由于数据分析的不断发展,人工智能开始走进社交媒体平台,旨在通过公共记录收集目标用户重要信息。虽然从社交媒体收集数据的行为绝非新鲜事件,但利用人工智能做到这一点却有所不同,因为就单单收集数据的数量与速度来说较其他技术有所提高。 目前,尚不清楚 CIA 监控目标是谁,也不了解他们想要什么,以及用户公共资料被审查程度。不过,根据美国国防部的一份报告显示,CIA 运行的 137 个项目中,AI 可以根据数据与相关事件预测未来事件并自动标记视频,以便分析人员日后查看。国家地理空间情报局局长 Robert Cardillo 表示:“ 人工智能似乎是一个自然而然的进展,如果我们手动操作,预计未来 20 年的卫星图像将需要八百万分析人员共同进行。另外,我们希望人工智能能够将分析人员 75% 的工作量进行自动化处理 ”。 原作者:Immanuel Jotham,编译:青楚 本文由 HackerNews.cc 翻译整理,封面来源于网络; 转载请注明“转自 HackerNews.cc ” 并附上原文链接。

智能语音助手还敌不过一次小小的 “ 海豚攻击 ”?

自从人工智能成为新的风口之后,如今就变成了 “ 张口即来 ” 的时代。苹果的 Siri、Google Assistant、亚马逊的 Alexa、微软的 Cortana,甚至三星、小米和华为,都迫不及待地要上台好好比一比。 不过虽然动动嘴就能下指令让 “ 助手们 ” 帮你完成一切是挺好的,但这事却没那么简单。近期,来自浙江大学的研究团队就发现,如今市场上的热门智能语音助手都或多或少存在着一些安全漏洞,只要运用一个小小的技巧,就可以轻易地 “ 黑 ” 进去控制它们。 他们把这个小技巧命名为 “ 海豚攻击 ”(The DolphinAttack),只要将特殊的语音指令转换为类似于海豚的超声波,便可以在人类无法感知的情况下对智能语音助手下指令,实现 “ 隐形 ” 的操纵。 在测试中,研究人员不用像平时一样使用 “ Hey Siri ” 或者 “ Okay Google ” 唤醒智能语音助手,他们只要在一台智能手机上安装一个微型的话筒和扩音器,便可以采用 “ 海豚攻击 ” 对指令进行重新编码,然后就能偷偷地让你的 iPhone 拨号,让你的 MacBook 打开一个恶意网站,或者让你的亚马逊 Echo “ 敞开后门 ”。就连搭载了智能语音助手的奥迪 Q3,也能被控制着重新给自己的导航系统定位。 研究团队从理论上来说,只要了解了这个原理,稍微懂一些相关知识的人都可以完成这个 “ 攻击 ”。 在大部分情况下,这种 “ 攻击 ” 仅能在距离很近的范围内实现,因此一般对远处放置的智能语音音箱来说,要通过这种方式进行控制稍微有点难度。不过对于如今能够随身携带的各类智能手表、手机等设备来说,攻击者要想“黑”进去就比较容易了。 比如说攻击者可以在人群中使用手机播放一段人耳听不到的超声波指令,那么周边的设备就很容易被这种指令所 “ 劫持 ”,去完成攻击者所下达的命令。 根据这支来自浙大的团队近期发表的论文,如今市面上包括 Siri、Alexa、Google Assistant 等在内的主流智能语音助手,都可以捕捉到超过 20kHz 的声波。但对于人耳来说,20 kHz 却是一个临界值。 为什么这些公司宁可留着这么一个漏洞也不考虑提高一下产品的安全等级呢?这就不得不提到到产品的易用性了。 首先,为了能更好地 “ 理解 ” 用户下达的指令,这些语音助手们实际上需要尽可能多地捕捉各种语音信息——包括人耳可以接收到的声音以及人类听不到的各种音频。如果为了提高安全性而减少它们能接收的声音范围的话,这些语音助手可能就没法那么“ 智能 ” 了。 其次,很多公司为了给智能语音助手创造更多的使用场景,已经在各种设备互联中使用了超声波连接。比如说亚马逊可以自动下单的 Dash Button 和手机的连接,大概使用的音频在 18 kHz 左右。对于普通用户来说,他们基本感知不到这种被 “ 隐形化 ” 的连接声音,因此才能获得一种类似魔法般的使用体验。 正因为如此,这种 “ 用户友好型 ” 的设计和数据信息安全越来越成为一种悖论般的存在。来自非营利性机构 SimplySecure 的设计总监 Ame Elliott 表示:我认为硅谷方面在关于产品会不会被滥用还存在很多盲点,很多时候产品规划和设计并不如想象中那么完善。语音控制系统显然很难去保障安全,这方面应该提高警惕。 目前,还是有一些措施可以防范类似于 “ 海豚攻击 ” 的行为。比如说关闭 Siri 和 Google Assistant 的常开装置,这样黑客就没办法通过这种方式侵入你的手机了;而对于亚马逊和 Google Home 这样的智能音箱来说,它们本身就有可以静音的设置。 不过如今这些保护措施还是处于“用户自我防范”的状态,各大厂商们会对此采取什么防范措施,仍然是个未知数。 稿源:凤凰科技,封面源自网络;

特斯拉 CEO 马斯克:全球人工智能或将引发第三次世界大战

据 CNBC  9 月 4 日报道,特斯拉和 SpaceX 首席执行官埃隆·马斯克警告称,人工智能可能引发第三次世界大战。马斯克的上述表态是对俄罗斯总统普京说法的回应。普京于 9 月 1 日表示,全球人工智能领域的领头羊将“成为世界的主宰者”。 马斯克于 4 日发表博文称,“中国、俄罗斯等国家的计算机科学非常强大。我认为,在国家层面的人工智能优势争夺,极有可能成为第三次世界大战的起因 ”。普京表示,人工智能的发展带来了 “ 巨大的机遇 ” 和 “ 难以预测的威胁 ”。 目前,美国通常被认为在人工智能领域具有领先优势,谷歌、微软等科技巨头在人工智能研发项目上投入了巨额资金。但高盛上周发表报告称,中国在人工智能领域可能赶超美国。此外,企业圈一直非常支持马斯克对人工智能的看法。上个月,马斯克与多名人工智能领域大腕联名签署一封公开信,呼吁联合国禁止使用杀人机器人。马斯克甚至认为,人工智能技术带来的威胁甚至大于与朝鲜的核冲突。因此,发动战争的可能是人工智能而非国家领导人。 稿源:cnBeta、凤凰科技,封面源自网络;

特斯拉 CEO 马斯克表示:AI 安全问题要比朝鲜攻击更加危险

据外媒报道,看起来特斯拉、SpaceX CEO 马斯克对人工智能(AI)的出现并不感到乐观。近日,他在 Twitter 上发布的一条推文中表示,AI 的安全问题甚至比朝鲜要危险得多。 另外他附上了一张忧心忡忡的女性海报,上面写着:“ 最后,机器会赢 ”。机器会赢?看起来确实这样,看看手机就知道了,许多人似乎都已经成为了它的奴隶。 马斯克还称:“没有人喜欢被管制,但所有对公众来说有危险的东西(汽车、飞机、食品、药物等)都要被监管。AI 亦是如此。”他在上个月的全国州长协会会议提出了这一观点。此外,马斯克还在 Twitter 提到了 Open AI 公司开发的机器人打败著名《 Dota 2 》职业玩家一事。据悉,马斯克是非营利性组织 Open AI 的创始人,他希望借此能找到打败机器人的方法。 马斯克认为,AI 确实已经成为了一个迫在眉睫的威胁。他在 Twitter 写道:“认识 AI 危险最大的障碍是那些对自己(开发)智能深信不疑的人,他们无法想象其他人在做他们不能做的事情。” 稿源:cnBeta,封面源自网络;

科学家正在使用 Wi-Fi 和人工智能来确定人类情绪状态

据外媒报道, 麻省理工学院的科学家正在使用 Wi-Fi 和人工智能(AI)来确定人类的情绪状态。他们已经创建了一种算法,可以通过反弹射频(RF)信号来检测和测量人类心率。与算法相结合的射频信号发射器的工作方式与心电监测仪类似。 这是使用我们目前在家用路由器中采用的相同技术完成的。其中最显着的部分是机器学习可以进入科学家们所说的 EQ Radio。人工智能接收的信息必须与标准心电监测仪不同的处理方式进行处理。EQ Radio 设备在接收这些反弹的射频信号后,就会使用特殊的算法,在分析讯号之后就能推测人们的心率状态。 正如科学家指出的那样,这种技术可以做的不仅仅是利用人们的心率来确定情绪状态:“我们设想,这一结果为在情感认知情景下和非侵入性健康监测和诊断的情景下了解心跳形态的研究铺平了道路。” 稿源:cnBeta.com,封面源自网络

霍金建议组建“世界政府”防御 AI 崛起

据外媒报道,著名理论物理学家史蒂芬·霍金( Stephen Hawking )最近一直在谈论一个主题:人类的未来。 近期,霍金对从地外生命到人工智能(AI)等一些热门话题表达了自己的观点。对于后者,他表示出非常担忧。他并不反对开发人工智能技术,事实上,他曾经说过人工智能可能是我们文明历史上最重大的事件。但是像今天世界上其他许多科学家和思想家一样,霍金担心人工智能的崛起可能带来各种负面的副作用。 他早已就人工智能对中产阶级工作岗位的影响向我们发出了警告,并与特斯拉 CEO 埃隆·马斯克(Elon Musk)一起,呼吁禁止开发用于军事用途的人工智能机器人。他也担心人工智能可能会接管世界,或者更糟糕的是,它会终止这个世界。现在,他在接受英国《泰晤士报》采访时表示,防御人工智能崛起的最好方式,是组建可以控制这种技术的“某种形式的世界政府”。 霍金接着解释了他建立这样一家国际管理机构的理由: 自人类文明开始以来,人类的积极进取是有益的,因为它具有明确的生存优势。它是在达尔文进化过程中渗透到我们人类基因的。然而,现在技术的发展速度,使这种积极进取可能以核战争或生物战争的方式摧毁我们人类。我们需要利用逻辑和理性来控制这种继承下来的本能。 为了跟上人工智能的发展,我们必须学会适应。霍金在 2014 年年底表示:“人工智能的发展可能会导致人类的终结。它将自己发展自己,并以不断增长的速度重新设计自己。人类则受到缓慢的生物进化限制,将无法与它竞争,并最终将被它取代。” 他认为这些人工智能机器人抛弃我们,不会是出于任何情感的原因:“人工智能的真正风险不是它有恶意,而是它的能力。一个有超常智慧的人工智能能将非常善于实现目标,如果那些目标与我们的目标不一致,那我们就麻烦了。” 因此,根据霍金的看法,某种形式的管理机构和快速适应的能力——这是即将到来的人工智能或超级智能时代我们生存的法宝。 幸运的是,这样的机构已经出现。这些机构,例如“人工智能伙伴关系” (Partnership on AI) 和人工智能伦理与治理基金 (Ethics and Governance of Artificial Intelligence Fund),已经开始制定有关指导方针或框架,以让人们更负责任地开发人工智能技术。国际电子电气工程协会 (IEEE) 还发布了世界首个有关人工智能道德准则的“指南”。 尽管未来的一切难以预料,霍金对未来仍然感到乐观:“这一切听起来有点像厄运来临,但我仍是一个乐观主义者。我认为人类会奋起迎接这些挑战。” 稿源:cnBeta,有删改,封面源自网络

科学家用人工智能技术优化量子计算机性能

人工智能和量子计算机都是当前科技界的热门领域,科学家也在尝试将两者结合应用。一个国际研究团队 13 日在英国《自然·物理学》期刊上报告说,他们利用人工智能技术对量子计算机和量子体系进行了有效学习和验证,这有助于解决中大规模量子计算机发展中的一些难题。 量子计算机是一类遵循量子力学规律进行高速数学和逻辑运算、存储及处理量子信息的物理装置。当前,谷歌、IBM、微软等科技公司都在这一领域投入大量资源进行研发。 然而,如何有效校准大规模量子计算机,以及如何验证量子计算机的计算结果,是一个困扰科研人员的难题。为此,英国布里斯托尔大学的研究人员与美国、荷兰的同行合作设计了一套方法来解决这一问题。 报告第一作者、布里斯托尔大学学者王剑威告诉新华社记者,通过借助人工智能技术,可以使量子计算机自动学习和仿真其他复杂的物理、化学量子体系,也可以实现对量子计算机的自校准评估。“人工智能使普通计算机和量子计算设备更好地交互,形成一个混合计算机运算体系,从而实现对量子计算机的操控和优化”。 报告介绍,这一新方法利用人工智能中的经典贝叶斯算法,有效实现对量子计算机的校准和验证,以及对未知量子体系的哈密顿量演化过程的学习和验证。这一技术突破将有效推动中大规模量子计算机的研发、制造和验证。 报告作者之一、微软“量子体系结构和计算研究小组”成员内森·维贝说,人工智能将在校准和验证大规模量子计算机中发挥关键作用,并对利用量子计算机来深入理解和控制复杂量子系统至关重要。 稿源:cnBeta、新华社,封面源自网络

“机器人法则”成真,欧盟将立法区分机器与自然人

据《欧洲时报》报道,“机器人不得伤害人类,也不能在人类受到伤害时袖手旁观。”在美国著名作家艾萨克-阿西莫夫发表的科幻小说《我,机器人》里,这一项被列为“机器人法则”第一条。70 年后的今天,“人工智能”也终于被欧洲议会提上了议题。据悉,欧洲议会已经正式向委员会提出议案,拟设立一套全面的法律来界定“人工智能”所带来的责任以及道德问题。 时至今日,“人工智能”已经广泛地运用到了我们的生活中:从自动驾驶汽车,到畜牧业的机械化作业,再到医疗领域的机器人应用。“机器人在我们生活中正在扮演越来越重要的角色”,欧洲议会委员朱莉亚-丽达表示,“因为机器的过世很难归咎到个人身上,因此对有关的责任问题如何划分,应该有明确的界定。” 2016 年 5 月,在美国德克萨斯州,一辆自动驾驶的特斯拉发生车祸致人死亡的新闻轰动一时。事故原因是肇事汽车在自动驾驶模式下没能识别出一辆偏离路线的大货车。因此,欧洲议会提出,在自动驾驶领域制定相关的安全规定十分必要。 欧洲议会发言人马蒂-德尔沃表示,针对机器人的“身份”,在法律上也目前尚未有准确的定义,在伦理道德层面更是没有约束。因此欧洲议会务必需要出台一套准则,针对那些有自我学习能力,并能够独立做出决策的“人工智能”,将自然人与机器人加以区分。 据悉,这套法律或许将通过收取机器人保险来预防他们带来的损失,机器人不得用作武器、军事用途,或为机器人设计紧急切断装置。报道指出,立法决议尚在讨论阶段,但相关报告指出,未来将设立专门机构,落实针对机器人和“人工智能”在技术上、伦理上的监管。此外,还需要注意机器人在经济方面的影响。随着“人工智能”的普及,机器人取代人类的趋势必定会影响到就业市场。 稿源:cnBeta,有删改;封面源自网络

纽约时报:中国在人工智能领域挑战美国

中国正在人工智能领域挑战美国的地位,中国在该领域发表的论文数量以及耗费巨资建造的世界最强大超算都是证据。 《纽约时报》报道称,在五角大楼酝酿把 AI 引入军队的计划时,中国的研究人员也正在这个新兴科技领域大步前进。中国进步迅速,使美国的军事战略专家和科技专家围绕中国究竟只是在模仿进步,还是很快便会在该领域超过美国的独立创新展开了一场争论。 百度首席科学家吴恩达称,美国可能有些过于目光短浅和自信,理解不了中国竞争的速度。“很多时候,中国和其他地方都在同时发明某样东西,或是先在中国发明出来了,后来传到了海外,”他说。“但美国媒体只报道美国的版本。这导致外界误以为那些想法是现在美国发明出来的。”科大讯飞就是中国的进步在美国基本未获报道的一个重要例子。这家人工智能公司侧重语音识别和自然语言理解,在多项国际语音合成和中英文文本互译比赛中获奖。该公司自称正在与科技部合作,研发一款“人形应答机器人”。中国的科技工作者则表示,该公司在监控技术的研发上同政府关系密切。 稿源:solidot奇客,有修正;封面:源自网络