根据Perception Point和Osterman Research的最新调查，越来越多的网络犯罪分子在网络钓鱼和BEC（商业电子邮件泄露）等电子邮件攻击中使用了（生成式）人工智能技术，九成受访企业表示已经遭受过人工智能增强的电子邮件攻击。与此同时，越来越多的电子邮件安全解决方案也开始使用人工智能技术来应对此类攻击。 调查显示，91.1%的受访企业表示他们已经遇到过人工智能增强的电子邮件攻击，84.3%的企业预计人工智能将继续被用来绕过现有的邮件安全系统。因此，基于人工智能技术的电子邮件安全防护比以往任何时候都更加重要。 人工智能已经成为电子邮件安全的“刚需” 调查显示，近80%的受访企业认为电子邮件安全是网络安全的三大优先事项之一。但随着时间的推移，传统电子邮件安全方法已被证明效果较差。96.9%的受访者实施了人工智能电子邮件安全方案，因为传统的邮件安全防御措施无法有效应对紧急威胁。 在过去12个月中，认为人工智能技术对于电子邮件防御“极其重要”的受访者比例增加了4倍多。几乎所有受访企业都认为人工智能技术将在电子邮件防御体系中发挥中等或极其重要的作用。 人工智能电子邮件安全的三大趋势如下： 人工智能增强的网络安全技术不仅仅适用于电子邮件：购买人工智能增强邮件安全方案的企业还希望人工智能技术能更好地保护其他通信和协作应用程序，例微软的Teams、SharePoint、OneDrive，以及Zoom、Slack、Salesforce等应用。 没有响应和缓解功能的人工智能检测是误导性的：通过人工智能检测电子邮件中威胁的能力是至关重要的第一步，但不是全部。企业需要培训网络安全专业人员和SOC团队，以充分利用人工智能技术对已识别的安全事件做出快速有效的响应。 企业正在利用新的人工智能工具加强防御：随着电子邮件威胁环境的变化，企业正在实施新的防御。九成受访企业已经在云电子邮件提供商提供的解决方案之外实施了人工智能电子邮件安全解决方案。     转自GoUpSec，原文链接:https://mp.weixin.qq.com/s/vY4GOZeAjlJtmNNOAht9EQ 封面来源于网络，如有侵权请联系删除

美国国防部高级研究计划局（Defense Advanced Research Projects Agency，DARPA）计划发起一项为期两年的竞赛–人工智能网络挑战赛（AI Cyber Challenge），作为白宫正在实施的提高软件安全性计划的一部分，该竞赛将要求参赛者利用人工智能识别并修复软件漏洞。 人工智能网络挑战赛将与人工智能初创公司Anthropic和OpenAI以及微软和Google合作，让美国的参赛团队利用人工智能来确保”重要软件”（特别是关键基础设施代码）的最佳安全。Linux 基金会的开源安全基金会（OpenSSF）将担任挑战赛顾问，1850 万美元的奖金将颁发给最优秀的参赛者。 DARPA 表示，它还将为最多七家希望参赛的小型企业提供每人 100 万美元的奖金。 “我们希望创建能够自动防御任何类型软件攻击的系统，”DARPA 项目经理佩里-亚当斯（Perry Adams）在昨天的新闻发布会上对记者说，他是人工智能网络挑战赛的构想者。”最近在人工智能方面取得的成果，如果以负责任的方式加以利用，我认为在保护我们的代码安全方面具有非凡的潜力。” 亚当斯指出，关键软件中越来越多地使用开源代码。GitHub 最近的一项调查显示，高达 97% 的应用程序利用了开源代码，90% 的公司正在以某种方式应用或使用开源代码。 开放源代码的普及带来了创新的爆炸式增长。但同时也为破坏性的新漏洞和漏洞利用打开了大门。Synopsys 公司 2023 年的一项分析发现，84% 的代码库至少包含一个已知的开源漏洞，91% 的代码库拥有过时版本的开源组件。 Sonatype 的一项研究发现，2022 年，供应链攻击的数量同比增长了 633%。 去年，拜登-哈里斯政府发布了一项行政命令，以提高软件供应链的安全性，并成立了一个网络安全安全审查委员会，负责分析网络攻击，并就未来的保护措施提出建议。2022 年 5 月，白宫联合开源安全基金会和 Linux 基金会，呼吁在两年内提供 1.5 亿美元资金，以解决突出的开源安全问题。 但随着人工智能网络挑战赛的启动，拜登政府显然认为人工智能在网络防御中可以发挥更大的作用。 亚当斯说：”人工智能网络挑战赛提供了一个机会，让我们探索当网络安全和人工智能领域的专家能够获得一套前所未有的跨公司综合资源时，会有哪些可能。如果我们取得成功，我希望看到人工智能网络挑战赛不仅能在这一领域产生下一代网络安全工具，还能展示如何通过在这里捍卫人工智能的关键基础来利用人工智能改善社会。” 虽然关于人工智能协助网络攻击的潜力–例如通过生成恶意代码–的文章已经写了很多，但一些专家认为，人工智能的进步可以使安全专业人员更高效地执行安全任务，从而有助于加强组织的网络防御。根据 Kroll 公司对全球商业领袖进行的一项调查，超过半数的商业领袖表示，他们正在最新的网络安全工作中使用人工智能。 参加人工智能网络挑战赛的团队将参加 2024 年春季的资格赛，得分最高的团队（最多 20 个）将受邀参加 2024 年年度 DEF CON 大会的半决赛。最多有 5 个团队将获得 200 万美元的奖金，并继续参加 2025 年 DEF CON 大会的决赛。最后一轮比赛的前三名将获得额外奖励，其中第一名将获得 400 万美元奖金。 所有获胜者都会被要求开源他们的人工智能系统–但不是必须。 人工智能网络挑战赛以白宫之前在今年的 EF CON 上宣布的模型评估为基础，该评估旨在确定类似 OpenAI 的 ChatGPT 的大型语言模型可被恶意利用的方式，如果运气好的话，还能找到解决这些漏洞的方法。此外，该评估还将衡量这些模型如何与拜登-哈里斯政府的”人工智能权利法案”蓝图和美国国家标准与技术研究院的人工智能风险管理框架中最近概述的原则和实践保持一致。     转自cnBeta，原文链接:https://www.toutiao.com/article/7265492925084156435/?log_from=e4d9a1a5a9705_1691647459426 封面来源于网络，如有侵权请联系删除

近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。 近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。 《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。 国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。     转自Freebuf，原文链接:https://www.freebuf.com/articles/371964.html 封面来源于网络，如有侵权请联系删除

英国国防部的国防科技实验室（Dstl）宣布它正在建立国防人工智能研究中心（DCAR）。它是与专注于人工智能和数据科学的艾伦·图灵研究所共同发起的，通过DCAR，政府希望能够帮助人工智能软件更快地发展。希望DCAR能促进英国经济以及国家的防务。 Dstl的高级首席科学家Glen Hart在评论时说： “DCAR将成为一个卓越的中心，为在国防背景下开发和应用人工智能提供真正的重点。” 政府概述了DCAR将帮助推进人工智能的以下领域： 短距离学习 – 训练机器学习的能力，而不需要大量的数据 人工智能在战争游戏中的应用 了解人工智能模型的局限性 协同管理多个传感器的技术 围绕人进行的人工智能研究 人工智能伦理学 在工作方面，预计国防人工智能研究中心将从9月起创造5至8个新的学术职位，但这个数字可能会进一步增长。阿兰-图灵研究所计划向全国各地的大学伸出橄榄枝，为DCAR的职位寻找最优秀的人才。 转自 cnBeta，原文链接：https://www.cnbeta.com/articles/tech/1292587.htm 封面来源于网络，如有侵权请联系删除

宾夕法尼亚州立大学和卡塔尔哈马德-本-哈利法大学的研究人员表示，推特上的推文所表达的情绪和情感可以被实时用来评估大流行病、战争或自然灾害供应链中断可能导致的粮食短缺。 他们发现，在COVID-19大流行的早期，在美国某些州，表达愤怒、厌恶或恐惧的与食品安全有关的推文与实际的食品不足密切相关。研究人员说，这些发现有可能被用来开发一个低成本的早期预警系统，以确定哪里最需要食品安全干预措施。 研究人员表示，COVID-19大流行病的发生及其相关的供应链中断引发了全世界对食物获取和供应的担忧，许多人在社交媒体上表达了这些担忧。研究人员想看看实时推文是否可以用来确定面临粮食供应或不安全问题的特定州或地区。研究人员不是只看与食物不足有关的推文数量，而是想知道人们对他们的食物状况的实际感受。利用人工智能，他们确定了与推文相关的情绪和情感，这使他们能够将表达对食品供应的担忧的推文与表达救济或满足的推文分开。 在分析的推文中，最常表达的情绪是喜悦，研究人员将其解释为反映了广泛的宽慰，即尽管早期对食物短缺的担忧，美国的食物供应在大流行期间仍然相对稳定。表达愤怒、厌恶和恐惧等负面情绪的推文与某些州的实际食物不足问题密切相关。为了开展这项上周在线发表在《应用经济视角与政策》杂志上的研究，研究人员使用了一个被称为GeoCoV19的数据集，其中包含来自世界各地的数亿条与COVID-19有关的多语言推文。他们只选择了源自美国并在2020年2月1日至8月31日期间发布的英语推文。他们进一步缩小了所得推文的范围，只包括那些含有与粮食不安全有关的语言的推文。 他们使用的人工智能语言模型可以检测出这些推文中负面、中性和正面的情绪；以及愤怒、厌恶、恐惧、喜悦、悲伤、惊讶或中性的情绪。研究人员还绘制了美国各州的推文，以便将他们的发现与美国人口普查家庭脉搏调查（HPS）的实际食物不足数据进行比较，该调查是每周在网上对随机选择的美国家庭代表样本进行的全国性调查，询问参与者在前一周和大流行病开始之前是否有时或经常没有足够的食物。 当对所有州的六个月期间进行平均时，表达愤怒、厌恶和恐惧情绪的推文与HPS中报告的实际州级食物不足率明显相关。在州一级，表达恐惧的推文与加利福尼亚州、伊利诺伊州、纽约州、德克萨斯州和威斯康星州的实际食物不足率的相关性最强。表达愤怒或厌恶的推文与加利福尼亚州、伊利诺伊州、纽约州、德克萨斯州和威斯康星州的食物短缺率呈正相关。   转自 cnBeta ，原文链接：https://www.cnbeta.com/articles/tech/1261545.htm 封面来源于网络，如有侵权请联系删除