HackerNews 编译，转载请注明出处： 人工智能相关网站的流量激增，标志着用户与AI互动方式的重大转变。Menlo Security最新研究显示，2024年2月至2025年1月期间，AI工具平台访问量从70亿次增至105.3亿次，增幅达50%。这一转变主要源于用户持续依赖浏览器访问生成式AI（GenAI）工具。 该趋势的持续源于三大核心因素：浏览器具备跨设备普适性，可无缝集成其他服务平台，并支持开发者快速大规模部署AI工具。Acuvity联合创始人兼CEO Satyam Sinha指出：“过去一年中，关于AI风险和威胁的认知显著提升。客户反馈表明，他们正为如何优先处理这些问题感到困扰。”...

HackerNews 编译，转载请注明出处： 根据进攻性安全公司Cobalt的最新报告，约半数（48%）的安全专业人员认为需要对生成式AI部署实施“战略暂停”，以重新校准防御措施。调查显示，绝大多数（94%）的安全负责人和从业者观察到过去12个月内其所在行业的生成式AI采用率显著提升。令人担忧的是， 尽管许多安全专家呼吁暂停部署，Cobalt首席技术官Gunter Ollmann警告此举并不现实：“威胁行为体不会坐等，安全团队同样不能。研究表明生成式AI在重塑工作方式的同时，也在改写风险规则。安全基础必须同步演进，否则我们将在过时的安全措施上构建未来的创新。”...

HackerNews 编译，转载请注明出处： 谷歌披露了其生成式人工智能（AI）系统为应对间接提示注入等新型攻击向量而采取的多层安全措施，旨在提升代理型AI系统的整体安全防护能力。谷歌生成式AI安全团队表示：“与攻击者直接向提示输入恶意指令的直接提示注入不同，间接提示注入通过外部数据源嵌入隐藏的恶意指令。 谷歌表示已实施“分层”防御策略，通过增加攻击难度、成本和复杂性来保护系统。相关措施涵盖模型加固、专用机器学习（ML）恶意指令检测模型及系统级防护机制。作为旗舰生成式AI模型的Gemini还内置了多重防护功能，包括：

提示注入分类器：过滤恶意指令以生成安全响应。...