HackerNews 编译，转载请注明出处： 欧洲监管机构正考虑对埃隆·马斯克的社交媒体平台X采取行动，因其人工智能工具Grok被用于生成未成年人的色情图像。 这是欧盟、英国与X平台（原Twitter）之间日益激烈的冲突中的最新焦点。美国政府指责其跨大西洋伙伴通过对该平台的监管实施非关税贸易壁垒。 本周，Grok在回应用户提示对一名14岁女演员图像进行”脱衣”后引发广泛愤怒。类似行为近期激增，该工具被用于”脱去”女性衣物并让她们身着比基尼摆拍。 马斯克未直接回应批评，但似乎通过Grok生成的一张穿着比基尼的烤面包机图像来淡化担忧。 巴黎检察官办公室周五向Recorded Future News证实，已收到法国两名议员的报告，指控“Grok生成并传播含未成年人在内的色情’深度伪造’内容”。该事件已被纳入检察官办公室对X平台的持续调查中，调查重点是该平台涉嫌未能遏制诈骗和外国干涉的传播。 英国政府发言人表示，计划全面禁止包括AI模型在内的各种形式的”裸体化工具”。”私密图像滥用是一种毁灭性犯罪，对妇女和女童的影响尤为严重。根据这项新刑事罪行，任何设计或提供此类裸体化工具的个人或公司都将面临监禁和巨额罚款。” 根据英国《网络安全法》，私密图像滥用目前属于优先处理罪行，这意味着大型科技平台负有法律责任首先防止其出现，并在发布后予以删除。 英国通信管理局发言人在声明中表示：”未经同意创建或分享私密图像或儿童性虐待材料（包括AI生成的色情深度伪造内容）属于非法行为，实施此类网络犯罪行为的个人将面临执法部门的起诉。” 此次Grok事件发生前，欧盟委员会上月已因X平台违反欧盟法律对其处以1.2亿欧元（约1.39亿美元）罚款。在罚款之前，X平台的全球政府事务团队曾指责欧盟委员会的执法行动是”前所未有的政治审查行为和对言论自由的攻击”。 在2024年总统大选前，特朗普的竞选搭档JD·万斯曾暗示欧盟对马斯克的对待将影响美国对北约的政策。就在罚款公布前，万斯在X平台声称欧洲计划因该公司”未进行审查”而罚款，并表示：”欧盟应该支持言论自由，而不是用垃圾理由攻击美国公司。” 美国联邦贸易委员会曾在8月警告国内科技公司，遵守欧盟和英国法规可能构成”为遵守外国法律而审查美国人”，这可能被视为违反禁止商业中不公平或欺骗性行为的法律。 消息来源：therecord.media； 本文由 HackerNews.cc 翻译整理，封面来源于网络； 转载请注明“转自 HackerNews.cc”并附上原文

HackerNews 编译，转载请注明出处： 威胁行为者正在利用X平台的内置AI助手Grok，绕过该平台为减少恶意广告而引入的链接发布限制。 正如Guardio Labs研究员Nati Tal所发现，恶意广告商经常运行包含成人内容诱饵的可疑视频广告，并避免包含指向主站的链接以避免被X平台拦截。 相反，他们将链接隐藏在视频卡片下方不起眼的“From:”元数据字段中，该字段显然未被社交媒体平台扫描以检查恶意链接。 接下来，（很可能是）同一批行为者通过回复广告来询问Grok关于帖子的信息，例如“这个视频来自哪里？”或“这个视频的链接是什么？”。 Grok会解析隐藏的“From:”字段，并在回复中以可点击的格式提供完整的恶意链接，使用户能够点击并直接进入恶意网站。 由于Grok在X平台上自动是一个受信任的系统账户，其发布的内容提升了链接的可信度、覆盖范围、搜索引擎优化（SEO）和声誉，从而增加了该链接被广播给大量用户的可能性。 研究人员发现，许多此类链接通过 shady 广告网络进行跳转，最终导向诸如虚假验证码（CAPTCHA）测试、信息窃取恶意软件和其他恶意负载的诈骗。 这些链接不仅没有被X平台阻止，反而通过恶意广告向平台用户推广，并借助Grok进一步扩大了影响力。 Tal将利用此漏洞的技术称为“Grokking”，并指出其非常有效，在某些情况下能将恶意广告的曝光量放大至数百万次展示。 潜在的解决方案包括扫描所有字段、拦截隐藏链接以及对Grok添加上下文清理机制，这样AI助手就不会在用户询问时盲目地反馈链接，而是会根据拦截列表对其进行过滤和检查。 Tal向我们确认，他已联系X平台报告此问题，并得到了非官方确认，表示Grok工程师已收到报告。 BleepingComputer也联系了X平台，询问他们是否意识到这种滥用行为以及是否计划采取任何措施，但在本文发布前未收到回复。       消息来源： bleepingcomputer； 本文由 HackerNews.cc 翻译整理，封面来源于网络； 转载请注明“转自 HackerNews.cc”并附上原文