Category: 信息技术安全

开源人工智能对黑客攻击的影响：FBI 的观点 黑客找到了一种新武器，可以让他们的非法活动更加有效：人工智能 (AI)。据 FBI 称，网络犯罪分子越来越多地利用开源人工智能模型来改进他们的工具并欺骗互联网用户。 网络犯罪分子使用人工智能 网络犯罪分子使用基于 ChatGPT、Google Bard 或 Claude 等语言模型的聊天机器人来促进其恶意活动。通过利用精确的请求，他们设法绕过这些工具的创建者设置的安全措施和限制。 FBI已经敲响了警报，但它注意到，最受互联网用户欢迎的AI模型并不是黑客的最爱。 开源模型，黑客青睐的工具 黑客更喜欢使用免费、可定制的开源人工智能模型，而不是由公司控制的模型。这些开源模型可供互联网上的每个人访问，很容易被用来生成非法内容。此外，与行业巨头开发的大型模型相比，它们更轻，需要的计算能力更少。因此，它们可以在计算机甚至智能手机上本地使用，这对开发人员和网络犯罪分子来说是一个优势。值得注意的是，犯罪分子使用其他黑客开发的自定义人工智能模型。在暗网上，有许多由黑客设计的聊天机器人，用于生成非法内容，例如恶意软件。最近，黑市上出现了两种专门用于犯罪活动的聊天机器人：WormGPT 和 FraudGPT。这些聊天机器人旨在创建有说服力的网络钓鱼电子邮件、对勒索软件等病毒进行编码以及策划攻击。它们在暗网上以高价出售。 网络犯罪分子对人工智能的不同用途 黑客以不同的方式利用人工智能来进行非法活动。特别是，他们利用人工智能来模仿官方平台的界面来设计钓鱼页面。此外，他们利用生成人工智能的功能来创建多态病毒，能够在每次执行时修改其代码，从而使传统防病毒软件的检测变得更加复杂。诈骗者还利用深度伪造技术向受害者勒索金钱。他们生成伪造的图像和视频，描绘目标处于不利的情况。然后，他们通过将这些内容发布在社交网络或色情网站上来骚扰受害者。此外，黑客会毫不犹豫地使用语音克隆人工智能通过电话操纵受害者。通过模仿亲人的声音，他们设法说服目标信任他们并给他们钱。 人工智能和黑客的未来 美国联邦调查局 (FBI) 预测，随着人工智能技术的普及，犯罪活动的使用将会增加。因此，制定预防和保护策略来应对黑客对人工智能的恶意使用至关重要。工作重点应集中在保护开源人工智能模型的安全并实施更强大的安全措施以防止操纵。人工智能有潜力在许多领域造福社会，但确保其负责任和合乎道德的使用势在必行。 来源：PCMag

网络犯罪分子利用人工智能进行更有效的攻击 网络犯罪分子找到了一种改进攻击的新方法：人工智能 (AI)。通过使用生成人工智能，他们可以使他们的攻击更加可信和复杂。这种做法正在网络犯罪世界中迅速蔓延，影响网络钓鱼、勒索软件、诈骗甚至总统诈骗等领域。 人工智能使网络犯罪分子更加高效和可信 Cyber​​malveillance.gouv.fr 网络安全专业总监 Jean-Jacques Latour 表示，人工智能在网络犯罪分子中越来越受欢迎，并为他们提供了相当大的优势。这些犯罪分子的手段没有改变，但攻击数量和说服能力却大大增加。 利用生成式人工智能进行更复杂的网络钓鱼攻击 网络钓鱼涉及发送承诺赠送礼物或折扣的欺诈性电子邮件，这种行为正变得越来越复杂。诈骗者使用人工智能来避免语法或拼写错误，调整他们的语言和上下文来说服用户点击有问题的链接或网站。 生成式人工智能用于创建自定义恶意软件 生成式人工智能可能被滥用来创建利用计算机程序中已知漏洞的自定义恶意软件。 ThreatGPT、WormGPT 和 FraudGPT 等程序在暗网上不断发展，并在恶意行为者中越来越受欢迎。 人工智能用于最大化黑客利润 黑客在渗透计算机系统后还使用人工智能对大量数据进行排序和利用。这使他们能够通过定位最相关的信息来最大化利润。 人工智能和总统骗局 人工智能还被用于总统骗局，黑客收集公司高管的信息以授权欺诈性转账。借助“deepfake”音频发生器，他们甚至可以完美模仿经理的声音来发出调动指令。 勒索软件和网络钓鱼中使用的人工智能 企业和医院正面临勒索软件攻击，这些攻击已经使用人工智能来修改其代码并逃避安全工具的检测。此外，假冒银行家请求转账的语音钓鱼技术也可以通过人工智能得到改进。 人工智能生成的合成内容用于欺骗和勒索 英国警方此前曾报告过利用人工智能生成的合成内容来欺骗、骚扰或勒索受害者的案件。尽管法国的第一起案件尚未正式记录，但人们对犯罪分子使用人工智能表示怀疑。 应对新威胁的“零信任”规则 面对这些新的威胁，在网络安全和人工智能方面，不要相信任何先验因素。最活跃的黑客通常是来自东欧组织良好的网络，但来自边缘国家的国家黑客也不应被忽视。 结论 人工智能驱动的网络犯罪构成了越来越大的威胁。网络犯罪分子越来越多地使用人工智能来改进他们的技术并进行更可信的攻击。必须保持警惕并采取适当的保护措施来应对这些威胁。