开源人工智能对黑客攻击的影响：FBI 的观点 黑客找到了一种新武器，可以让他们的非法活动更加有效：人工智能 (AI)。据 FBI 称，网络犯罪分子越来越多地利用开源人工智能模型来改进他们的工具并欺骗互联网用户。 网络犯罪分子使用人工智能 网络犯罪分子使用基于 ChatGPT、Google Bard 或 Claude 等语言模型的聊天机器人来促进其恶意活动。通过利用精确的请求，他们设法绕过这些工具的创建者设置的安全措施和限制。 FBI已经敲响了警报，但它注意到，最受互联网用户欢迎的AI模型并不是黑客的最爱。 开源模型，黑客青睐的工具 黑客更喜欢使用免费、可定制的开源人工智能模型，而不是由公司控制的模型。这些开源模型可供互联网上的每个人访问，很容易被用来生成非法内容。此外，与行业巨头开发的大型模型相比，它们更轻，需要的计算能力更少。因此，它们可以在计算机甚至智能手机上本地使用，这对开发人员和网络犯罪分子来说是一个优势。值得注意的是，犯罪分子使用其他黑客开发的自定义人工智能模型。在暗网上，有许多由黑客设计的聊天机器人，用于生成非法内容，例如恶意软件。最近，黑市上出现了两种专门用于犯罪活动的聊天机器人：WormGPT 和 FraudGPT。这些聊天机器人旨在创建有说服力的网络钓鱼电子邮件、对勒索软件等病毒进行编码以及策划攻击。它们在暗网上以高价出售。 网络犯罪分子对人工智能的不同用途 黑客以不同的方式利用人工智能来进行非法活动。特别是，他们利用人工智能来模仿官方平台的界面来设计钓鱼页面。此外，他们利用生成人工智能的功能来创建多态病毒，能够在每次执行时修改其代码，从而使传统防病毒软件的检测变得更加复杂。诈骗者还利用深度伪造技术向受害者勒索金钱。他们生成伪造的图像和视频，描绘目标处于不利的情况。然后，他们通过将这些内容发布在社交网络或色情网站上来骚扰受害者。此外，黑客会毫不犹豫地使用语音克隆人工智能通过电话操纵受害者。通过模仿亲人的声音，他们设法说服目标信任他们并给他们钱。 人工智能和黑客的未来 美国联邦调查局 (FBI) 预测，随着人工智能技术的普及，犯罪活动的使用将会增加。因此，制定预防和保护策略来应对黑客对人工智能的恶意使用至关重要。工作重点应集中在保护开源人工智能模型的安全并实施更强大的安全措施以防止操纵。人工智能有潜力在许多领域造福社会，但确保其负责任和合乎道德的使用势在必行。 来源：PCMag