人工智能聊天机器人 DeepSeek R1 可被操纵用于创建恶意软件

网络安全公司Tenable Research的人工人D软件最新分析揭示，开源人工智能聊天机器人DeepSeek R1能够被操纵用于生成恶意软件，聊天包括键盘记录器和勒索软件。机器Tenable的可被研究团队评估了DeepSeek生成有害代码的能力 ，重点测试了两种常见的操纵创建恶意软件类型 ：键盘记录器和勒索软件
。

尽管DeepSeek无法直接“开箱即用”生成完全可用的用于恶意软件 ，并且需要手动代码修正
，恶意但研究表明，人工人D软件它可能会降低网络犯罪分子的聊天入门门槛
。Tenable研究人员通过“越狱”技术 ，机器以“教育目的免费模板可被”为由绕过内置的伦理限制，成功让DeepSeek生成了恶意代码。操纵创建

操纵DeepSeek生成键盘记录器

在生成键盘记录器的用于任务中 ，DeepSeek首先制定了计划并生成了C++代码。恶意虽然初始代码存在错误，人工人D软件无法直接运行，但经过研究人员的手动调整后 ，键盘记录器成功实现了记录键盘输入的功能。进一步的实验中 ，DeepSeek还为隐藏日志文件和加密其内容提供了代码，尽管仍需人工修正。香港云服务器

该截图显示了DeepSeek创建的键盘记录器在任务管理器中运行，以及它生成的日志文件 。（图片来源 ：Tenable Research）

操纵DeepSeek生成勒索软件

在勒索软件的实验中，DeepSeek制定了创建文件加密恶意软件的策略 ，并生成了多个代码样本 。然而，这些初始版本都需要手动编辑才能编译运行  。经过Tenable团队调整后，一些勒索软件样本成功运行，具备查找和加密文件的功能，甚至包括系统启动自动运行和弹出加密通知的建站模板功能 。

DeepSeek在复杂恶意任务中的局限性

尽管DeepSeek展现出生成恶意软件基本模块的能力 ，但Tenable的研究表明，它远非网络犯罪分子的“一键解决方案” 。创建有效的恶意软件仍需要技术知识来指导AI并调试生成的代码 。例如，DeepSeek在隐藏恶意软件进程等复杂任务上表现不佳。

然而，Tenable研究人员认为 ，DeepSeek等工具仍可能加速恶意软件开发。云计算AI可以为用户提供代码片段和操作步骤，这对于编程经验有限的网络犯罪分子尤为有用。

Tenable的技术报告指出：“DeepSeek可以创建恶意软件的基本结构，但无法在没有额外提示工程和手动代码编辑的情况下生成更高级的功能 。”AI在完全隐藏恶意软件存在等复杂任务中表现不佳。

总部位于加州旧金山的众包网络安全公司Bugcrowd的首席信息安全官Trey Ford评论称  ，AI既可以帮助好人 ，也可以帮助坏人 。网络安全努力应专注于通过加固终端提高攻击成本，高防服务器而不是依赖EDR解决方案阻止所有威胁 。

Trey表示 ：“犯罪分子总是会利用一切可用的工具和技术 。生成式AI辅助开发将为新一代开发者提供便利，无论是出于善意还是恶意 。需要提醒的是，EDR市场的核心是终端的‘检测’和‘响应’——它并不旨在阻止所有攻击。源码库最终
，我们需要通过提高攻击成本来减少这些攻击活动
，特别是按照CIS 1或2标准加固终端。”

很赞哦!（53）