被封禁的禁止究各账户不是 OpenAI 你发现的,而是多个洞蓝点网和 OpenAI 合作行业合作伙伴在日常测试中发现,确认后,朝鲜所有这些账户都被禁止,无法继续使用。
使用黑客组织 ChatGPT 恶意活动包括:
询问各种应用程序中的安全漏洞 (包括已经修复的过时漏洞,但很多企业还没有更新)。
- 基于开发和排除 C# 开发的 RDP 客户端问题绕过未经授权的请求代码 RDP 警告。
- 请求大量 PowerShell 脚本用于 RDP 连接、上传和下载文件、执行内存代码和混淆 HTML 内容。
- 讨论如何为后续使用创建和部署混淆的有效载荷。
- 寻求针对加密货币投资者和交易者的有针对性的网络钓鱼和社会工程方法。
- 精心制作网络钓鱼电子邮件和通知,操纵用户泄露敏感信息。
- 威胁报告显示,黑客关注的主要领域是使用 ChatGPT 查找与加密货币相关的信息,并使用它 ChatGPT 辅助编程包括如何使用开源远程管理工具 RAT、用于 RDP 远程桌面协议的暴力攻击、公共安全工具和代码调试等。
OpenAI 称这些黑客还在使用 AI 模型执行与工作相关的任务,如编写代码、排除故障和向同事发送信息。为了避免被发现,黑客还故意询问无关内容来掩盖不寻常的行为。
最后,通过调查日志 OpenAI 注意到黑客正在调试自动启动扩展点 (ASEP) 位置和 macOS 攻击技术,这泄露了黑客使用的恶意二进制文件的暂存 URL,OpenAI 已经将该 URL 与安全社区共享恶意文件,实现后续查杀。
