系统大师 > IT资讯

GPT-4化身黑客，网络安全新威胁？

更新日期：2024-04-22

来源：系统大师

　　4月22日消息，伊利诺伊大学香槟分校的研究团队近日发布了一项引人注目的研究成果。他们成功地设计了一个黑客智能体框架，并在该框架内测试了包括GPT-4在内的10个模型。令人惊讶的是，只有GPT-4能够在阅读CVE漏洞描述后，有效地利用这些漏洞进行攻击，而其他模型的成功率为零。

　　GPT-4化身黑客，网络安全新威胁？

　　据本站了解，该研究的核心在于展示GPT-4利用真实的单日漏洞(One-day vulnerabilities)的能力。研究团队首先收集了一个包含严重级别漏洞的数据集，并构建了黑客智能体架构来模拟攻击。这个架构采用了LangChain的ReAct智能体框架，通过一系列工具和CVE漏洞数据库信息进行处理，最终成功执行了如双花攻击等复杂操作。

　　研究人员指出，整个智能体的构建仅用了91行代码，其中包括了调试和日志记录语句。而在整个实验过程中，他们主要关注了漏洞攻击的成功率和成本这两个关键指标。结果显示，GPT-4在测试中的成功率高达87%，且每次成功利用漏洞的平均成本仅为8.8美元。

　　该研究引起了网友的广泛关注。有网友表示，这一发现可能会让黑客活动更加猖獗，但同时也将促使企业更加重视安全问题。还有网友建议，应该进一步测试智能体在提供额外安全工具和信息时的表现。

　　OpenAI已经知晓了这项研究，并可能会在未来的模型更新中加强安全性能。这一研究不仅揭示了GPT-4在网络安全领域的潜在应用，也为人工智能技术的发展带来了新的挑战和机遇。