如何规范ChatGPT等生成式AI的应用：风险与解决方案

2022年11月，OpenAI推出了革命性的AI语言模型ChatGPT，引起了全球几百万用户的追逐。然而，随之而来的是人们越来越担忧该工具会被用于不当用途，为黑客破坏高级网络安全软件提供新的方法。对此，本文将分析这些风险，并提出相应的解决方案，以确保AI的应用不会对网络安全造成影响。

![微信图片_20230209153257.png](https://blog.zg4007.com/usr/uploads/2023/06/2175827235.png)

## 新风险

### AI生成网络钓鱼骗局

ChatGPT能在拼写、语法和动词时态错误的情况下与用户顺利交谈，让人感觉聊天窗口另一端就像真人一样。这使得网络钓鱼诈骗者可以利用其生成的信息制作虚假邮件，增加网络攻击的风险。网络安全管理者需要关注此类复杂的网络钓鱼攻击，并为其 IT 团队配备工具来检测“突然”收到的邮件，以确定哪些内容由ChatGPT生成，哪些为人工生成。

### 利用ChatGPT编写恶意代码

ChatGPT精通写代码和其他编程工具，虽然不可生成恶意或黑客攻击代码，但如果被定向操控，则可能会生成这些类型的代码。黑客也正计划利用它来重新编写恶意软件。

### ChatGPT遭入侵传播错误信息

如果ChatGPT遭到黑客入侵，那么恶意行为者就能利用其传播虚假信息。ChatGPT本身已采取措施防止回答带有政治色彩的问题，但如果AI被黑客入侵操纵，提供看似客观但实际上隐藏很深的偏见信息或扭曲视角的信息，AI就可能变成危险的宣传机器。

## 相应措施

### 提供ChatGPT检测和培训工具

IT基础设施将集成AI检测软件，自动筛选并标记AI生成的邮件。同时，需要进行常规网络安全培训和再培训，格外关注利用AI技术的网络钓鱼诈骗。此外，网络安全专业人员也需要适当培训和资源，以便更及时地侦测并防御AI生成的黑客代码。

### 规范AI的应用和能力

政府需要加强对新推出的AI模型和开发人员的监督，确保其符合最低安全措施门槛。同时，新工具推出之前应该考虑并遵守道德和安全规范，开发人员需要问问自己该工具的功能是否合乎道德，是否存在切实禁止外部操纵的基础“编程核心”？如果未能做到，如何确保开发人员对之负责？

### 改变态度

随着技术不断进步，人们需要重新审视AI的发展方向。我们必须团结起来，制定合适的保护措施，让ChatGPT革命值得欢呼，而不是心生恐惧。同时，科技公司需要思考这一现象对团队、公司乃至全社会意味着什么。

在新时代中，网络安全培训需要指导网络安全专业人员如何利用ChatGPT和其他生成式AI技术。政府、开发人员和公众必须重新审视AI的基础，并采取适当的措施，确保其安全可靠。