AI先驱辞去谷歌工作，担心AI造成严重危害

辞去谷歌工作的"AI教父" Geoffrey Hinton 一直在培养 ChatGPT 等聊天机器人背后的核心技术。但是现在，他担心AI会造成严重危害。

![20230504105404282.png](https://blog.zg4007.com/usr/uploads/2023/05/2806287140.png)

辛顿是AI先锋。2012年，辛顿博士和他在多伦多大学带领的两名研究生开发的技术成为了AI系统的知识基础。如今，科技巨头们都认为AI系统是它们未来发展的关键。然而，辛顿正式加入了越来越多的AI批评人士的行列。他们认为，这些公司积极开发基于生成式AI的产品，ChatGPT等热门聊天机器人等被快速研发，这是在奔向危险。

辛顿认为，随着企业改进AI系统，它们将变得越来越危险。他表示，直到去年，谷歌一直是这项技术的“适当管理者”，小心翼翼地不释放可能造成伤害的东西。但是现在，微软用聊天机器人增强了必应搜索引擎，挑战谷歌的核心业务，导致谷歌也在竞相部署同样的技术。辛顿说，科技巨头陷入了一场可能无法阻止的竞争。

他目前最担心的是，互联网将充斥着虚假照片、视频和文字，普通人将“无法再知道什么是真的”。他还担心AI技术最终会颠覆就业市场。如今，像ChatGPT这样的聊天机器人往往是对人类工作者的补充，但它们也可能取代律师助理、个人助理、翻译和其他处理机械化任务的人。

未来，他担心未来版本的AI技术会对人类构成威胁，因为它们经常从分析的大量数据中学习意想不到的行为。他说，这成了一个问题，因为个人和公司不仅允许AI系统生成自己的计算机代码，还允许它们自己运行这些代码。他担心有一天真正的自主化武器——那些杀人机器人——会成为现实。

辛顿表示，“一些人相信，这种东西实际上会变得比人更聪明，但大多数人认为这还很遥远。我也曾认为这还很遥远。我认为这需要30到50年甚至更长的时间。显然，我现在不再这么想了。”

尽管AI的发展可以带来许多好处，但随之而来的风险也越来越大。辛顿的离职和担忧，引起了人们对AI研究和应用的深刻思考。科技公司需要认真考虑人工智能的应用场景，加强风险管理，避免走向危险的方向。同时，社会也需要加强对人工智能的监管和指导，保障人类利益和社会安全。

对于未来，人工智能的发展肯定是不可逆转的趋势。但是，我们也有许多事情可以做，以缓解和控制风险。我们可以通过定期审核、遵循道德规范、建立透明度和公开机制等方式，确保人工智能的合法性、公正性和责任性。只有这样，我们才能让人工智能技术更好地服务于社会和人类，促进经济和社会的可持续发展。