辛顿原本认为,机器处理语言的能力始终不如人类,但随着谷歌和OpenAI等公司的AI系统开始使用更大量的数据,他的看法改变了。他认为,这些系统在某些方面虽然还是不如人脑,但在其他一些方面已超越人类智慧,而随着AI系统不断改进,它们可能变得越来越危险。
他也担心,AI可能被用于制造与传播错误信息,导致一般人“无法识别什么才是事实”。
75岁的辛顿指出,科技业巨头之间的激烈竞争,正在推动企业以危险的速度推出新的AI技术,而这可能冲击就业市场和助长错误信息的散播。他说:“要防止不良行为体利用它来做坏事是很困难的。”
针对AI可能与人类“抢饭碗”的担忧,辛顿指出,AI虽然为人类分担了辛苦的工作,但也可能“拿走更多”。
辛顿当时并未签署公开信,他告诉《纽约时报》,科学家们不应“扩大规模,直到他们了解自己是否可以控制它”。
辛顿创建的系统催生了越来越强大的AI技术,包括近期掀起热潮的ChatGPT和Google Bard等聊天机器人。2018年,辛顿和另外两名深度学习领域的先锋,共同获颁有“电脑界诺贝尔奖”之称的图灵奖(Turing Award)。
(华盛顿综合电)有“人工智能教父”美誉的电脑科学家辛顿已辞去在谷歌的工作,过去致力于开发人工智能系统的他,如今却针对这种技术的潜在危险发出警告。
今年3月,曾参与创办OpenAI的科技企业家马斯克与数百名科技巨头签署一封公开信,呼吁暂停训练更强大的人工智能系统至少六个月,理由是这种系统对社会和人类构成潜在风险。
他说:“看看五年前与现在的情况。用这其中的差别,来推估未来的情况。那太可怕了。”
2012年,辛顿和他的两名学生创建了一个神经网络,它可以分析数千张照片,并通过自学识别花、狗、汽车等常见物体。三人创办的公司后来被谷歌(Google)收购,辛顿也因此进入谷歌工作。
英国出生、现居于加拿大的辛顿(Geoffrey Hinton)在《纽约时报》星期一(5月1日)刊登的访问中称,人工智能(AI)领域的进步,对“社会和人类构成了深远的风险”。
辛顿开创了AI系统的基础技术。1972年,他还是爱丁堡大学研究生时,便对人工神经网络(neural network)产生兴趣,这方面的研究成为他毕生的事业。
辛顿上个月向谷歌递交辞呈,以便能够自由地谈论AI带来的风险。他承认,后悔从事这一行。他说:“我用这个常用借口来安慰自己:如果我没有这么做,也会有别人去做。”