“AI教父”承认担忧:AI可能接管人类

作者:小编 更新时间2023-10-12 11:39:44 点击数:

著名AI研究者Geoffrey Hinton,被誉为"AI教父",在一次采访中承认了他对人工智能可能接管世界的担忧。他的言论引发了广泛的讨论,关于AI的未来充满了不确定性。

Hinton在接受CBS60Minutes采访时表示,他担心他一生致力于构建的技术可能会接管世界。他甚至宣称,"有史以来,人类第一次必须面对地球上有某物比我们更聪明的现实"。这一说法引人深思,尤其是CBS主持人Scott Pelley问到是否超级智能的AI可能会"接管人类"时。

微信图片_20230809104207.jpg

图源备注:图片由AI生成,图片授权服务商Midjourney

Hinton回应道:"我不是说会发生,如果我们能阻止它们有这个愿望,那将是很好的事情。" 但他同时强调:"但我们不能确定是否能够阻止它们想要这样做。"

关于AI可能如何接管人类的细节,Hinton推测自主智能体可能会开始"自行修改"。这是一个令人担忧的问题,他还提到了技术的"黑盒子"特性,即研究人员对机器学习算法的实际运作方式缺乏详细了解。

他指出,虽然我们对AI系统学习的过程有一个"很好的"粗略概念,但一旦涉及到复杂问题,我们就像不了解你的大脑中正在发生的事情一样不了解AI的运作方式。这是一个合理的担忧,因为不管机器的输出是否在技术上正确,机器达到这一目标的路径仍然很重要。如果人们长时间以来奖励通过有问题的方式获得的正确输出,我们可能会无意中以可能会严重失败的方式训练AI工具。

然而,Hinton的担忧并不仅限于AI接管世界的问题。他还担忧人类如何滥用AI,包括使用自主AI武器和战争机器人、大规模替代人类工作和大规模传播AI制造的虚假信息等问题。尽管前景看起来令人沮丧,但随着这个未知领域的不断发展,潜在的威胁,尤其是与人类滥用有关的威胁,继续值得考虑。


轻创AI创作系统
Tag: AI