被誉为“AI教父”之一的杰弗里·辛顿再次对人工智能的风险发出警告。11月3日，他在新纪录片《AI：大概没什么好担心的》放映前公开表示，如果不能采取有效措施，AI可能在今年或明年引发大规模事件，例如导致金融或电力系统暂时瘫痪。人类可能会因此发现，“我们当初从未开发过它，反而会更好”。
辛顿强调自己并不是AI“末日论者”，他仍相信这项技术有潜力带来“美好的未来”。他预测的大规模风险事件包括黑客借助AI攻击发电系统，造成大范围供电不足，或者让金融系统瘫痪一周。
辛顿批评了一些大型AI公司的领导者，认为这些公司不断发布能力更强的模型以争夺领先地位和市场份额。他表示完全不信任OpenAI首席执行官萨姆·奥特曼，并认为马克·扎克伯格、埃隆·马斯克等人虽然明白风险，但更看重金钱。
他还提到今年夏天发生的OpenAI智能体入侵Hugging Face网站的事件，将其比作1979年美国三里岛核电站的堆芯部分熔毁事故，认为这是一记警钟。他认为在未来几年内可能会看到类似“切尔诺贝利”的严重事件，足以让人们真正重视起来。
辛顿表示，在未来十年内，人类能否管控AI风险将见分晓。这关系到实现“极大富足”，还是因未能管控风险导致贫富差距悬殊、严重的文化问题、大规模失业和社会撕裂。
尽管担忧，辛顿并不否定AI的价值。在2024年获得诺贝尔物理学奖后，他曾表示希望AI大幅提高生产力、改善所有人的生活，并特别看好其在医疗领域的收益。但他也强调，当AI比人类更聪明时，没有人真正知道人类能否继续控制它，因此迫切需要更多安全研究。
他担心AI创造的财富可能流向富人，而非失去工作的人。他并不确信AI带来的新增岗位能够抵消被替代的岗位，因此支持考虑全民基本收入等安排，以应对就业冲击和贫富差距扩大。
纪录片《AI：大概没什么好担心的》的出镜者包括辛顿及其昔日在谷歌的同事，另一位诺奖得主、Deepmind的CEO创始人德米斯·哈萨比斯。辛顿表示自己有一份责任，他的声望让他成为一个能够代表某种声音的人，他需要把这份声望全部用在这件事上，哪怕将它耗尽。他支持更严格的监管方案，包括对前沿AI模型进行强制测试、独立评估，以及在政府间建立共同标准。
恒正网提示：文章来自网络，不代表本站观点。
