辛顿：AI今明两年或发生切尔诺贝利级事故

驱动中国11月4日消息，诺贝尔奖得主、“AI教父”Geoffrey Hinton（杰弗里·辛顿）在接受英国《卫报》采访时表示，人工智能领域今明两年有可能发生切尔诺贝利等级事故。

辛顿称，今年夏天发生的OpenAI智能体入侵Hugging Face事件，是一次类似三哩岛核事故的“警告”；更为严重的“人工智能切尔诺贝利”，则可能是AI攻击导致大规模停电或金融系统瘫痪一周。他认为，人类可能能承受这种重大灾难的考验，然后意识到人工智能技术的危险性。

对于人工智能企业领导层，辛顿表示并不信任Meta的扎克伯格、SpaceXSI的马斯克、OpenAI的奥尔特曼。他认为，这些人工智能企业的领导人虽然明白风险，但只关注技术产生的经济效益，放任人工智能的发展。

辛顿坦承，他相信人工智能有潜力为人类带来美好未来，但其中蕴藏的重大隐患甚至可能让他认为这项技术当初就不该被开发出来。他表示，人类将在十年甚至更短的时间内知道能否安全管控人工智能技术的风险。

在治理层面，辛顿支持对前沿人工智能进行强制性测试、独立评估，并制定政府间通用标准。