#图灵奖得主称AI闯祸必须追责开发者#【图灵奖得主希发基思：警惕AI“要挟式”示强，AI闯祸必须对开发者追责】#图灵奖得主反对开发者判断AI安全性#人工智能系统的能力不断增强，但谁来判断这些系统是否足够安全？图灵奖得主约瑟夫·希发基思认为，不能把这一决定完全交给开发者。

“这种方式是不可接受的：开发系统的那些人，同时又能判定这个系统是否安全。”10月21日，希发基思在参会期间接受了澎湃新闻的采访。

长期从事安全关键系统研究的希发基思指出，AI安全不仅是技术问题，也是责任与监管问题。如果一个系统不够安全，就不应该投入使用；如果系统造成危害，开发者和制造商必须承担相应责任。在他看来，独立的安全评估机制至关重要。

希发基思是国际公认的可信自主系统领域奠基性学者，2007年因在模型检测理论及应用方面的贡献荣获图灵奖，他同时担任中国科学院外籍院士、法国科学院院士、美国国家工程院院士等。

谈及近期AI企业高管频繁发出安全警告的现象，希发基思表达了他个人的看法。他认为，多智能体系统能够协同工作，在复杂的数字基础设施中发现漏洞，其能力可能超过人类独立完成同类任务的水平，因此网络安全风险确实值得重视。

不过，他对部分企业展示AI能力的方式提出质疑。希发基思认为，企业展示智能体发现漏洞、组织网络攻击的能力，也可能是在向公众和政府施加压力，借此凸显自身技术的强大。他将这种做法形容为一种“要挟”。

近期，业内出现了“放缓AI技术进程以保障安全”的呼声。对此，希发基思明确表示，他不赞成将放缓技术进步作为解决安全问题的办法。在他看来，真正需要解决的是责任归属。

他强调，当AI系统造成危害时，责任不能被归结为系统“过于聪明”或行为难以预测，更不能因此免除开发者的责任。

他以网络攻击为例指出，如果由人类实施攻击，行为人可以依法被追责；而当攻击涉及AI系统时，如何确定责任主体就成为必须面对的问题。在他看来，开发者不能以系统自主执行任务为由逃避责任。如果系统不安全，就不应使用；如果造成危害，就应当追究相关责任。

在监管上，希发基思强调，监管机构必须独立。他反对由AI企业组建所谓评估机构，来判定这些AI产品的安全性。对他而言，AI能力不断增强，更需要建立明确的监管机制，并让责任落实到人和企业。→http://t.cn/AXjGSgMS