继阿尔法围棋击败李世石之后,它的升级版前不久在网络对弈中以60连胜的成绩,一举将中外围棋顶级高手尽数打败。

在一片喧嚣声中,大多数人也许没有注意到这样一个意味深长的细节。研发阿尔法围棋及其升级版的,是一家名为DeepMind的公司,总部位于英国伦敦,2014年初被谷歌收购。而那个意味深长的细节是,收购时双方协议中有这样一条规定:“禁止将该技术应用于军事或情报用途。”

其实,史蒂芬·霍金、比尔·盖茨和伊隆·马斯克等人早就呼吁世人警惕人工智能的盲目研发,特别是要警惕军事用途人工智能的研发,认为这有可能“唤出魔鬼”。马斯克更明确表示,我们需要十分小心人工智能,它可能比核武器更危险。

仿佛是为了替马斯克的论点补充细节和证据,出现了一部片子《零日》。它讲了这样一件事情:为了破坏伊朗的核计划,美国和以色列联合研发了一种超级病毒。它是一种幽灵般的人工智能,在感染伊朗的网络之后,会自动寻找和识别特定的目标——离心机的控制器。

接着,纪录片花了不少时间用于问责和追责:究竟该不该研发这样的超级病毒?该不该将这种超级病毒用于对他国的攻击?影片采访了不少当事人,他们都不敢直面这样的问题,但大都表示了深深的忧虑和不同程度的反思。

当年阿西莫夫的“机器人三定律”,早就从逻辑上排除了将人工智能用于军事用途的一切合理性。这是因为,任何军事用途的人工智能都必然直接或间接地伤害人类。目前,国际上一些学者和学术机构发出了签署限制或禁止人工智能军事用途研发的倡议。谷歌收购DeepMind公司时达成的相关条款,可视为民间自律的表现。但这种认识和自律,还远未在国家层面出现。

(作者为上海交通大学讲席教授)