近日，广州市妇女儿童医疗中心开发出一个能诊断眼病和肺炎两大类疾病的人工智能系统，该研究成果以封面文章登上了世界顶级期刊《细胞》。这个系统能够根据影像资料，给医生提出诊断建议，并解释判断的依据。比对实验发现，该系统在诊断眼疾时的准确率达96.6%；在区分肺炎和健康状态时准确率达92.8%，足以与有十几年经验的专家医生相媲美。值得关注的是，这套人工智能采用了迁移学习算法，就是把已训练好的模型参数迁移到新的模型来帮助新模型训练，比如已经学会下围棋的人工智能，就可以类比着来学习象棋。

　　任何科学技术的创新，都应该促进人类福祉的增加，在这方面，人工智能大有可为。广州市妇女儿童医疗中心开发的这个能诊断疾病的人工智能系统，是人工智能在医疗领域的成功应用，毫无疑问，诸多的患者将受益于此。在其他的领域，人工智能也正在大显身手。

　　但是人工智能的研究和应用，一直都伴随着争议。诚然，所有的科学技术都是双刃剑，但人工智能的问题似乎更加复杂一点。一般的科学技术在被正确地运用的时候，造福于人类；而被错误运用的时候，则危害人类。人工智能的质疑者担心的是，即便是在人工智能正确地运用的时候，也有可能造成对人类利益的损害。质疑集中在两个方面：一是人工智能对于人们工作机会的挤占；二是人工智能会不会超越人类，控制甚至毁灭人类。

　　第一个问题，现在已经发生，以后还会越来越多。但是我认为，这个问题在短时期内可能是个问题，但是长时段来看，人类有智慧、有能力解决。因为人工智能虽然挤占了一部分人的工作机会，但归根到底是在创造价值和财富，人类的总财富还是在不断地增加。人们要做的，是改变财富的分配方式，惠及所有的人群。人们可以享受人工智能带来的财富，不必担心工作和生存的问题。在这个基础上，从事更高层次的创造性的劳动。

　　对于第二个问题，我却并非乐观主义者。近年来，人工智能进步最大的标志是人工智能有了自主思考的能力。这种能力如果一直发展下去，人工智能或许会产生自我意识，不能不说，有可能演变成为对于人类而言“他者”的存在。科幻小说当中经常描述的人工智能对人类的颠覆，并非没有可能。因此，对于人工智能的发展，必须要有一定的警醒。在现阶段，当然还是要推动人工智能研究，充分地利用人工智能为人类造福。但当技术发展到一定的阶段之后，可能还是需要一定的节制，设定人工智能发展的界限，确保人类的安全。

　（华南理工大学教授）