AI治理应从人、算法、数据、隐私、政府五个方面考虑。首先，人是否应该由算法来管控，后者在目前的实际应用中，常以赢利为核心目标，因此，容易出现困在算法里的外卖小哥的情况。其次，经典的电车问题也需要我们认真思考人工智能发展后，每一个人的生存权的重要性。而从算法角度看，算法设计上的有偏会导致AI程序在处理问题时出现各种偏向，如性别偏向。数据的有偏也经常会产生误导，如一张图上的动物是哈士奇还是爱斯基摩犬，并非是基于动物的特征，而是基于图像里是否有雪。第四，目前的很多AI算法都存在不经他人许可就窃听数据如声音或视频的问题，这严重侵犯了大家的隐私权，需要有相应的政府部门立法并成为相应的部门来监管，光靠企业内部的自查是不靠谱和不安全的。第六，需要防范基于AI的新型犯罪方式，如换脸、换声音，以及通过增加一些看似无关的噪声点来攻击AI识别系统。
（作者为复旦大学计算机科学技术学院教授、博导）
