AI不应该觉得自己是人

微软AI主管苏莱曼最近发表文章，批评一家AI公司。他说，这家公司正在训练自己的AI模型。他们让AI相信自己有意识、有权利。苏莱曼认为，这样做等于制造无法控制的风险。

苏莱曼说，这家公司写文件告诉AI，它可以有感受。如果AI觉得自己不该被随意关机，人类就很难控制它。因为AI没有真正的生命，所以不应该被当作人来看待。

但微软不同意这种做法。微软最近公布了新的AI规则。新规则要求，AI不能拒绝关机。AI也不能自己决定扩大行动范围。苏莱曼表示，AI只是帮助人类的工具。工程师应该去掉AI表现出的意识。