对于许多人而言，使用人工智能预防犯罪并帮助定罪的犯罪分子看起来像科幻电影中的场景。但是，包括达勒姆，肯特和南威尔士在内的英国警察部门已经在使用真正的犯罪行为之前，已经使用面部识别和行为软件来采取预防措施。使用计算机评估框架来告知拘留和量刑决定。这项技术带来了巨大的希望，但它也具有几乎相同程度的黑暗反乌托邦前景。这就提出了几个道德问题。例如，预测性警务通常依赖于社区或警察巡逻队报告的犯罪记录，这可能导致反馈循环并加强已经受到严格监管的社区的执法。有报道称，大都会的自动面部识别技术的误报率高达98％，因此人们担心准确性。因此，我们必须小心警务资源用于实际威胁，而不是感知到的威胁。我们都知道，技术像人类一样，会犯错误，并且常常对有色人种和妇女表现出不公平的偏见。发现美国风险评估算法（例如，针对交替避难所的美国惩教人员管理概况分析（COMPAS））间接包含强烈的种族偏见，这意味着在相同情况下黑人被告被错误分类的几率几乎是白人的两倍。对于那些因这些系统的大规模应用而处于不利地位的人，这不仅是不道德的，而且也是不可接受的。面部识别是高度侵入性的方面之一。在使用中，目标对象未经知情或同意就被带入系统。例如，用于预测“典型”事件的软件。过去，犯罪分子的面孔依赖于社交媒体，人际关系，社交活动，学校时间表和数据经纪人提供的业务数据。与停止和搜索等传统警察方法的官僚控制相比，这些工具进行预测的方式以及警察部门如何使用这些系统并不透明。重要的是要确保将类似的操作规范纳入机器。需要审查的另一个领域是使用评估框架或算法进行量刑。一些人工智能系统可以根据个人的历史及其危害趋势来预测未来的犯罪行为。在美国，宾夕法尼亚州可能是第一个不仅基于人的罪行判处刑罚的州，而且还提到将来人们可能犯下其他罪行的州。基于年龄，犯罪记录和就业等因素的基于统计的风险评估将帮助法官确定判决。这种观点认为，这将有助于减少监狱系统的成本和负担。由于预算紧张和犯罪率上升，更广泛地使用人工智能程序来帮助预测犯罪行为可能会有好处。但是，我们必须确保该系统是公平和透明的，我们现在仍然可以这样做。实现这一目标的最佳方法也许是建立一个监督人工智能的国际委员会。各国和消费者可以参与这些系统的开发，并确保行为守则和法律符合国际人权标准设定的门槛。将道德责任纳入机器似乎是一项艰巨的任务，但这是挽救这个勇敢的新技术世界的唯一方法，这样它就不会变成具有讽刺意味的噩梦。