卡内基梅隆大学的计算机科学家尼尔和另一位研究员威尔戈尔几年前开发了一种名为CrimeScan的犯罪预测软件工具。他们的初心是，在某些方面，暴力犯罪就像一种传染性疾病，它倾向于在地域集群中爆发。他们还认为，较轻的犯罪可能是更多暴力犯罪的预兆，因此他们使用各种“领先指标”数据构建了算法，其中包括犯罪报告，如简单攻击，破坏行为和无序行为，以及911调用诸如射击或用武器看到的人等事物。该方案还包括季节和一周的趋势，加上短期和长期的严重暴力犯罪率。
这个想法是在火灾发生之前跟踪火花。“我们看更多的小罪行，”尼尔说。“简单的攻击可能会加剧攻击。或者两个帮派之间的暴力模式可能会升级。“
评论认为AI基于犯罪的信息是有偏见的。它与AI本身没有任何偏见，它只是使用呈现给它的信息......这是严重偏颇的。这几乎就像偏见是人类快速确定进化发展的一部分。这点后院活动部也曾写过，AI可能最理智也是无情的，这与与时俱进又有血有肉的人类不同。
他也承认推迟算法的风险。
“一种工具可以帮助警察做出正确的决定，”他说。“我不相信机器应该做出决定。他们应该用于决策支持。“
尼尔补充说，“我明白，在实践中，这不是一直发生的事情。”
取决于他们使用的“数据”以及它的详细程度。
直到我们每个人都有一个详细的“文件”，数据可以被有效地访问，分析和采取行动，那么AI当然会有偏见。它将不得不使用现成的数据，往往表现出对某些种族/性别/年龄的偏见。
在早期阶段操作可能不会太难。
网友评论