Зад дизайна: Преодоляване на стереотипите, част 7

Компанията вече предлагаше технологията си на полицията и на имиграционните институции.

Видяхме, че тези продукти се ползват и попитахме дали работят за лица като нашите - тъмни женски лица.

Открихме, че тези модели имаха под 70% точност за лицата на тъмнокожи жени, докато за лицата на белите мъже бяха 100% точни.

Това е показателно за неравномерния успех спрямо различни демографски групи и е заплаха за хората, които ще бъдат засегнати от тези системи.

След време Microsoft подобри своя софтуер за лицево разпознаване. Големите технологични компании, сред които Amazon и IBM, казаха че спират да продават софтуер за лицево разпознаване на полицията. Местните  власти приеха регулации за софтуера за лицево разпознаване, като в някои случаи забраниха приложението му в полицията. Но няма федерални регулации за тези неща.