Системы распознавания лиц сегодня внедряются в аэропорты, торговые центры и даже развертываются на улицах огромных городов. В основном правоохранительные органы покупают их у таких больших компаний как Amazon, из-за чего те подвергаются большой критике. Во время своей лекции в Стэнфордском университете, президент компании Mictosoft Брэд Смит (не путать с генеральным директором) рассказал, что недавно им пришлось отказать полиции во внедрении их системы в полицейские автомобили. Для этого у компании был ряд причин.

По словам Брэда Смита, быстрое развитие технологий помогает правительственным органам осуществлять тотальную слежку за людьми. Разумеется, технология может помочь в поимке преступников, но также она может легко нарушить права человека. При желании, камеры с системой распознавания лиц можно развесить по улицам хоть прямо сейчас, но в случае чего отменить этот шаг будет крайне сложно.

Президент Microsoft обратил внимание на то, что чаще всего искусственный интеллект обучается распознаванию лиц на основе фотографий белых людей. Из этого может последовать то, что полиция станет чаще привлекать к допросам лиц, которые были посчитаны подозрительными по совершенной системой ошибке. И это только начало — все может дойти до того, что технология будет развернута по всей территории огромных городов и нарушать конфиденциальность людей.

Хорошим примером того, к чему это может привести, является Китай. Там технология распознавания лиц внедрена в даже в школы, и работает как часть системы социального рейтинга. Это уже привело к негативным последствиям — например, миллионы людей лишились возможности путешествовать.

При всем этом, Microsoft видит в технологии распознавания лиц и плюсы. Да, она оказала во внедрении системы анализа лиц людей в полицейские автомобили, но при этом разрешила использовать ее в тюрьмах. По ее мнению, там польза от системы все-таки есть — в замкнутом пространстве, следя только за определенной группой людей, она может помочь в сохранении порядка.