LITMIR.BIZ

Скачать книгу

для оценки новых технологий.

      Во-первых, подумайте, на кого новая технология возлагает ответственность за принятие решений. Если перед посадкой в самолет агент службы безопасности выводит вас из очереди в аэропорту для повторного обыска, вы знаете, кто принял это решение, и можете спросить, почему. Если то же самое делает машина, использующая распознавание лиц, – кто, в конце концов, решил, что вы должны пройти дополнительную проверку?

      Если за несколько лет выяснится, что машины распознавания лиц в аэропорту города N отбирают для вторичного досмотра непропорционально большое количество людей с определенным цветом кожи – кто в этом виноват? Авиакомпания, использующая систему? Агенты, которые следуют рекомендациям машин? Программисты, создавшие алгоритм? Будут ли они все переводить стрелки друг на друга? Если пассажирка считает, что с ней обошлись несправедливо, к кому ей обращаться за возмещением ущерба?

      Могут ли авиакомпании и агенты просто обвинять алгоритм? Если да, что происходит в этом случае? Технологические фирмы часто считают свои алгоритмы коммерческой тайной и опасаются, что раскрытие данных поставит их в невыгодное положение по отношению к конкурентам или позволит преступникам обмануть систему. Последнее всегда казалось мне крайне неправдоподобным: покажите мне грабителя или автоугонщика, который сознательно меняет охотничьи угодья, поскольку знает, какие районы полицейский алгоритм прогнозирования ежедневно помечает как требующие особого внимания.

      Что имеют право знать граждане об алгоритмах, решающих их судьбу? На мой взгляд, они должны получать очень много информации. Но значительная часть технологических компаний с этим не согласится, и до сих пор ни один механизм не заставил их открыть карты.

      Во-вторых, подумайте, как влияет каждая новая технология на наши права и ожидания в отношении конфиденциальности. Какую информацию она собирает и как; как хранятся данные, кто может их видеть; кто может принять решение об использовании этой технологии и кому он подотчетен?

      Stingray – это устройство, которое имитирует в сети базовую станцию (БС) сотовой связи, обманывая все телефоны в округе и заставляя подключаться к нему, а не к настоящей БС. Затем Stingray определяет уникальный абонентский номер каждого телефона и, следовательно, его владельца, а также местоположение, номера, на которые он звонит, номера, с которых звонят ему, и длительность соединения. Stingray также перехватывает текстовые сообщения и изучает активность человека в интернете, например, веб-сайты, на которые он заходит. Эти устройства полиция использует без ордера, хотя, например, изучить историю просмотров на вашем ноутбуке или заглянуть в ваш почтовый ящик без ордера невозможно.

      Данные автоматических считывателей номерных знаков включают время и место создания изображений. Многие управления полиции загружают эти фотографии в общие базы данных, где они хранятся рядом с кадрами, отснятыми другими полицейскими

Скачать книгу