* * *

Время замечательных историй. Дело было в Америке.

Компания по производству программ на телефон выпустила приложение для редактирования фото. Много кто установил его на телефон за год использования. Через год приложение было закрыто. Компания подумала-подумала и решила двигаться в сторону ПО для магазинов. А что? Магазинов много, спрос есть.

Следующее приложение компании занималось опознаванием преступников. Камеры в магазине снимали людей, приложение сравнивало лица людей с базой "преступников" и при совпадении вызывало полицию. В теории звучит полезно, но... Как научить программу опознавать лица? Натренировать ее с помощью нейронных сетей!

А где взять тестовую базу для обучения? Воспользоваться фотографиями людей, хранящимися на внутренних серверах компании. Теми самыми фото, которые остались от приложения для редактирования фото. Конечно без какого-либо спроса у самих людей, кто на фото.

Так бы может никто бы ничего и не узнал, не заподозрил, но часто стали происходить случаи, когда камеры опознавали преступниками обычных людей. Стали копать и вскрылось, что их фото тупо скачали со старых серверов и сделали "преступниками", на которых учили программу - а удалить забыли.

Это конечно жесть. Я честно без понятия, чем история закончилась, но если бы не знала, что это реально было, подумала бы, что читаю сюжет очередной серии Черного зеркала.