Как программа лишила американца прав

Во многих странах в госучереждениях уже давно используются системы распознавания лиц на документах. Их предназначение просто: они сверяют фотографии на лицензиях, паспортах и прочих бумагах и ищут совпадения. Если находят, то документ, выданный позже, аннулируется. Недавно на сайте boston.com появилась история, как эта система крупно насолила одному человеку.

Американец Джон Гасс из штата Массачусетс получил по почте письмо с извещением, что его права (а именно права в США являются основным удостоверением личности внутри страны) аннулированы. Система распознавания лиц нашла человека, лицо которого было очень похоже на лицо Гасса и, поскольку его права были выданы раньше, посчитала, что права у Гасса стоит отнять. Всего в базе данных находится около 4,5 миллионов водителей.

Гасс достаточно долго пытался доказать, что он не верблюд, но всё же выиграл слушанье в суде через две недели после получения злополучного письма. Для того, чтобы получить права назад, ему пришлось раскопать своё свидетельство о рождении и карту социального страхования.

Это, конечно, заставляет задуматься, что делать, если система ошиблась? Ведь одно дело — аннуляция прав, о которой было прислано извещение, а что если такое ПО повесит на ни в чём не виноватого человека чужие долги или криминальную историю? Впрочем, без участия человека эта система ничего не предпринимает и решение об изъятии документа было принято оператором, который подтвердил, что на обеих фотографиях один и тот же человек.

Вообще подобное ПО чрезвычайно эффективно. Власти Массачусетса высылают по 1500 таких извещений и ложные срабатывания были чрезвычайно редки.

Что будем искать? Например,ChatGPT

Мы в социальных сетях