Обіцянки «розумних міст» нерідко маскують критичний недолік — сліпу довіру до автоматизованих систем нагляду. Коли штучний інтелект бере на себе роль детектива, банальна помилка при введенні даних здатна за лічені секунди перетворити законослухняного громадянина на підозрюваного. Інцидент у Міннесоті за участю системи камер Flock наочно ілюструє, як алгоритмічна ригідність провокує невиправдану агресію з боку поліції. Цей випадок оголює крихку межу між забезпеченням громадської безпеки та системним збоєм у процесах цифрової ідентифікації.
Сценарій нагадував гостросюжетний трилер: звичайний виїзд із парковки магазину в передмісті Міннесоти раптово перетворився на поліцейську операцію. Чотири патрульні автомобілі, наказ вийти з машини з піднятими руками та година напруженого очікування під прицілом правоохоронців. Причиною такого розмаху стало те, що водій Range Rover вартістю 155 000 доларів опинився в базі даних системи Flock як викрадач.
Система Flock — це мережа «розумних» камер, що спеціалізуються на автоматичному зчитуванні номерних знаків (ALPR). У цьому випадку поліція міста Плімут протягом кількох днів відстежувала переміщення автомобіля, чекаючи слушного моменту для затримання. Парадокс ситуації полягав у тому, що автомобіль був частиною офіційного прес-парку автовиробника, а його переміщення суворо фіксувалися дилерськими службами. Навіть перевірка VIN-коду підтвердила «чистоту» машини, проте поліцейські залишалися переконані: номерні знаки були викрадені.
Причиною цього небезпечного непорозуміння стала банальна людська помилка, підсилена алгоритмічною сліпотою ШІ. Автомобіль мав нестандартні номерні знаки штату Нью-Джерсі, які видаються виробникам. Особливість таких знаків у тому, що частина цифр у комбінації (в даному випадку «10» у номері «34 10 DTM») набрана значно меншим шрифтом.
Коли в Лос-Анджелесі один із дилерських центрів Jaguar Land Rover повідомив про втрату знака з номером «34 03 DTM», співробітник поліції під час заповнення протоколу та внесення даних у систему Flock спростив запис, зазначивши номер як «34 DTM» і проігнорувавши дрібні цифри. ШІ-система, налаштована на пошук збігів за основними символами, почала ідентифікувати будь-який автомобіль зі схожою структурою номера як об'єкт розшуку. У результаті Range Rover з номером «34 10 DTM» став ідеальною мішенню для алгоритму.
Ця помилка мала системний характер. З'ясувалося, що в Міннесоті за той самий тиждень система Flock помилково позначила як «викрадені» ще чотири автомобілі JLR, що мали схожий формат заводських номерів (34 ## DTM). Таким чином, технологічна особливість маркування прес-парку в поєднанні з недбалістю оператора перетворила групу автомобілів на «цифрових злочинців» для всієї мережі камер, що співпрацюють із Flock.
Іронію ситуації підкреслює те, що інцидент стався лише за два тижні після публікації масштабного розслідування про ризики конфіденційності та перетворення камер Flock на інструмент тотального стеження. Випадок став живою ілюстрацією того, як теоретичні побоювання щодо «цифрового паноптикуму» матеріалізуються в реальному житті, коли людина опиняється заручником помилки в базі даних, яку неможливо оскаржити в режимі реального часу.
Проблема довіри до подібних систем має глобальний характер. У США вже фіксуються випадки радикального опору: так, інженер ВПС США опинився під слідством після того, як знищив понад десять камер Flock. Суспільне невдоволення викликала і спроба інтеграції Flock з екосистемою Ring. Програма Community Request дозволяла поліції запитувати відео з приватних камер Ring через застосунок Neighbors, фактично перетворюючи приватні домогосподарства на вузли державної мережі спостереження. Однак через масовий протест користувачів, занепокоєних приватністю, співпраця компаній була припинена.
Історія з Range Rover у Міннесоті слугує нагадуванням про те, що автоматизація правоохоронної діяльності без суворого людського контролю та критичного аналізу даних призводить до небезпечних наслідків. Коли алгоритм стає єдиним джерелом «істини», будь-яка одруки в протоколі може призвести до збройного зіткнення на парковці супермаркету.
Безшовний імпорт коду в Google AI Studio
