Вторая линия критики ещё серьёзнее: тот, кто накапливает данные о человеке, со временем начинает понимать его лучше, чем он сам, — и получает рычаг влияния.
Идея в пересказе. Наши предпочтения — не мистика: они складываются из привычек, реакций, страхов, и всё это оставляет цифровые следы. Система, видящая миллионы таких следов, предсказывает поведение человека точнее его самоотчётов (мы говорим «обожаю классику», а история просмотров показывает сериалы). Дальше вилка: это знание может служить человеку (ранняя диагностика, полезные рекомендации) — или управлять им: точечная реклама, играющая на личных страхах, лента, ведущая к нужному настроению, кампании, адресно давящие на предрассудки конкретных групп избирателей. Опасен не сбор данных сам по себе, а асимметрия: о нас знают всё, мы о системе — ничего. Отсюда же вопрос века: кто владеет данными — человек, корпорация или государство?
Один и тот же профиль интересов: сервису здоровья он помогает вовремя посоветовать обследование, а манипулятивной кампании — показать именно тебе именно тот страх, который заставит проголосовать «как надо».
Подвинь, сколько цифровых следов ты успел оставить, и посмотри, как система предсказывает тебя — и как мало ты знаешь о ней.
Цель: накопи достаточно следов, чтобы предсказание системы достигло 85% и выше — а твоё знание о ней так и останется на нуле.
Работая с данными пользователей, применяй тест асимметрии: понял бы пользователь, ЧТО о нём знают и КАК это используют, — согласился бы он? Если ответ «вряд ли» — продукт строится на манипуляции, и это риск, а не преимущество.
В чём главная опасность накопления данных о людях?