Фото: Евгений Павленко / Коммерсантъ.

Кажется, в школьной программе всегда существовало это задание — «напишите эссе о будущем». И советские школьники писали, и перестроечные школьники писали, и школьники девяностых писали — писали о том будущем, где однажды власть заменит суперкомпьютер. В этом было что-то очень понятное для того времени, когда вокруг стоял тяжелый воздух распада, государство казалось то мертвым, то хищным, правила обнулились, безопасность была случайной, а жизнь слишком часто зависела от чужой наглости, силы и связей, а новые технологии, компьютеры, мобильные телефоны и интернет уже выглядели как щель в другой, более разумный мир. Если власти коррумпированы, судьи ошибаются, депутаты управляемы чужими интересами, почему бы не отдать управление холодной, точной машине. Тогда это звучало как фантастика.

Сейчас похожая мысль возвращается уже в виде дружелюбных и поддерживающих нейросетей, которые, оказывается, даже не такие бесчеловечные, как в мечтах молодежи девяностых, ведь на каждое наше сообщение они отвечают с пониманием и энтузиазмом. Сейчас они уже пишут тексты, помогают врачам, проверяют документы, считают риски, и где-то в глубине души снова шевелится старая надежда: «А может быть, если государство нельзя сделать справедливым благодаря людям, его можно сделать справедливым благодаря алгоритмам?»

В России эта надежда особенно соблазнительна, потому что здесь хорошо знакома усталость от человеческого произвола — и цифровое государство выглядит как обещание жизни без унижения. «Госуслуги» в массовом воображении давно стали доказательством, что государство иногда может быть удобным. И хоть это кажется контринтуитивным, любовь к цифровизации у российской власти не противоречит блокировкам, замедлениям и запретам. Блокировка в данной реальности — это тоже цифровое управление, просто обращенное другой стороной. В одном случае государство убирает препятствия для удобного сервиса, в другом создает их для ограничения неугодного для них поведения. Это один и тот же технократический жест: реальность надо не обсуждать, а настраивать.

И как уже стало обыденным, когда российская власть говорит об искусственном интеллекте, она почти сразу говорит о суверенитете. Путин неоднократно называл генеративные модели вопросом национальной, технологической и ценностной независимости, говорил о дата-центрах, отечественных разработках и необходимости использовать российские модели в чувствительных сферах. Национальный проект «Экономика данных и цифровая трансформация государства» до 2030 года тоже описывает будущее через управление на основе данных, цифровое госуправление, отечественные платформы и искусственный интеллект.

Фото: Игорь Иванко / Коммерсантъ.

В этих рамках ИИ появляется как часть большого административного воображения, в котором собираются данные, ускоряются процессы, а главное — всё предсказывается, распределяется и контролируется. И тут важно не попасть в слишком простую критику. Удобный сервис действительно удобен, и многие эмигранты, переехавшие, например, в Берлин, часто удивляются тому, как там любят бумаги и письма, хотя хорошая ИИ-модель может заметить ошибку, подсказать врачу, помочь юристу, разгрузить будни чиновника.

Проблема возникает там, где удобство начинает стирать вопрос о том, справедливо ли устроены сами правила. Можно заменить грубого чиновника вежливым интерфейсом, но если за интерфейсом остается закрытая система, у человека просто становится меньше возможностей понять, кто именно принял решение и как его оспорить. И российский опыт уже несколько раз очень ясно показывал, как быстрый удобный сервис может повернуться другой стороной. Так, в 2023 году электронные повестки в военкомат через «Госуслуги» были юридически приравнены…

…к вручению. И это, пожалуй, самый точный пример того, почему разговор об ИИ в российской системе не может быть наивным. Технология здесь почти никогда не приходит в пустое пространство. Она приходит туда, где уже есть вертикаль, силовые органы, закрытые реестры, слабая возможность оспаривания и привычка объяснять любое расширение контроля словом «эффективность».

Поэтому, возвращаясь к фантазии о справедливом алгоритме, нужно спрашивать не только, хорошо ли он считает, но и на кого он будет работать первым. В Москве система распознавания лиц, в основе которой — всё тот же ИИ, уже использовалась для задержаний участников протестов…