Государство и частные компании следят за нами: как жить и выживать в новых условиях?

В Москве прошёл VII Общероссийский гражданский форум. На одной из площадок в ходе дискуссии эксперты в области права и IT-технологий обсудили риски тотальной слежки, поговорили о том, какие цели преследует государство и какие ресурсы на это тратит, какой опасности подвергаются при этом граждане и как они могут защитить себя.

Мы приводим цитаты наиболее важных, на наш взгляд, высказываний основных спикеров форума.

«У нас нет модели свободного цифрового будущего»

Саркис Дарбинян, глава юридической практики «Роскомсвободы»

— Мы все привыкли, что за нами следят. Следит государство, следят госкорпорации, следят простые компании, следят все. Если раньше мы могли какими-то механизмами себя защитить в онлайн-пространстве — заклеивали наши камеры, включали VPN, заходили в переговорку и выключали телефоны, чтобы конфиденциально переговорить, — то сейчас всё поменялось. Сохранить приватность становится всё сложнее. Если раньше мы также могли, например, выйти из своего дома, выключить телефон и под покровом сумерек куда-то уйти, оставаясь анонимным «в офлайне», то сегодня мы фактически лишены этой возможности.

Технология распознавания лиц позволяет идентифицировать каждого человека, и скоро она будет способна распознать людей в потоке

Технология развивается очень быстро, и в ближайшем будущем она позволит любого человека идентифицировать и точно установить, кто он такой, куда передвигался, сопоставить эту информацию с его цифровыми профилями и получить огромное количество актуальной и иногда значимой для человека информации. Пятая поправка к Конституции США, как сказали суды, сегодня распространяется на пароли и пин-коды. То есть любое принуждение к выдаче пин-кода и пароля приравнивается к самооговору. У нас такого пока нет, наши суды по этому поводу ничего не говорят. Тем не менее, вы спокойно можете отказаться разблокировать своё устройство, и вам за это ничего не будет. Когда мы говорим о биометрии, надо понимать, что когда нас идентифицируют с помощью биометрических данных, мы никогда не сможем эти данные поменять. Они остаются навсегда и становятся ключами к совершению каких-то действий. Если прибавить к этому искусственный интеллект, который будет принимать юридически значимые решения после нашей идентификации, например, доступность определённых услуг, их цены, то, я думаю, в ближайшее время мы можем проснуться в миксе из романа Оруэлла, первой серии третьего сезона «Чёрного Зеркала» и фактически уже реализованной модели того цифрового ужаса, который происходит в восточном Туркестане.

Именно по этой причине я и моя команда сегодня боремся за введение моратория на использование технологии распознавания лиц и говорим о том, что пока надо притормозить со оцифровкой человека. Мы сегодня говорим, что ещё рановато в условиях фактически неконтролируемой слежки, в условиях отсутствия каких-либо гарантий от злоупотреблений и от утечек, позволять цифровать наши личности и использовать технологии, которые могут нас идентифицировать.

Цифровой тоталитаризм ближе, чем мы думаем, и он может настать внезапно

Сегодня также важно осознать, что это технология двойного назначения. Она помогает велосипедисту построить маршрут, но, с другой стороны, она позволяет угнетать гражданские свободы и свободу личности каждого человека. Технология распознавания лиц способна не только контролировать поведение, но и менять его. Зная, что эта технология может вас идентифицировать, вы можете отказаться идти на гражданский протест, в мечеть или на какие-то общественно-политические мероприятия.

Для того, чтобы нам дальше продвигаться в развитии цифровой экономики, основанной на цифровизации личности, надо серьёзно подумать о создании гарантий для свободы каждого человека. А пока у нас нет модели свободного цифрового будущего, по крайней мере, той модели, которую разделяли бы все мы: гражданское общество, бизнес и органы власти. Но я скажу, что у официальных органов власти есть своя модель, и они эту модель реализовывают последовательно на протяжении последних семи лет, сколько мы мониторим законодательство. И эта модель очевидна. Она направлена на получение контроля над распространением контента, над поведением пользователя, и получение контроля над инфраструктурой, вместе с введением суверенного интернета. К сожалению, диалога с властью никакого нет.

«А оно вам надо — знать, как на самом деле, если вам здесь хорошо?»

Дмитрий Мариничев, интернет-омбудсмен, член экспертного совета АСИ и генерального совета «Деловой России»

— Насколько глубоко государство имеет право влезать в нашу жизнь, собирать о нас информацию и использовать её? Отвечу на вопрос так: что хочет, то и делает. На самом деле, любые информационные системы — инструменты и технологии — по умолчанию нейтральны. То, как мы их применяем, зависит только от того, что у нас в головах.

Деньги у государства — монопольная функция, как и право на насилие

Когда мы с вами здесь присутствуем и наезжаем на государство, говоря, «как они могут за нами следить, это недопустимо, у нас нет частной жизни, везде камеры», «в магазине нас идентифицировали, когда мы покупали пакет молока», вероятно, так и должно быть. Если государство ощущает себя, как цельную сущность, то оно управляет своими элементами так, как оно хочет. И если те, кто находятся в этой сущности, воспринимают государство даже не как старшего брата, старшего товарища, не как надзорный орган, а чувствуют себя в состоянии подчинённости и у них нет осознанной возможности выхода из этой системы, то так оно и будет.

В ближайшее время бесполезно рассказывать государству, как делать не надо. Уверяю вас, что любой, кто попадёт в состояние, например, руководителя Роскомнадзора, будет выполнять ту функцию, которая необходима этой новой сущности для того, чтобы эта сущность росла, развивалась и здравствовала. Отсюда вывод, что должна возникнуть, условно говоря, новая религия, которая позволит людям выходить ментально из состояния подчинённости информационной системе или какой-либо сущности, которая использует эту информационную систему. Может быть, это чем-то будет похоже на фильм «Матрица». Единственное, о чём надо думать: а оно вам надо — знать, как на самом деле, если вам здесь хорошо? Например, большая часть китайцев, о которых мы так печёмся, что их там гнобят, чувствуют себя просто замечательно, и никаких притязаний у них в головах нет. О государстве и о том, что государство с ними делает, они отзываются только тепло и только хорошо.

А оно вам надо?

Вы говорите, что камеры на улицах не должны нас снимать и записывать прохожих, а тем более распознавать их лица. А я не могу с этим согласиться. Это вопрос целеполагания, вопрос, на чьей стороне ты стоишь. Когда у человека случается беда, он сразу бежит в полицию: милые, родненькие, помогите. Но при прочих равных он всегда будет ругать МВД и крыть их последними словами. У меня брат полицейский, они сами про себя шутят. Говорит, посмотришь — каждый человек приличный, есть о чём пообщаться, а как вместе соберутся — полиция получается.

Общество начинает делиться на состояния, с какого конца разбивать яйцо — с острого или с тупого. Государственные модели конкурируют между собой, пытаются оболванить своих граждан: что вот у них всё плохо и не так, а у нас всё правильно и так. Мы сейчас находимся в экономическом феодализме, и этот экономический феодализм провоцируется главной ценностью — деньгами. Деньги у государства — монопольная функция, как и право на насилие. Нужно перейти из состояния подчинения, нахождения в экономическом феодализме, в состояние, когда люди сами себе государство, сами себе Центробанк и взаимодействуют друг с другом в рамках среды, которую они создали, у которой нет администратора и нет функции делегированных полномочий.

«Поезд не ушёл, поезд превратился в космический спутник»

Артур Хачуян, основатель Tazeros Global (Ex Social Data Hub), специалист по системам искусственного интеллекта для обработки больших данных

— О технологии распознавания лиц сейчас кричат со всех углов. Я считаю, что обсуждать вопрос «хорошо это или плохо?» абсолютно бесполезно. По одной простой причине — нет ни единого, ни малейшего шанса, что государство от этой системы откажется. Не верю я, что даже в параллельной вселенной такое произойдёт, что Россия завтра выпустит мораторий. Даже если такой документ юридически появится, всё равно спецслужбы будут внутри себя это использовать.

Власть государству передали мы сами, отдав свои данные

Второе, по поводу коммерческих компаний, которые используют персональные данные. Данных стало намного больше, они стали приносить экономическую выгоду. Но давайте ответим себе честно на один вопрос. Кого-то заставляли регистрироваться в «Фейсбуке», «Инстаграме», прочих сервисах? Частные компании потратили миллиарды долларов на то, чтобы создать сервисы, создать новую экономику — ты получаешь бесплатный сервис, за это твои данные уходят в оборот, тебе показывают рекламу. Никого не заставляли этими сервисами пользоваться. Мы пропустили тот момент, когда «Телеграм» стал национальным мессенджером. Или есть созданный «Ростелекомом» поисковик «Спутник», но все пользуются «Гуглом».

Что же хочет российское государство? Оно находится в позиции обиженного ребёнка — 15 лет назад ему предлагали инвестировать кучу денег в развитие инфраструктуры, чтобы бизнес хорошо работал, оно отказалось, а сейчас хочет всё зарегулировать. Кто-то мне однажды сказал: «Как там всё зарегулировать, если поезд ушёл?» Поезд не ушёл, поезд превратился в космический спутник. Моя концепция такова: я не верю в государственное регулирование по одной простой причине. Государство никогда не будет развиваться так же быстро, как коммерческие компании, потому что ты либо имеешь креативное мышление, либо идёшь на госслужбу.

Оставьте в данном случае власть частным компаниям

Единственное, что, на мой взгляд, сейчас реально гражданскому обществу требовать, — это заставить частные компании выпустить некий единый стандарт для рынка по регламентации работы с персональными данными. В последнее время каждую неделю появляются новости, что у «Фейсбука» опять украли данные. И большая серьёзная компания сейчас вынуждена сообщать людям об утечках и укреплять свою информационную безопасность. А с чего государству быть заинтересованным в охране ваших данных? Разве государство сделает закон, по которому оно будет само на себя накладывать штрафы? Кто их заставит? У них нет мотивации ни за какими данными бегать. Главная мысль, которую я хочу до вас донести — никто не защитит ваши персональные данные лучше компании, которая на этих данных зарабатывает. Для них это хлеб, нефть, деньги. Если их этих данных лишить, они перестанут зарабатывать, это их мотивация. Естественно, они самое технологически продвинутое звено.

«Хватит врать»

Николай Дмитрик, руководитель департамента нормативного регулирования цифровой экономики Национального центра цифровой экономики МГУ им. М. В. Ломоносова

— У нас есть два разных института: это институт неприкосновенности частной жизни, что закрепляется декларацией прав человека, европейской конвенцией прав человека, и есть более новый институт персональных данных. И если до середины 70-х годов процесс отчуждения информации от человека пытались развернуть, говорили, что есть некая область, где есть человек, где есть его частная жизнь, куда лезть нельзя, потому что иначе произойдут все те ужасы, что произошли в середине 20 века, то сейчас достаточно понятно, что процесс отчуждения данных от человека идёт, развернуть его нельзя, и регламентировать этот процесс пытается законодательство по защите персональных данных. Как именно оно это делает, говорить можно по-разному. Видимо, делает не очень хорошо и не во всем мире. В Китае, Индонезии, Индии говорить о защите персональных данных не приходится, а большая часть населения живёт именно там.

Не надо гадить в облако

Я хочу сказать про более важные закономерности, чем обработка персональных данных. Мы говорим о том, что частная жизнь — это наша частная жизнь, что есть «я» и есть «они», которые обрабатывают персональные данные обо мне, наблюдают за мной, контролируют моё поведение и так далее. Но если мы задумаемся поглубже, возникнут вопросы, кто такие «они». Те, кто следит за нами, и эти же люди, выйдя на улицу, оказываются объектами слежки систем наблюдения. Те, кто создает системы наблюдения, являются объектами слежки других. Нет никаких «они», есть только «мы». Из этого следует принцип — не надо гадить в облако. Мы все живём в этом облаке. Если мы его испортим, нечего будет кушать.

Для того, чтобы жить в этом облаке, нам надо понимать, что может быть стратегией нашей жизни здесь. Стратегия первая основывается на понимании данных о нас как данных, которые имеют ценность в силу связи с нами. Если данные обрабатываются, то они обрабатываются из-за того, что это наш двойник. Если это не наш двойник, то от этих данных надо избавляться. Зачем они вообще нужны? Соответственно, нет никакой проблемы заявить права на наши данные, потому что они обрабатываются в связи с нами.

Ещё одна стратегия — это понимание данных как инвестиций. Это лекарство или это ядерное топливо? Есть некоторая дозировка, которая может помочь. Если мы за эту дозировку переходим, это отравляет нас или даёт угрозу взрыва. Ещё одна стратегия — мы говорим о согласии как об элементе проявления неотъемлемого блага. То есть мы его всегда оставляем за человеком, говорим, что человек не может это доверить никому другому. Или мы говорим, что он может доверить это кому-то другому, и мы переходим в парадигму договорных отношений.

Есть универсальные принципы, которые на самом высоком уровне всё это регламентируют. Первый признак — транспарентность, по-простому — хватит врать. Правду говорить легко и приятно. Чем больше мы знаем о том, что делается и что происходит, тем больше у нас возможностей выбрать ту стратегию и сделать наше облако максимально чистым и воздушным. Следующий принцип — ограниченность целей. Всё то, что связано с человеком, должно оставаться на усмотрение человека. За ним должно оставаться право решать, что будет делаться на основе этих данных. И последний принцип говорит о том, что в науке называется «законность и справедливость». Не человек существует для того, чтобы производить данные, а данные обрабатываются ради человека.