Оказались в книгах Оруэлла: как живут жители городов, за которыми установили тотальную слежку

Китай и появление государства тотального ИИ-надзора

Синьцзян-Уйгурский автономный район расположен на северо-западе Китая. Его огромная территория, примерно в два с половиной раза превышающая площадь штата Техас, граничит с семью странами: Монголией на северо-востоке, Россией на севере, Казахстаном, Кыргызстаном, Таджикистаном, Афганистаном, Пакистаном и Индией на западе.

Здесь суровый климат и негостеприимный пейзаж с преобладанием скалистых гор и пустынь, среди которых разбросаны города, вобравшие в себя большую часть 24-миллионного населения района.

Легендарный Великий шелковый путь — точнее, пути, поскольку он представлял собой сеть дорог, — когда-то пролегал через Синьцзян, что обеспечило этому региону главенство в торговле между Востоком и Западом, способствовавшей развитию цивилизаций во всей Евразии. Марко Поло совершил путешествие по этому пути в конце XIII века и увидел шумные базары и верблюдов с поклажей, похожих на тех, что и сегодня можно встретить в Синьцзяне.

В наши дни Синьцзян оказался в центре внимания не благо даря своей богатой истории, а потому, что крупнейшая этническая группа этого региона, уйгуры, угодила в оруэлловскую антиутопию. В таких городах, как Кашгар, Китай устроил тотальную слежку, сочетая многочисленные полицейские патрули, контрольно-пропускные пункты и передовые технологии.

Практически за каждым жителем города ведется постоянное наблюдение: тысячи камер расположены на улицах, крышах зданий и столбах. Во время передвижения по городу жителей останавливают на контрольно-пропускных пунктах и позволяют продолжить путь лишь после идентификации системами распознавания лиц.

Синьцзян не только эпицентр слежки за гражданами. Это еще и полигон для испытания методов и технологий, которые постепенно распространяются на всю территорию страны. Предполагалось, что к 2020 году Китай установит почти 300 млн видеокамер, многие из которых будут подключены к системам распознавания лиц или используют другие методы слежения на основе ИИ, например идентификацию пешеходов по походке или характеру одежды.

Живущие в Синьцзяне уйгуры, нарушающие установленные правила или интересующиеся запрещенной идеологией, например читающие Коран, рискуют оказаться в одном из огромных «лагерей перевоспитания», созданных китайскими властями в этом регионе.

В других областях страны руководство Китая тоже вознамерилось корректировать поведение с использованием всеобъемлющей системы социального рейтинга.

Постепенно все больше аспектов жизни человека — покупки, поездки, пользование соцсетями и контакты с другими людьми — оказывается под наблюдением, фиксируется и анализируется. Затем на основе этой информации вычисляется общий социальный рейтинг каждого человека. Обладатели низкого рейтинга наказываются, например лишаются права пользования общественным транспортом или возможности записать своих детей в школу.

Эти процессы ускоряются вследствие стремительного превращения Китая в мирового лидера в сфере исследования и разработки искусственного интеллекта. По некоторым показателям, таким как число компьютерщиков и инженеров, работающих в этой области, и количество опубликованных научных статей, Китай уже обогнал Соединенные Штаты.

Страна сделала развитие искусственного интеллекта приоритетной задачей и вкладывает в нее огромные деньги. Судя по всему, ее руководители не только привержены этой цели, но и хорошо ориентируются в вопросе.

Так, распознавание лиц широко применяется в Соединенных Штатах и других демократических странах, что уже вызвало острые дебаты и обвинения в предвзятости и злоупотреблении властью. Эти вопросы чреваты серьезными проблемами, и ситуация станет усугубляться с ростом возможностей и распространением новых технологий, если, конечно, их использование не будет строго регулироваться.

Как Китай вырвался на передний край исследований и разработок в сфере искусственного интеллекта

В июне 2018 года в Солт-Лейк-Сити, штат Юта, прошла значимая конференция, посвященная компьютерному зрению. За шесть лет после состязания ImageNet 2012 года эта область знания совершила огромный рывок, и теперь исследователи занялись решением намного более сложных проблем. Одним из самых ярких событий на конференции стал конкурс Robust Vision Challenge, проводившийся на средства ведущих компаний, в том числе Apple и Google.

Команды из университетов и исследовательских лабораторий всего мира участвовали в серии соревнований, где требовалось продемонстрировать надежное распознавание визуальных образов в разных ситуациях, скажем при искусственном и естественном освещении или при разных погодных условиях.

Эта способность имеет принципиальное значение для беспилотных автомобилей и роботов, действующих в изменяющейся обстановке.

Один из самых интересных этапов состязания был посвящен стереоскопическому машинному зрению — использованию двух видеокамер во многом подобно нашим глазам. Интерпретируя визуальную информацию, получаемую с разнесенных на небольшое расстояние точек обзора, наш мозг создает трехмерное представление наблюдаемой сцены. С помощью двух соответствующим образом размещенных камер алгоритм может делать нечто похожее.

К удивлению многих, победительницей оказалась группа исследователей Национального университета оборонных технологий из Китая. Университет был основан в 1953 году как центр подготовки инженерных кадров Народно-освободительной армии и получил множество национальных наград за исследования и инновации, особенно в области компьютерных наук.

Согласно информации на его сайте, университет «опирается в своей образовательной деятельности на сформулированную [Коммунистической] партией новую теорию воспитания ее верных и квалифицированных сторонников». Это весьма яркое свидетельство того, что в Китае между исследованием ИИ в научных или коммерческих целях и политическими, военными и силовыми структурами существует в лучшем случае очень проницаемая граница.

Вторжение практически во все аспекты экономической и социальной жизни страны и их контроль в той или иной мере — норма для китайских властей. Стремительный прогресс Китая в области искусственного интеллекта стал возможным благодаря политике в отношении промышленности, сформулированной руководством страны.

По мнению многих, катализатором внезапного интереса к ИИ со стороны Коммунистической партии Китая стал нашумевший турнир между системой AlphaGo разработки DeepMind и чемпионом по го Ли Седолем, состоявшийся в марте 2016 года. Го появилось в Китае по меньшей мере 2500 лет назад и пользуется там огромной популярностью и невероятным почтением.

Триумфальную победу AlphaGo со счетом 4:1 в этом турнире, проходившем в течение семи дней в южнокорейском Сеуле, наблюдали в прямом эфире более 280 млн китайцев — почти в три раза больше народа, чем обычно собирается у экранов во время матчей Суперкубка. Абсолютная победа компьютера над одним из сильнейших в мире игроков в интеллектуальном состязании, имеющем глубочайшие корни в китайской истории и культуре, произвела неизгладимое впечатление как на общество, так и на китайских ученых, технологов и чиновников.

Ли Кайфу, венчурный капиталист и писатель из Пекина, сравнивает результат матча между AlphaGo и Ли Седолем с «эффектом „Спутника“», имея в виду советский искусственный спутник Земли, запуск которого мобилизовал американское общество на поддержку космической программы в США в 1950-х годах.

Всего через год в китайском Учжэне прошло второе состязание. На турнире из трех матчей с призовыми $1,5 млн для победителя AlphaGo наголову разбила китайского мастера Кэ Цзе, в то время сильнейшего игрока в мире. На сей раз, однако, никто не следил за поединком в прямом эфире. Китайские власти, вероятно предвидя результат, наложили запрет на трансляцию турнира в реальном времени и даже на его комментирование.

Через три месяца после того, как Кэ Цзе проиграл AlphaGo, в июле 2017 года, центральное правительство Китая обнародовало четкий план, в котором искусственный интеллект был объявлен стратегическим приоритетом страны.

В документе под названием «План создания искусственного интеллекта нового поколения»^* заявлялось, что ИИ призван «произвести колоссальные изменения в обществе и жизни людей и изменить мир», и описывался чрезвычайно смелый пошаговый курс к достижению господства в этой технологической области к 2030 году.

К 2020 году, писали авторы плана, «общее состояние и применение технологии ИИ в Китае будут соответствовать ведущим мировым образцам» и «отрасль ИИ станет новым важным центром экономического роста».

Далее, «к 2025 году Китай совершит принципиальные прорывы в основных теориях ИИ, вследствие чего некоторые технологии и приложения займут лидирующее положение и ИИ станет главной движущей силой промышленного развития и экономического преобразования Китая».

Наконец, «к 2030 году лидерство китайских теорий, технологий и приложений ИИ превратит страну в глобальный центр инноваций в области ИИ, позволит добиться заметных результатов в интеллектуальной экономике и заложит фундамент для превращения Китая в ведущую державу инновационного типа и главную экономическую силу».

Опубликование этого документа знаменательно не потому, что у центрального правительства Китая есть возможность напрямую влиять на развитие искусственного интеллекта в стране, а по той причине, что в нем определена общая стратегия и, что, пожалуй, еще важнее, созданы очевидные стимулы для региональных и местных властей.

В системе управления Китаем значительной властью наделяются деятели Коммунистической партии, которые руководят регионами и городами. Продвижение по партийной лестнице носит по большей части меритократический характер, и развитие карьеры партийца очень сильно зависит от того, как он проявляет себя в конкурентной экосфере, где ценятся результаты, определяемые по определенным критериям.

Для тех, кому удается выдвинуться, практически не существует пределов роста. Си Цзиньпин большую часть своей карьеры руководил провинциями Фуцзянь и Чжэцзян, а затем Шанхаем.

Еще до того, как центральные власти открыто одобрили искусственный интеллект, некоторые регионы уже инвестировали в него значительные средства и поддерживали стартапы, занимающиеся ИИ.

В значительной степени эта деятельность была сосредоточена в промышленном коридоре высокий технологий, в частности в городе Шэньчжэнь на юге и районе Чжунгуаньцунь в северо-западной части Пекина, который находится рядом с двумя самыми престижными университетами страны, Пекинским и Цинхуа, и часто именуется китайской Кремниевой долиной.

Стратегический документ, опубликованный в 2017 году, фактически стал индикатором успешности в области ИИ, по которому, как было ясно региональным руководителям, их, скорее всего, будут оценивать.

В результате регионы и города всей страны быстро включились в соревнование, создавая особые экономические зоны и инкубаторы стартапов и предоставляя венчурный капитал и дотации на аренду помещений стартапам, занимающимся ИИ. Инвестиции отдельно взятого города вполне могут достигать нескольких миллиардов долларов.

Подобное общее координирование сверху вниз с акцентом на инновации трудно представить в Соединенных Штатах. Американский вариант конкуренции регионов обычно гораздо ближе к игре с нулевой суммой — Техас переманивает фирмы из Калифорнии, города предлагают большие налоговые льготы крупным компаниям в обмен на возвращение производств, создающих рабочие места.

Стремительный прогресс Китая в области искусственного интеллекта опирается на ряд принципиально важных преимуществ этой страны. Многие из них — прямое следствие огромного населения.

В марте 2020 года в Китае насчитывалось около 900 млн активных пользователей интернета, больше чем в США и Европе вместе взятых, примерно одна пятая от общемирового показателя. Однако доступ к интернету имеют лишь около 65% населения Китая, тогда как в Соединенных Штатах — 90%. Иными словами, у Китая намного больший потенциал роста онлайнового присутствия.

Среди 1,4 млрд китайцев огромное количество умных и амбициозных старшеклассников и студентов, стремящихся в совершенстве овладеть такими технологиями, как глубокое обучение, в надежде со временем стать участниками — или основателями — одного из многочисленных стартапов, занимающихся ИИ.

Стоимость многих из этих компаний уже превысила $1 млрд. Эти молодые люди — одни из самых увлеченных и заинтересованных слушателей онлайновых курсов ведущих американских университетов, например МТИ и Стэнфорда. Они активно штудируют статьи, написанные сильнейшими исследователями ИИ из Северной Америки и Европы.

В результате в Китае быстро формируется крупный резерв талантливых и невероятно трудолюбивых инженеров, которые скоро будут готовы применять ИИ практически во всех сферах китайской экономики и общества.

Самым важным преимуществом является просто объем, а также тип данных, активно создаваемых экономикой Китая. Китай — развивающаяся страна, где в устаревшую инфраструктуру вложено намного меньше средств, чем в развитых экономиках, благодаря чему это государство сразу скакнуло на передний край мобильных технологий.

Китайцы используют смартфоны значительно разнообразнее типичного западного человека. Особую роль в этом играет популярное приложение WeChat, созданное Tencent и выпущенное на рынок в 2011 году. Оно стало невероятно популярным в Китае, а также в китайских диаспорах в других странах.

В своей основе WeChat — это мессенджер наподобие WhatsApp от Facebook (запрещенная в России экстремистская организация). Однако Tencent с самого начала приняла решение радикально увеличить доступность WeChat, позволив третьим сторонам добавлять к приложению собственные функции через так называемые официальные аккаунты.

Фактически мини-приложения, они невероятно популярны у всевозможных коммерческих организаций, особенно если сочетаются с функцией электронных платежей, имеющейся в WeChat.

В Соединенных Штатах и других западных странах нормой является наличие у каждой фирмы собственного мобильного приложения. В Китае WeChat превратился в своего рода платформу, и миллионы фирм и организаций используют его для взаимодействия с публикой.

Китайцы пользуются WeChat не только для общения, но и для расчетов в ресторанах, записи на прием к врачу, онлайн-знакомств, оплаты коммунальных счетов, вызова такси — практически для всего на свете. Количество сервисов, доступных через WeChat, постоянно растет.

В отличие от таких систем, как Apple Pay, пользование которой осложняется для продавцов необходимостью покупать дорогостоящее оборудование для точек продаж, чтобы провести мобильный платеж через WeChat, достаточно предъявить покупателю штрихкод для сканирования.

В результате даже мелкие фирмочки, вплоть до уличных торговцев едой, могут с легкостью получать цифровые платежи. В Китае платежный сервис WeChat намного популярнее кредитных карт и во многих местах вытесняет даже наличные.

В общем, цифровая активность в Китае несоизмеримо выше, и ее проникновение в экономику в целом намного больше, поскольку она захватывает даже тот поток транзакций, который в Соединенных Штатах или Европе, скорее всего, проходил бы офлайн. Каждый платеж, каждое бронирование, каждая поездка на такси и каждое взаимодействие, независимо от типа, генерирует данные, идеально подходящие для поглощения алгоритмами глубокого обучения.

Данных в Китае не только больше, они еще и гораздо доступнее для предпринимателей в области ИИ. Хотя правовая защита неприкосновенности личных данных существует, она далеко не такая строгая, как в Соединенных Штатах и особенно в Европе. Китайская публика, со своей стороны, не слишком озабочена этим вопросом.

Обеспокоенности по поводу неприкосновенности частной жизни или, скажем, расовой предвзятости алгоритмов — вопросов, моментально вызывающих ярко выраженное недовольство в демократических обществах, — в Китае нет или практически нет.

Если получение компанией Google данных министерства здравоохранения, первоначально передаваемых по контракту DeepMind, немедленно вызвало гневный протест в Великобритании, то китайские технологические компании обычно не встречают особых препон на пути к прибыльному использованию искусственного интеллекта в таких областях, как здравоохранение и образование.

Если данные — это новая нефть, то китайские предприниматели в области ИИ — это новые поисковики, которые бурят скважины и ставят нефтяные вышки в самых многообещающих местах слабо контролируемого цифрового поля.

Еще до взрывного роста числа стартапов в области ИИ ведущие технологические компании Китая, особенно Tencent, Alibaba и Baidu, вкладывали огромные деньги в исследование и разработку искусственного интеллекта. Baidu, которую часто называют китайской Google, главная в стране поисковая машина, приобрела огромный опыт в таких областях, как распознавание речи и языковой перевод, и активно проникает в другие сферы.

Так, в 2017 году Baidu создала Apollo, платформу с открытым кодом для беспилотных транспортных средств (в сущности, нечто вроде Android для беспилотников), которую она предоставляет бесплатно компаниям из сильно фрагментированной автомобильной отрасли Китая.

Партнерами программы стали транснациональные автопроизводители, в том числе BMW, Ford и Volkswagen, а также поставщики технологий, такие как NVIDIA. Взамен Baidu получает доступ к генерируемым транспортными средствами данным, на которых затем может обучать свои алгоритмы.

Иначе говоря, Baidu проводит уникальную стратегию, в перспективе обещающую преимущества, которыми пользуется Tesla благодаря сотням тысяч своих машин, оснащенных видеокамерами.

_{Отрывок из книги Мартина Форда «Власть роботов: Как подготовиться к неизбежному». М.: Издательство «Альпина нон-фикшн», 2022}