Как изменится мир, которым будут управлять разумные машины?

На пути к новому человеческому будущему

В эпоху ИИ сохранятся и разум, и вера, но реальность, в которой они будут существовать, коренным образом изменится из-за появления новой мощной формы разума, управляемого машиной. Наверное, основой человеческой идентичности останется одушевленный интеллект, но теперь человеческий разум не будет единственной формой интеллекта, пытающейся познать мир. Чтобы определить наше место в новом мире, возможно, придется сместить акцент с центрального места человеческого разума на наши достоинство, человечность и самодостаточность.

На данном этапе компании и правительства занимаются интеграцией ИИ в общественную и политическую жизнь от случая к случаю и активно берутся за дело лишь тогда, когда что-то идет не так. Это позволяет откладывать принятие сложных решений. Чтобы не оставлять без внимания то, как ИИ влияет на человеческий опыт и человеческую идентичность, нам придется действовать более четко.

Взгляды на природу человека и структуру общества политических теоретиков Просвещения — Гоббса, Локка, Руссо и многих других — вытекали из знаний о природе.

Другие философы задавались вопросом, как объединить и распространить человеческие знания, чтобы обеспечить просвещенную власть и процветание человечества. Мы не решим проблемы интеграции ИИ, не предприняв всесторонних усилий к пониманию природы человека.

Первым шагом должно стать осознание наших возможностей. Мы можем поступить тремя способами: либо ограничить ИИ, либо отнестись к нему как к равному партнеру, либо отступить перед ним. Каждая страна должна будет определиться с тем, какой подход к ИИ в каждом конкретном случае ей ближе, в соответствии со своими ценностями, потребностями и возможностями. Совокупность таких решений и определит культуру и мировоззрение каждого общества.

Можно проявить осторожность и оставить ИИ в роли младшего партнера, ограничив его использование отдельными функциями и описав, когда, где и как он может применяться. Государства или отдельные люди могут оставить за собой главенствующую роль, низведя ИИ до положения вспомогательного персонала. Но эти ограничения могут не выдержать проверки реальным соперничеством, о чем свидетельствуют проблемы безопасности.

Какая компания откажется от возможностей ИИ, которые успешно использовал для вывода популярных продуктов или услуг на рынок ее конкурент, если этому не будут препятствовать серьезные этические или юридические ограничения? Если ИИ позволяет администратору, архитектору или инвестору делать успешные прогнозы или контролировать ситуацию, разве они не воспользуются этим? Отдельные ограничения на различные виды использования ИИ, вероятно, придется принимать на уровне стран или даже на международном уровне.

Это значит, что новое понимание человеческой идентичности будет отражать примирение с нашими новыми отношениями с ИИ и с окружающим миром. Будут выделены отдельные области деятельности, в которых останется главенствовать человек.

В то же время будут развиваться социальные структуры и привычки, необходимые для понимания и плодотворного взаимодействия с ИИ. Государства должны создать интеллектуальную и психологическую инфраструктуру для взаимодействия с ИИ, используя его на благо человека. Технология потребует адаптации во многих, более того, в большинстве аспектов политической и социальной жизни.

ИИ может взять на себя ведущую роль в исследовании и управлении как физическим, так и цифровым миром. В определенных областях люди могут подчиниться ИИ, предпочитая его возможности ограничениям человеческого разума. Такое подчинение побудит многих или даже большинство людей уйти в собственные, индивидуальные миры. В этом сценарии мощь ИИ в сочетании с его вездесущностью, невидимостью и непрозрачностью поставит тревожные вопросы о перспективах свободного общества и даже свободы воли.

При каждом отдельном развертывании ИИ будет крайне важно определить баланс. Обществу и его лидерам придется выбирать, когда люди должны быть уведомлены о том, что они имеют дело с ИИ, а также какими полномочиями они обладают в этом взаимодействии. В конечном счете благодаря этому выбору появится новое понимание человеческой идентичности для эпохи ИИ.

Некоторые страны и институты могут постепенно приспособиться к ИИ. Или же они могут обнаружить с его помощью противоречия между своими основными принципами и собственным восприятием реальности и самих себя. Поскольку ИИ способствует повышению уровня образования и доступа к информации, даже вопреки тому, что увеличивает возможности для манипуляций, это может увеличивать напряжение.

Когда люди лучше информированы, лучше оснащены и имеют подтверждение своей точки зрения, они могут требовать от своих правительств большего. Для США это особенно актуально.

И здесь вырисовывается несколько принципов. Во-первых, чтобы обеспечить независимость человека, основные правительственные функции не должны осуществляться ИИ — выполнять их и контролировать их выполнение должен человек.

С тех пор признано, что, помимо разума, люди отличаются склонностью к формированию сложных обществ и осуществлению скоординированных действий. Принципы, присущие нашим обществам, обеспечивают мирное разрешение споров. Порядок и легитимность в этом процессе взаимосвязаны: порядок без легитимности — это просто сила, которая не может долго существовать.

Важное значение для поддержания легитимности будет иметь человеческий надзор и определяющее участие человека в основных элементах управления. Ни ИИ, ни его создатели в настоящее время не могут точно описать, как ИИ приходит к тем или иным выводам.

Однако, например, в системе правосудия легитимность принятых решений определяют именно объяснение и моральное обоснование — они позволяют оценивать справедливость суда и оспаривать его выводы, если они не соответствуют моральным принципам общества. Из этого следует, что и в эпоху ИИ лицами, принимающими решения, должны оставаться квалифицированные люди, способные обосновать сделанный выбор.

Демократия тоже должна оставаться «человеческой». На самом базовом уровне это означает защиту целостности демократических обсуждений и выборов. Нужна не только возможность высказаться — само человеческое слово должно быть защищено от искажения ИИ. Свобода слова сохраняется для людей, но не распространяется на ИИ. Как уже говорилось, ИИ способен в больших объемах генерировать дезинформацию очень высокого качества, например цифровые фабрикации, которые очень трудно отличить от реальных видео- или аудиозаписей.

Синтез речи, безусловно, нужен, но не менее важно дифференцировать синтезированную речь ИИ и человеческую речь. Хотя регулирование посредничества ИИ, предотвращающее продвижение дезинформации, будет сложным, но оно будет иметь решающее значение, поскольку в демократическом обществе речь позволяет гражданам обмениваться актуальной информацией, принимать активное участие в демократическом процессе и заниматься самореализацией, создавая произведения различных видов искусства.

Является ли сфабрикованный ИИ диалог между двумя общественными деятелями, которые никогда не встречались, дезинформацией, развлечением или политическим расследованием? От чего зависит ответ — от контекста или от участников? Может ли человек запретить создание фабрикаций со своим «участием» без его личного разрешения? А если разрешение получено, становится ли синтезированный контент от этого более подлинным?

В конечном счете каждая страна должна сама решить, каким образом она будет использовать и как ограничивать использование ИИ в различных областях. И применение ИИ, и его ограничения нужны для различных целей, важных для общества, — от использования ИИ-помощников для защиты детей от агрессии до предотвращения использования ИИ для создания смертельных вирусов или вредоносных программ.

Доступ к определенным мощным ИИ, таким как AGI, необходимо будет строго ограничивать, чтобы предотвратить злоупотребления. Поскольку разработка AGI, скорее всего, будет настолько дорогой, что их будет создано немного, доступ к ним будет в любом случае ограничен.

Реализация других ограничений, например ограничения использования ИИ для производства биологического оружия, потребует международного сотрудничества.

На момент создания этой книги ЕС уже изложил планы по регулированию ИИ, направленные на обеспечение баланса между европейскими ценностями, такими как конфиденциальность и свобода, экономическим развитием и поддержкой европейских компаний, работающих в сфере ИИ.

Эти правила прокладывают для Европы курс между Китаем, где значительные средства в ИИ вкладывает государство, и США, где исследования и разработки в области ИИ в основном отданы на откуп частному сектору. Их основная цель — контролировать использование компаниями и правительствами данных и ИИ, а также способствовать созданию и росту европейских компаний, занимающихся ИИ. В нормативной базе должна учитываться оценка рисков различных видов использования ИИ.

Применение правительствами некоторых технологий, считающихся высоко рисковыми, таких как распознавание лиц (хотя оно имеет и полезное применение, например поиск пропавших без вести и борьба с торговлей людьми), должно быть ограничено или даже запрещено. Исходная концепция регулирования будет активно обсуждаться и изменяться, но уже сейчас она иллюстрирует то, как общество определяет необходимый для улучшения образа жизни людей диапазон ограничений ИИ.

В США академические группы и консультативные органы уже начали изучать взаимосвязь существующих процессов и структур с развитием ИИ. К ним относятся такие академические активности, как инициатива МИТ, посвященная будущему трудовой деятельности, и такие правительственные организации, как Комиссия национальной безопасности по искусственному интеллекту.

Но эти усилия остаются специализированными и поэтому не всегда попадают в поле зрения электората. Страны, которые откажутся от анализа взаимодействия с ИИ, неизбежно отстанут от стран, которые занимаются таким анализом и тем самым повышают материальные и интеллектуальные преимущества, которые предлагает партнерство с ИИ.

Потребуется новая форма мышления, выходящая за рамки традиционных дисциплин или школ. Чтобы отвечать сложности происходящих изменений, необходимо научиться по-новому интегрировать области знания. Университеты, правительства, технологические компании и др. должны стремиться обсуждать — в той степени, в какой это соответствует их задачам, — свои вопросы, идеи, представления и открытия, сделанные в этой области.

Страны, которые занимаются подобными исследованиями, придут к разным выводам, отражающим их историю и взгляды. Так же, как меняются концепции и институты, разработанные разными странами для упорядочения фундаментальных знаний, будут меняться и создаваемые в разных странах ИИ, а также понимание аналитической, прогнозной и генеративной деятельности — и как это влияет на их нормы и институты.

Поскольку данные, на которых обучается ИИ, содержат культурные предпочтения стран, в которых это происходит, то в одних частях света ИИ может усилить централизацию, консенсус и конформизм, а в других — способствовать либерализации и плюрализму. Для обеспечения мира во всем мире придется выработать способы сосуществования этих целей и подходов.

Изменение восприятия реальности и самих себя

Простой факт заключается в том, что реальность с точки зрения ИИ может оказаться не такой, как представляли себе люди. В ней могут быть закономерности, которых мы никогда не замечали и не сможем осмыслить. Ее глубинная структура, изученная ИИ, может оказаться невыразимой на человеческом языке. Как заметил один из наших коллег по поводу Alpha Zero: «Подобные примеры показывают, что есть способы познания, недоступные людям».

Если для того, чтобы обозначить границы современного знания, мы поручим ИИ исследовать недоступные нам области, он может раскрыть нам закономерности или дать прогнозы, которые мы не до конца поймем. Вновь могут оказаться актуальными идеи гностиков о личном духовном знании, более важном, чем традиционные учения и опыт.

Мы можем подойти на шаг ближе к концепции чистого знания, менее ограниченного структурой нашего разума и шаблонами человеческого мышления. И тогда нам придется не только пересмотреть свою роль единственных знатоков реальности, но и переопределить саму реальность, в которой, как мы полагали, мы живем. И даже если реальность окажется именно такой, как мы думали, ИИ останется мощным инструментом для ее более глубокого анализа, переопределяющим наши взаимоотношения с новым пониманием реальности и друг с другом.

Когда ИИ распространится повсеместно, некоторые поспешат объявить о беспрецедентном успехе человечества на пути к познанию и обустройству нашего мира. Будет и противоположное мнение — что наши возможности куда меньше, чем нам казалось ранее. В любом случае мы изменим наше собственное мнение о себе и об окружающем мире. Изменится наша платформа — и вместе с ней изменятся наши социальные, экономические и политические механизмы.

Средневековый мир ориентировался на imago dei (От латинского «образ Божий». — Прим. пер.): отсюда его феодальные аграрные модели, почитание короны и смысл, вкладываемый в шпили соборов (Шпиль средневекового христианского собора символизировал мощь и силу религиозных устремлений его создателей. — Прим. пер.).

Эпоха Просвещения ориентировалась на cogito (По Декарту — акт мышления. — Прим. пер.) и стремление к новым горизонтам — и вместе с этим на новое личное и общественное понимание судьбы и предназначения человека.

ИИ-революция явно произойдет быстрее, чем ожидают люди, и, если сегодня мы не разработаем концепции последующих преобразований, мы не будем к ней готовы. С моральной, философской, психологической и практической точек зрения мы находимся на пороге новой эпохи, и мы должны адаптировать наши отношения с реальностью так, чтобы они оставались человеческими.

_{Отрывок из книги Генри Киссинджера, Эрика Шмидта, Дэниела Хаттенлокера «Искусственный разум и новая эра человечества». М.: Издательство Альпина PRO, 2022.}