Стоит ли нам бояться искусственного интеллекта: рассказывает ученый-информатик

Сегодня искусственный интеллект (ИИ) помогает распознавать фото и переводит речь, водит беспилотные автомобили и обыгрывает человека в шахматы и го. Однако с некоторыми задачами он по-прежнему испытывает сложности. Почему это проблема? Узнаем из отрывка книги одного из ведущих ученых-информатиков Мелани Митчелл «Идиот или гений? Как работает и на что способен искусственный интеллект».

Если вы формируете мнение об ИИ на основе кино и научной фантастики (и даже некоторой популярной научной литературы), то наверняка боитесь, что ИИ может обрести сознание, перейти на сторону зла и попробовать поработить или истребить человечество. Но учитывая, как мы далеки от создания общего интеллекта, большинство представителей ИИ-сообщества тревожится о другом.

Как я показала в этой книге, существует множество причин беспокоиться о стремлении общества как можно скорее внедрить технологии ИИ: возможность значительного сокращения рабочих мест, опасность некорректного использования систем ИИ, ненадежность и уязвимость этих систем — вот лишь некоторые обоснованные страхи людей, озабоченных влиянием технологий на человеческую жизнь.

В начале этой книги я писала о том, как тревожит Дугласа Хофштадтера (американский физик и информатик. — Прим. Vokrugsveta.ru) текущий прогресс в ИИ, но стоит отметить, что его в основном пугало другое.

Хофштадтер опасался, что программам ИИ окажется слишком просто воссоздать человеческое познание и творчество, а результаты работы поверхностных алгоритмов вроде ЭМИ (электронных музыкальных инструментов. — Прим. Vokrugsveta.ru), использующих простой «набор хитростей», станут соперничать с великолепными творениями человеческого разума, которыми он восхищался, — например, с произведениями Шопена.

«Если маленький чип сможет обесценить эти умы бесконечной остроты, сложности и эмоциональной глубины, это разрушит мое представление о сущности человечества», — сокрушался Хофштадтер. Его также тревожили предсказания Курцвейла (Рэймонд Курцвейл — известный американский футуролог. — Прим. Vokrugsveta.ru) о грядущей сингулярности, и он с ужасом отмечал, что если Курцвейл окажется хоть в некоторой степени прав, то «нас отодвинут в сторону. Мы превратимся в пережитки прошлого. Мы останемся ни с чем».

Я понимаю беспокойство Хофштадтера, но считаю, что оно преждевременно. В конце концов, эта книга говорит, что мы, люди, склонны переоценивать достижения ИИ и недооценивать сложность собственного разума. Современный ИИ далек от человеческого уровня, и я не верю, что эра «сверхразумных» машин уже не за горами. Если общий ИИ все же будет создан, держу пари, он окажется не менее сложен, чем человеческий мозг.

В краткосрочной перспективе сверхразумность должна занимать одно из последних мест в списке опасений по поводу ИИ. Настоящая проблема — ее противоположность. На страницах этой книги я подчеркнула, насколько хрупкими остаются передовые системы ИИ: они совершают ошибки, когда их входные сигналы слишком сильно отличаются от примеров, на которых они обучались.

Часто бывает сложно предсказать, в каких обстоятельствах проявится хрупкость системы ИИ. Если нужно обеспечить надежные результаты при транскрибировании речи, переводах, описании содержания фотографий, вождении в многолюдном городе, без людей пока не обойтись.

Думаю, в краткосрочной перспективе особенно тревожно, что мы можем предоставить системам ИИ слишком большую автономию, не до конца изучив их недостатки и уязвимости. Мы склонны антропоморфизировать системы ИИ: приписываем им человеческие качества и из‑за этого переоцениваем степень доверия к ним.

Описывая опасности ИИ, экономист Сендхил Муллайнатан упомянул о феномене длинного хвоста в своем описании «хвостового риска»:

Или, как выразился исследователь Педро Домингос, «люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир».