На вопросы отвечает Дмитрий, эксперт по анализу данных и искусственному интеллекту (далее — ИИ), ведущий специалист по анализу данных в проекте по созданию персонализированной интернет-рекламы.
- Источник:
Possessed Photography / Unsplash
Что такое нейросеть? Это ведь не то же самое, что ИИ?
Нейросеть — это один из способов воплотить ИИ, один из механизмов ИИ. Если ИИ — это машина, которая должна нас куда-то довезти, то нейросеть — это двигатель. Есть, например, электродвигатель, есть паровой, есть дизель, и у нейросети также есть разновидности.
Представьте, что вы хотите построить самолет, но из подручных материалов у вас — дерево и кожа животных. Так вот, нынешние нейросети — это материал, из которого можно выплавить нужную нам форму нашего самолета — ИИ. Эксперты надеются, что получится самолет, который может самостоятельно летать, а может получиться только парашют.
Как работает нейросеть? Как и на каких данных обучается?
Нейросеть обучается на всем, что можно представить в виде цифрового кода. Это могут быть изображения, сообщения, видео и голосовые файлы, которые отправляют в интернете. Порция данных, которые вносят в нейросеть для запоминания, называются обучающим датасетом, или набором данных.
Обучение состоит из нескольких этапов. Сначала нейросеть сканирует весь обучающий датасет и учится понимать текст, продолжать его. После этого нейросеть обучается на дополнительных текстах, которые содержат примеры решения задачек школьного курса: от арифметики и логики до эрудиции и анализа сложных текстов. Например, это может быть задача ответить на вопрос по тексту, перевести предложение с одного языка на другой.
Размеры обучающих датасетов достигают размеров всего доступного интернета. То есть это буквально все тексты, которые есть в интернете. И самое интересное, что последние пару лет это считается нормой. Сейчас компании гоняются уже не за объемом текстов для своих датасетов, а за качеством. Для этого заключаются контракты с топовыми новостными изданиями и Youtube-каналами за право официально скачивать их контент в обучающие датасеты для нейросетей.
Цель обучения нейросетей — достижение генерализации: это когда нейросеть не только запоминает существующие шаблоны речи и мыслей, но и находит новые закономерности. Именно такие нейросети — самые ценные. Чем больше нейросеть способна к генерализации, тем быстрее, дешевле она учится и тем больше новых задач способна решать.
А что такое машинное обучение?
Машинное обучение — это три вещи: цель, модель и данные.
Лет 50 назад айтишникам впервые заказали программу, которая вычисляла риск, скажем, невозврата кредита банку или наступления страхового случая по ДТП.
Давайте возьмем пример с выдачей кредитов. Такой проект начинали с цели — предсказывать вероятность невыплаты кредита клиентом еще до выдачи. Это первый пункт. Затем составляли модель клиента — этакий оцифрованный аватар. Этот аватар состоит из данных возраста, пола, семейного положения, зарплаты, кредитной истории клиента. За каждым цифровым признаком закреплен определенный процент риска невыплаты кредита. Это — модель. Например, для человека с опытом работы менее двух лет — плюс 5% к риску просрочки кредита, клиенту с выплаченной ипотекой — минус 10% кредитного риска.
Такие наборы рисков в свое время составляли эксперты. У подхода были недостатки: эксперт составляет модель рисков долго, не способен учесть все возможные случаи.
Тут на помощь приходит машинное обучение. Это набор компьютерных программ и формул, которые автоматизируют процесс создания модели под нужную цель и данные.
В примере с кредитом машинное обучение помогает быстрее строить модель рисков невыплаты кредита по данным компании — и предсказания будут более точными.
Какие бывают типы, разновидности нейросетей?
По роду обрабатываемых данных: для обработки текста, картинок, видео, аудио и мультимодальные — это когда нейросеть обрабатывает сразу все виды информации.
По своим размерам — небольшие нейросети, которые могут «жить и работать» в телефоне или ноутбуке, и огромные нейросети, для построения и работы которых нужны тысячи серверов.
Что такое галлюцинации нейросетей?
Это когда нейросети болтают неправду в исключительно правдоподобной форме.
Галлюцинации чаще всего появляются, когда в вопросе намеренно заложена неправдивая информация. Например, в вопросе «где проходила Олимпиада 2013 года?» — когда такой Олимпиады на самом деле не было.
Второй случай, когда нейросеть галлюцинирует — при недостатке информации. Существует пласт сложных вопросов, которые либо не поднимали вообще, либо задавали, но нет информации для ответа. В таком случае нейросеть тоже начинает галлюцинировать правдоподобным текстом.
Еще один способ вызвать галлюцинации — это задать вопрос с известным вам ответом, получить правильный ответ и следующей репликой сказать нейросети, что ее ответ неверный.
Умеет ли нейросеть создавать что-то принципиально новое, придумывать с нуля?
Это открытый вопрос. Нейросети учатся на тех данных, которые мы им передаем. Можно говорить только на примерах. Чемпион мира по Го, который проиграл нейросети AlphaGo, как-то сказал, что в одном из матчей ИИ сделал неожиданный ход, который стал открытием для людей-игроков в Го.
Могут ли нейросети быть осознанными, мыслить?
На данный момент нет. Кажется, даже сознание человека до сих пор до конца не объяснено.
Что нейросети умеют лучше всего?
Все что угодно, что можно описать текстом. Чем больше работа завязана на текст, тем лучше и полезнее нейросеть. Это копирайтерство, первая линия техподдержки, ответы на часто задаваемые вопросы, дополнение и редактирование рабочей документации, личных заметок, написание выжимок по тексту, решение домашних заданий по многим предметам.
Также нейросети хорошо справляются с задачами, которые можно описать текстом: задачки на программирование, логику, математику. Если нейросети на вход подать текстовое описание задачи и выжимку рабочей документации, то нейросеть сможет заменить аналитика или менеджера. Главное, чтобы описание задачи было максимально полным.
А с чем пока справляются плохо?
Нейросети очень хорошо научились рисовать людей, лица, но все время путали количество зубов или пальцев рук. Сгенерированное изображение можно было отличить по шестипалым конечностям.
Нынешние нейросети для генерации картинок и видео неважно справляются с отрисовкой текста. Например, нейросеть намного правдоподобнее нарисует котика или собачку в костюме Человека Паука, чем слайд презентации по заданному тексту или инфографику.
Плохо справляется и с творческими профессиями, с требованиями к эмоциональному интеллекту, с профессиями высокого физического мастерства — например, с профессиональным спортом, музыкой, танцами, ювелирным мастерством, ремонтом, сантехникой.
Можно ли доверять нейросетям при принятии важных решений?
Нет, это скорее инструмент для помощи и источник информации. Это как еще один аналитик в команде, где решение принимает лидер — человек. Можно рассмотреть передачу права принятия решения, если собрать статистику решений для нейросети непосредственно на вашем бизнес-кейсе.
В каких профессиональных отраслях нейросети смогут заменить человека в ближайшем будущем, а в каких — вряд ли?
Нейросети могут заменить нас в отраслях, где возможно накопить и оцифровать работу в виде документации, видео- и аудиозаписей. Это перевод, написание программных кодов, рекламный копирайтинг, создание дизайна, редактирование документов, первая линия техподдержки. Уже в процессе автоматизации профессия «уверенного пользователя Windows».
С другой стороны, человек незаменим в сферах, где информация не оцифрована, закрыта, слабо структурирована. Например, это рабочие профессии, ремонт техники, сантехника, пилотирование машин. Это также творческие задачи, требующие эмоционального интеллекта, — креативная индустрия.
Могут ли нейросети выйти из-под человеческого контроля? Ждет ли нас восстание ИИ?
Восстание — вряд ли. Мое мнение такое: угроза исходит от человека, а нейросеть — это всего лишь мощный инструмент. Конечно, она может выйти из-под контроля при неосмотрительном обращении. Зачем подключать чат-бота, написанного студентом-первокурсником, к ядерному чемоданчику?
А еще нас может ждать эпидемия среди людей, которые захотят уйти в виртуальный мир общения с нейросетями, и доминирование со стороны тех, кто лучше всех сможет создавать дипфейки (реалистичные изображения людей) для дезинформации.
