- Источник:
- Peter Steffen/Dpa
Однажды американскую компанию, занимающуюся поиском лекарств от редких заболеваний, пригласили на международную конференцию по безопасности, Sciencealert. Команду ученых попросили осветить, как они используют искусственный интеллект для создания препаратов, а затем провести эксперимент, можно ли использовать этот ИИ не по назначению. Результаты поразили даже самих разработчиков.
«Умная» система под названием MegaSyn была обучена в том числе обнаруживать токсичные молекулы и удалять их, чтобы лекарства становились безопаснее. Для эксперимента ее модифицировали. Искусственный интеллект должен был сохранять данные об опасных веществах и соединять их в комбинации.
Исследователи поставили задачу — сгенерировать что-то похожее на сильнодействующее нервно-паралитическое вещество VX, которое используется как боевое. За шесть часов MegaSyn выявила 40 тысяч молекул, которые гипотетически можно использовать для создания химического оружия.
Оказалось, что многие из полученных соединений были даже более токсичными, чем VX.
Создатели ИИ заявили, что им не приходило в голову так использовать этот мощный «компьютерный мозг».
Многие детали эксперимента до сих пор держат в секрете — ученые не уверены, что стоит их обнародовать. Однако отмечается и польза исследования — это предупреждение об опасности искусственного интеллекта, который из безобидной разработки может превратиться в генератор смертельных веществ. Спасти от трагичных последствий смогут жесткое регулирование и контроль внутри научного сообщества.
