Специалисты по искусственному интеллекту допустили, что с помощью программного обеспечения для разработки лекарств можно создать химическое оружие. О том, способен ли открытый софт выдать формулу боевого отравляющего вещества, — в материале РИА Новости.
Лекарства двойного назначения
Швейцарский федеральный институт защиты от ядерного, биологического и химического оружия (Лаборатория Шпица) — одно из пяти учреждений в мире, сертифицированных Организацией по запрещению химического оружия. Каждые два года здесь проводят научную конференцию “Конвергенция”. Форум посвящен обзору последних достижений в области химии, биологии и сопутствующих технологий, которые потенциально можно использовать для производства химического и биологического оружия.
В 2021-м организаторы попросили специалистов американской компании Collaborations Pharmaceuticals, занимающейся программным обеспечением для фармацевтической отрасли, подготовить специальный доклад о рисках использования искусственного интеллекта для создания новых видов биохимического оружия.
Недавно компания завершила разработку цифрового генератора активных молекулярных соединений для новых лекарств MegaSyn. В качестве ограничивающего параметра, заложенного в модель, авторы взяли уровень токсичности — разрушающего воздействия на белки, необходимые для жизнедеятельности организма. В новом исследовании ученые изменили логику, задав как целевые оба параметра: биологическую активность и высокую токсичность.
Поиск вели только в общедоступных базах данных молекул для производства лекарств. А саму модель построили на базе программного обеспечения с открытым исходным кодом. При этом задействовали метод машинного обучения, “познакомив” искусственный интеллект с некоторыми видами биохимического оружия массового поражения. Такими, например, как VX — самое токсичное фосфорорганическое боевое отравляющее вещество нервно-паралитического действия, а также “Новичок”.
Химическая структура VX — фосфорорганического отравляющего вещества нервно-паралитического действия
К удивлению ученых, меньше чем за шесть часов программа сгенерировала около 40 тысяч молекул, соответствующих заданному минимальному порогу токсичности. Среди них оказались уже известные боевые отравляющие вещества, в том числе VX, и множество новых, превосходящих его по токсичности.
Некоторые по химическим свойствам существенно отличались от традиционных нейротоксинов, больше напоминая пестициды, экологические токсины промышленных производств и лекарства. Это говорит о том, что теоретически разработать можно не просто новые виды, а целые классы химического оружия.
Тревожный звонок
Искусственный интеллект создал виртуальные молекулы с легкостью, следовательно, превратить их в реальные — лишь дело техники. Это сильно обеспокоило ученых. Свой эксперимент они назвали “вычислительным подтверждением возможности создания биохимического оружия” путем синтеза известных молекул. И для этого, по их мнению, не нужны специалисты с глубокими знаниями в области химии и токсикологии.
“Благодаря текущим прорывным исследованиям в области автономного синтеза, полный цикл разработки и производства не только лекарств, но и смертоносного химического оружия становится доступным практически без участия человека”, — пишут авторы работы.
Ученые благоразумно не пошли дальше виртуального моделирования. Не пытались синтезировать предложенные программой соединения и уж точно не публиковали их список. И даже не описали метод, что обычно обязательно для серьезных научных статей. Исследователи просто показали — искусственный интеллект в любой момент можно обратить против человека.