Сценарий использования искусственного интеллекта для создания биологического оружия — один из наиболее серьёзных и обсуждаемых рисков. В отличие от ядерной угрозы, где нужны огромные промышленные мощности, биологическое оружие требует прежде всего информации и доступа к лабораториям. ИИ может радикально снизить этот барьер. Ключевая опасность: снижение барьера входа Главная угроза не в том, что ИИ сам захочет кого-то убить, а в том, что он может сделать создание биологического оружия доступным для небольшой группы людей или даже одиночек. Если раньше для этого требовались годы обучения и доступ к сложным материалам, то теперь ИИ может взять на себя значительную часть интеллектуальной работы. В две тысячи двадцать шестом году компания Антропик опубликовала отчёт, в котором описала пять реальных случаев, когда исследователи из разных стран использовали их модель для потенциально опасной биологической работы. В частности, один из пользователей планировал использовать ИИ для поиска мутаций вируса чикунгуньи, которые повышают его способность распространяться и ускользать от иммунитета. Другой исследователь работал над адаптацией высокопатогенного птичьего гриппа к млекопитающим, что могло бы усилить его пандемический потенциал. Когда модель отказывалась отвечать на опасные запросы, пользователи находили обходные пути. В одном случае запросы перенаправлялись на другие модели с менее строгими настройками, а доступ к системе осуществлялся через сторонние платформы для обхода географических ограничений. Как это может произойти: цепочка событий Технически сценарий катастрофы может выглядеть так. Генерация дизайна. ИИ, обученный на огромных массивах биологических данных, проектирует геном нового патогена. Уже сейчас существуют эксперименты, где ИИ создал функциональные вирусы с нуля, что доказывает саму возможность генерации жизнеспособных генетических последовательностей. Оптимизация свойств. Модель может подсказать, ... Читать далее