Угрозы от ИИ в биологии: мнения ученых и меры предосторожности

Современные ИИ-чат-боты и специализированные биомодели упрощают создание токсинов и патогенов, в том числе для потенциального ипользования в биооружии, как подтверждают ученые, опрошенные журналом Nature. Разногласия среди исследователей касаются необходимости ограничения доступа к таким технологиям. В частности, китайский ИИ-инструмент для проектирования конотоксинов вызвал опасения у представителей правительства США, которые видят в этом угрозу биобезопасности. Тем не менее, некоторые ученые, такие как Сюэ Вэйвэй, уверены, что разработки направлены на поиск лекарств. Исследования показывают, что синтетические токсины могут быть созданы с помощью ИИ, что вызывает тревогу, особенно учитывая пробелы в существующих системах проверки. Тем не менее, в индустрии также происходят изменения, направленные на ограничение доступа к высокорисковым ИИ-инструментам, такие как новая система GPT-Rosalind от OpenAI, доступная только для проверенных исследователей. Защита от угроз, возникающих из-за биотехнологического ИИ, становится все более актуальной, подчеркивая двойственность его применения.