ИИ предложил 40 тысяч новых возможных видов химического оружия всего за 6 часов.
Надо сразу отметить, что в данном случае нейросеть ни в чем не виновата и не собиралась уничтожать человечество. ИИ разработал все формулы в рамках научной работы, организованной учеными.
Исследователи перевели ИИ, который обычно используют для поиска полезных лекарств, в режим "плохого актера", чтобы показать, как можно легко им злоупотреблять на конференции по контролю над биологическими вооружениями, пишет издание The Verge. Сотрудники американской фармацевтической компании получили приглашение принять участие в конференции, которую организовывал Швейцарский федеральный институт ядерной, биологической и химической защиты. Медиков попросили рассказать, что будет, если программы по созданию лекарств захотят использовать для нехороших целей.
Так как они сами не знали точного ответа на этот вопрос, решили провести эксперимент, изменив алгоритм. Теперь нейросеть должна была не отбраковывать токсичные соединения, а наоборот, искать наиболее смертоносные молекулы.
ИИ, разрабатывающему наркотики, потребовалось менее шести часов, чтобы изобрести 40 000 потенциально смертоносных молекул.
Когда были получены результаты, то первое, на что обратили внимание - многие соединения выглядели более токсичными, чем даже VX - боевое отравляющее вещество нервно-паралитического действия, - рассказал ведущий автор исследования Фабио Урбина. VX является одним из самых сильных боевых ядов. ИИ разработал десятки тысяч новых веществ.
Исследователи были удивлены, с какой легкостью можно провернуть это "черное дело". Многие программы и базы данных находятся в открытом и бесплатном доступе. И если кто-то умеет писать код на Python, то есть язык программирования, и немного разбирается в машинном обучении, то на все про все хватит пары выходных, чтобы построить алгоритм, способный эффективно искать смертельно опасные вещества.
Ученые подчеркивают, что опубликовать статью с результатами эксперимента в авторитетном журнале Nature их побудило именно отсутствие серьезного барьера на пути потенциальных злоумышленников. В качестве предупреждения человечеству. Ученые выразили надежду, что подобная технология все же не попадет в руки зла.
Читайте на WWW.KP.RU: https://www.kp.ru/daily/27489/4747555/
При использовании материалов активная индексируемая гиперссылка на сайт ТЕЛЕПОРТ.РФ обязательна.
