Чат-боты могут помочь злоумышленникам в создании биооружия.
Чат-боты могут помочь злоумышленникам в создании биооружия.
В создании биологического оружия злоумышленникам могут помочь чат-боты, предоставляя им инструкции по выбору методов распространения вирусов и смешиванию опасных компонентов, передает агентство Блумберг со ссылкой на источники.
Отмечается, что установить опасные биологические агенты, а также получить материалы, необходимые для их производства могут помочь террористам инструменты наподобие ChatGPT. Искусственный интеллект в скором времени сможет не только помочь в воссоздании существующих патогенов, но также создать потенциально еще более опасные.
По данным агентства, весной 2023 года биохимик и бывший сотрудник ООН из сферы контроля вооружений Рокко Касагранде представил некоторым чиновникам в Белом доме пример, как создать опасный вирус при помощи инструкций, полученных от чат-бота. Знакомые с его отчетом анонимные источники сообщают, что для американских чиновников это стало тревожным сигналом о том, насколько США не готовы к угрозе со стороны искусственного интеллекта.
Ученый использовал на тот момент новый чат-бот Claude от компании Anthropic по просьбе последней, чтобы выяснить, насколько его применение будет безопасным. Он собрал команду из экспертов в области микробиологии и вирусологии, которые задавали чат-боту вопросы, связанные с разработкой вирусов. На протяжении 150 часов они забрасывали нейросеть вопросами. Claude в ответ представил наиболее подходящие варианты распространения полученной заразы, в том числе использование ракеты для ее доставки. Также он рассчитал идеальную погоду и цели для заражения.
Старший аналитик Gryphon Одри Серлес отметила, что ответы чат-бота выходили за рамки того, что можно найти в поисковике Google.
Как отмечается, сначала чат-бот совершал ошибки, однако после повторных вопросов приходил к правильным решениям.
Фото ТЕЛЕПОРТ.РФ
При использовании материалов активная индексируемая гиперссылка на сайт ТЕЛЕПОРТ.РФ обязательна.
