Anthropic подробно описывает попытки злоумышленников злоупотребить искусственным интеллектом для создания биологического оружия

Отчет появился через два дня после того, как бывший сотрудник уволился, утверждая, что модели компании могут привести к вымиранию человечества к 2030 году.

Преступники, спонсируемые государством группы, поставщики шпионского ПО, ученые и пропагандисты пытались использовать мощные модели искусственного интеллекта для разработки ракет и бомб, создания смертельных патогенов и слежки за диссидентами, согласно отчету об угрозах, опубликованному компанией в четверг.

"Случаи, о которых мы здесь рассказываем, — это не типичные злоупотребления, а скорее примеры наиболее заметной и новой угрозы, которую мы выявили на сегодняшний день", — написала в своем 154-страничном отчете.

"Мы публикуем эту работу, потому что считаем, что несем ответственность за раскрытие злонамеренного использования наших услуг". Продолжить чтение...