Интеллектуалы США стремятся примирять ИИ с этикой
Пентагон хочет неограниченно использовать нейросети для военных операций
Сотрудники ведущих американских технологических гигантов Google и OpenAI обратились к своим работодателям с призывом не допустить использования созданных ими нейросетей для массовой слежки за гражданами США и управления неподконтрольными человеку смертоносными системами. Прибегнуть к такой мере IT-специалисты решили после того, как президент США Дональд Трамп запретил госструктурам страны сотрудничать с разработчиком нейросети Claude, компанией Anthropic, из-за того что она настаивала на соблюдении Пентагоном ряда этических норм.
По сообщениям СМИ, именно Claude использовалась американскими военными и спецслужбами при планировании и осуществлении последних атак на Венесуэлу и Иран.
Около 950 действующих сотрудников Google и OpenAI подписались под открытым письмом с призывом не допустить, чтобы нейросети этих компаний — Gemini и ChatGPT — использовались американскими госструктурами в целях, противоречащих «красным линиям». «Красные линии» ранее на переговорах с Пентагоном обозначила другая американская компания — Anthropic, разработчик нейросети Claude, с 2024 года тесно сотрудничавшая с военным и другими силовыми ведомствами США.
Anthropic потребовала, чтобы ее программа искусственного интеллекта не использовалась для массовой слежки за гражданами США (об иностранцах она не так беспокоилась) и управления неподконтрольными человеку автономными смертоносными системами (см. “Ъ” от 19 февраля). Но власти США на это не пошли.
27 февраля Дональд Трамп объявил о «немедленном запрете» правительственным структурам США сотрудничать с Anthropic.
«Левые придурки из Anthropic совершили КАТАСТРОФИЧЕСКУЮ ОШИБКУ, пытаясь надавить на Министерство войны и заставить его подчиняться своим служебным инструкциям, а не нашей Конституции,— написал он в своей соцсети Truth Social (орфография автора сохранена).— Из-за их эгоизма под угрозой оказываются ЖИЗНИ АМЕРИКАНЦЕВ, наши войска в опасности, а наша национальная безопасность под УГРОЗОЙ». В тот же день Пентагон признал сотрудничество с Anthropic «риском для цепочек поставок», внеся разработчика в черный список, в который ранее обычно вносили компании из недружественных США стран, прежде всего из Китая.
https://www.kommersant.ru/doc/8479727