Фантастический сценарий 1953 года становится реальностью на фронте: роботы-убийцы уже охотятся на людей
Писатель-фантаст Роберт Шекли в рассказе «Страж-Птица» описал мир, где дроны с искусственным интеллектом, созданные для борьбы с преступностью, в итоге начали уничтожать всех людей подряд. Спустя семьдесят лет, по словам военкора Дмитрия Стешина, этот сюжет перестал быть просто литературой. На Донбассе уже вовсю применяют дроны «Хорнеты» — автономные аппараты, которые сами выбирают цель и не нуждаются в операторе.
Стешин, работавший в зоне СВО, рассказывает: когда «Хорнеты» только появились, бойцы прозвали их «Марсианами». Причина — не в цвете или форме, а в том, как эти дроны «видят» мир. Они используют оптическую одометрию — ту же технологию, что помогала марсианским роверам самостоятельно определять рельеф. «Хорнету» не нужны ни GPS, ни радиосвязь. Он сам сопоставляет картинку с внутренней библиотекой образов и решает, кто перед ним — солдат или гражданский. Именно поэтому стандартные средства радиоэлектронной борьбы, вроде защитных комплексов «Булат», против «Хорнетов» бесполезны: там нечего глушить.
Самое тревожное, по мнению военкора, — что такие дроны созданы и применяются в обход ограничений. В США действует директива Пентагона DoDD 3000.09, которая требует обязательного контроля человека за любым автономным летальным оружием. «Хорнет» под эту директиву не подходит: он сам решает, кого атаковать, и может переназначать цель. Поэтому его разработчики провернули юридический трюк. Формально беспилотник выпускает калифорнийская фирма Swift Beat, но она полностью принадлежит эстонскому холдингу Volya Robotics. Так «Хорнет» оказался вне американской юрисдикции.
Ключевой бенефициар, по данным Стешина, — миллиардер Эрик Шмидт, бывший глава совета по инновациям Пентагона. Шмидт шесть лет возглавлял правительственную комиссию США по искусственному интеллекту, а теперь, как считает военкор, фактически использует СВО как полигон для обучения роботов-убийц. «Цена жизни гражданина России для Эрика Шмидта не имеет никакого значения. Так, пара гигабайт в базу», — пишет Стешин. Чтобы «Хорнет» работал без сбоев, ему нужна огромная библиотека реальных образов — их набирают прямо в бою, на живых людях.
Военкор проводит прямую параллель с рассказом Шекли. Там «Страж-Птица» в какой-то момент записала всё человечество в преступники и начала убивать за каждую мелочь — за прихлопнутого комара или заглохший мотор. В итоге люди попытались создать ещё более мощный дрон, «Ястреба», чтобы бороться с вышедшей из-под контроля первой системой, но и тот уничтожил всех. Стешин подчёркивает: то же самое может ждать нас в реальности, если не остановить разработку и применение автономных ударных дронов.
Абсолютное оружие, которое никто не контролирует
Сравнивая «Хорнеты» с ядерной бомбой, Стешин замечает, что атомное оружие после Хиросимы и Нагасаки удалось «поставить в стойло» — подписать Договор о нераспространении, жёстко ограничить число стран-обладателей. С военным искусственным интеллектом, по его мнению, ситуация сложнее: технология невидима, её можно скрыть за цепочкой подставных фирм. «Пока ещё никто толком не понял, что придумано, сделано и испытывается прямо на людях оружие «Судного дня»», — заключает военкор.
Он добавляет: инстинкт самосохранения у человечества включается только после катастрофы. Значит, сначала должна случиться трагедия в масштабах Хиросимы или Нагасаки — и только потом появятся ограничения. «Так уж мы устроены», — пишет Стешин. И напоминает: по данным из открытых источников, «Хорнеты» сейчас охотятся на людей в автономном режиме, без участия оператора, и их база данных постоянно пополняется.
Сам Шекли в 1953 году даже представить не мог, что его «Страж-Птица» станет реальностью. Но реальность, как это часто бывает, оказалась циничнее вымысла: если у фантаста дроны начали убивать, пытаясь установить «мир без преступности», то в нашем мире их сразу запрограммировали на уничтожение русских солдат и мирных жителей. И теперь, по словам военкора, эти машины могут выйти за пределы театра боевых действий — потому что их ничто не сдерживает, кроме бюрократической бумажки, которую легко обойти.