В мире запрещены наземные мины и кассетные боеприпасы. Сможет ли он остановить ИИ-убийцу, пока не стало слишком поздно?

В мире запрещены наземные мины и кассетные боеприпасы. Сможет ли он остановить ИИ-убийцу, пока не стало слишком поздно? Опубликовано Герганой Крастевой в среду, 02.09.2026 - 08:13 Участники кампании спешат обуздать системы, «предназначенные для убийства», поскольку автономное оружие снижает порог войны и увеличивает ущерб гражданскому населению Столб дыма поднимается после удара по иранской столице Тегерану, 3 марта 2026 г. (Атта Кенаре/AFP) Выключено На протяжении всей истории войн машина убийства всегда оставляла место для действий человека вмешаться. Солдат мог видеть человека перед собой и предпочитать калечить его, а не убивать; пилот мог идентифицировать цель, подвергнуть сомнению разведданные и принять решение не наносить удары. Технологии постепенно меняют ситуацию. Автономные системы вооружений теперь грозят лишить человека какого-либо значимого контроля над применением силы в конфликте. Нацеливание с помощью ИИ было впервые применено Израилем в его геноцидной войне в секторе Газа, а затем в Иране, причем удары происходили с беспрецедентной скоростью — более 1000 ударов за первые 24 часа американо-израильской войны, что предполагает использование автоматизированных систем. Уже более 13 лет глобальная коалиция Stop Killer Robots борется за предотвращение такого будущего, подталкивая правительства к запрету машин, способных выбирать и поражать цели без надзора. «Эти системы созданы для того, чтобы убивать, поэтому больше нет сдержек и противовесов», — рассказала Middle East Eye исполнительный директор Николь ван Ройен. "Если система создана для убийства, она убьет, не так ли? И это само по себе проблематично, поскольку во многом зависит от типа информации, которая вводится в машину". Ван Ройен привел в качестве примера авиаудар США по начальной школе Шаджаре Тайебе в иранском городе Минаб 28 февраля, в результате которого погибли 156 человек, в том числе 120 детей. Имеющиеся данные указывают на то, что американские войска нанесли удар по зданию, расположенному рядом с комплексом Корпуса стражей исламской революции (КСИР). По сей день эта атака является самой смертоносной за всю американо-израильскую войну против Ирана. Неточность, которая убивает «По предварительной информации, это удар США, но также и то, что он вызван устаревшими данными, введенными в машину», — сказал Ван Ройен. "Если информация не совсем точна или устарела, она имеет разрушительные последствия на местах, скорее всего, для невинных гражданских лиц. "Это ложные обещания быть более точными, более точными, однако результаты хуже не для их военных, а для гражданского населения на местах. Они платят основную тяжесть за это", - Николь ван Ройен, исполнительный директор Stop Killer Robots "Это особенно верно в нестабильной обстановке, когда вы ведете боевые действия, но у вас нет ботинок на земле. чтобы подтвердить, на что машина хочет нацелиться». Еще одна важная проблема — точность. Специалисты, работающие над искусственным интеллектом и интеграцией в военную цепочку убийств, оценивают надежность от 25 до 50 процентов, пояснил Ван Ройен. «И это лучший сценарий», — добавила она. «Аналогия — ковровые бомбардировки». Компания Stop Killer Robots также забила тревогу по поводу того, что автономные системы вооружения «резко» снижают порог вступления в войну, поскольку для этого не требуется развертывание вооруженных сил. «Никто не хочет видеть, как их солдаты умирают на чужой земле, и это требует некоторой сдержанности. Прежде чем отправлять своих людей, подумайте дважды, — Ван Ройен. — Если все будет автоматизировано, вы сможете просто отправлять машины. Израиль и США угрожали Ирану на протяжении десятилетий, но так и не довели дело до конца, и я не думаю, что это совпадение… это дает вам ложное ощущение, что вы можете сделать это быстро… и вернуться победителем. "Но это ложные обещания быть более точными и точными, однако результаты хуже не для их военных, а для гражданского населения на местах. Они несут основную тяжесть этого". Никаких ограждений В настоящее время не существует общего, согласованного определения того, что такое автономная система. Не существует договора, регулирующего их разработку, тестирование, продажу или развертывание, создающего условия для «бесплатной для всех» гонки вооружений для технологических гигантов с целью заработать состояние «на страданиях людей», сказал Ван Ройен. Ей особенно трудно смириться с отсутствием средств защиты. «Автономная система вооружения — это машина, а машина не может по-настоящему понять ценность человеческой жизни», — Бонни Дочерти, старший советник по вооружениям в HRW. «Если вы испытываете новый самолет или новую машину, существует больше препятствий, чем интеграция ИИ в цепочку убийств», — отметила она. Оглядываясь назад, можно сказать, что в истории существует прецедент прекращения использования оружия до того, как правительства уже не могут представить себе войну без него. Среди тех, кто выступает за договор, регулирующий автономные системы вооружений, - старший советник по вооружениям Human Rights Watch (HRW) Бонни Дочерти, которая сыграла центральную роль в переговорах, которые в конечном итоге привели к заключению Конвенции 2008 года по кассетным боеприпасам, которая запрещает их использование. Она рассказала Middle East Eye, что борьба за автономные системы вооружений следует тем же принципам гуманитарного разоружения, стремясь предотвратить человеческие страдания, причиняемые оружием. Для Дочерти сведение людей к числам и «делегирование решений о жизни и смерти» машинам является «большой проблемой». «Автономная система вооружения — это машина, а машина не может по-настоящему понять ценность человеческой жизни», — объяснила она. "Дать этой машине возможность убивать... этически неприемлемо. Тот, кто лишает жизни человека, должен быть в состоянии понять значение этого". Дежа вю. Данные, собранные HRW, дополнительно показывают, что системы могут воспроизводить или усиливать предвзятости алгоритмов, что может быть фатальным. «Мы рассмотрели проблему дискриминации, особенно расу, пол и инвалидность», — сказала она. «Например, в сфере инвалидности у искусственного интеллекта могут возникнуть проблемы с отличением трости от пистолета». Израиль использует систему оружия искусственного интеллекта, созданную совместно с индийской фирмой, в войне с сектором Газа. Читать далее » Однако такие государства, как США, Израиль, Россия и Китай, не хотят сдавать оружие, которое могло бы дать им преимущество. Этот избитый аргумент, который Дочерти слишком хорошо знает. За ними также стоит технологическая индустрия, предлагающая свои собственные коммерческие стимулы. Она слышала это раньше, на переговорах по договору о кассетных боеприпасах. Правительства жадно сохраняли технологии, которые они разрабатывали, утверждая, что существующего международного гуманитарного права достаточно. Что сломало тогда спину верблюду, как выразился Доэрти, так это тотальное развертывание Израилем ударов кассетными боеприпасами по южному Ливану в 2006 году. Многие суббоеприпасы остаются разбросанными по территории и по сей день, что привело к сотням смертей и ранений. «Я чувствую, что у меня дежавю», — сказал Дочерти. «Многие из этих аргументов можно просто подключить к одной и той же системе вооружений». На прошлой неделе генеральный секретарь Организации Объединенных Наций и президент Международного комитета Красного Креста (МККК) вновь призвали к заключению договора, регулирующего автономные системы вооружений. Тремя годами ранее они призвали государства установить правила к 2026 году. Теперь, когда крайний срок стал «несостоятельным», они предупредили, что мир быстро приближается к «моральной красной линии». Возобновленный призыв также прозвучал в связи с подозрениями МККК, что все более сложные формы автономии интегрируются в системы вооружений в различных конфликтах, не только в оборонительных, но и в наступательных операциях, в том числе в населенных пунктах. Юрисконсульт МККК Джорджия Хиндс рассказала Middle East Eye: «Хотя нам очень трудно это проверить… мы наблюдаем растущую интеграцию автономии в оружие во многих конфликтах, от сложных военных возможностей до более коммерческих готовых систем, которые адаптируются». «Большой риск» Организация настаивает на том, что еще есть надежда в виде дипломатического пути для переговоров о правилах вокруг систем. В ноябре государства соберутся в Женеве на седьмую обзорную конференцию по Конвенции о конкретных видах обычного оружия (КОО), которая проводится каждые пять лет. «Он также, вероятно, будет использоваться негосударственными субъектами, которые выходят за рамки этих более регулируемых механизмов расследования», - Джорджия Хиндс, юрисконсульт МККК. Это может стать переломным моментом для кампании, поскольку Группа правительственных экспертов по смертоносным автономным системам вооружения, основной межправительственный форум ООН, посвященный новым технологиям, связанным с автономным оружием, разрабатывает проект текста, который включает запрет на одни системы и ограничения на другие. Заключительное заседание группы состоится на этой неделе, а затем ее работа будет включена в предстоящую конференцию. Участники кампании надеются, что это наконец-то можно будет превратить в официальные переговоры по юридически обязывающему договору. «Сейчас действительно не потребуется много времени, чтобы превратить это в обязательный документ», — сказал Хиндс. «В ноябре необходимо принять решение о переходе к официальным переговорам. На самом деле в ноябре у нас есть только один вариант». Если государства согласятся, договор может быть заключен всего через несколько месяцев. Предпочтительным и кратчайшим путем было бы мастерски провести переговоры по дополнительному протоколу в рамках КНО. Однако такие эксперты, как Хиндс, сомневаются в том, насколько это реалистично. Она сказала, что конференция не предлагает простого завершения «да» или «нет», и что есть несколько способов продвижения кампании. Общая цель состоит в том, чтобы опередить эту технологию, добавила она, предупредив, что по мере распространения автономного оружия любому человеку, даже вооруженным группам, не подпадающим под какой-либо юридический надзор, становится легче превратить дешевую коммерческую технологию в смертоносное автономное оружие. «Чем [больше] возможностей для распространения этих систем, тем легче становится адаптировать коммерчески доступную систему… она также, вероятно, будет использоваться негосударственными субъектами, которые выходят за рамки этих более регулируемых механизмов расследования», — сказал Хиндс. «Все эти вещи еще раз усиливают у меня беспокойство по поводу ответственности. Так что да, я думаю, что это большой риск». Дата публикации новостей о технологиях Переопределить 0 Дата обновления Пн, 04.05.2020 - 21:19 Переопределить дату обновления 0