Содержание:
  1. Инструмент определения приоритетов и целей
  2. Больше вреда с меньшим количеством людей
  3. Этические проблемы

Армия обороны Израиля стала использовать искусственный интеллект. Он помогает в выборе целей для авиаударов и определения приоритетов во время войны с Ираном.

Присоединяйтесь к нам Facebook и принимайте участие в дискуссиях

Теперь операции можно проводить с беспрецедентной скоростью, говорят военные. Liga.Tech публикует перевод материала Bloomberg, где рассказывается, как это работает.

Инструмент определения приоритетов и целей

Хотя израильские военные не комментируют конкретные операции, официальные лица говорят, что теперь они используют систему рекомендаций ИИ, способную обрабатывать огромные объемы данных для выбора целей для авиаударов.

Подписывайтесь на LIGA.Tech в Telegram: главные новости мира технологий

Еще одна модель искусственного интеллекта – под названием Fire Factory – использует данные об одобренных израильскими военными целях для расчета погрузки боеприпасами, определения приоритетов и назначения тысяч целей самолетам и беспилотникам, а также дает рекомендованный график для этих ударов.

Хотя обе системы контролируются людьми-операторами, проверяющими и утверждающими отдельные цели и планы воздушных налетов, по словам официального представителя ЦАХАЛ (Вооруженных сил Израиля), эта технология все еще не соответствует международным или государственным нормам.

Сторонники ее использования в армии утверждают, что усовершенствованные алгоритмы могут превзойти человеческие возможности и помочь военным минимизировать потери. В то время как критики предупреждают о потенциально смертельных последствиях использования все более автономных систем.

"Если есть ошибка в вычислении ИИ, кого мы в ней обвиняем? Вы можете уничтожить целую семью из-за ошибки", – говорит Тал Мимран, преподаватель международного права Еврейского университета в Иерусалиме и бывший юридический советник армии.

Больше вреда с меньшим количеством людей

Детали оперативного использования искусственного интеллекта в армии в большинстве своем засекречены, однако заявления военных официальных лиц свидетельствуют о том, что ЦАХАЛ получил боевой опыт с ИИ в секторе Газа.

В 2021 году Армия обороны Израиля назвала 11-дневный конфликт в этом регионе первой в мире "войной искусственного интеллекта", поскольку эта технология использовалась для определения ракетных пусковых площадок и развертывания групп беспилотников.

Армия Израиля начала использовать ИИ в войне с Ираном – что это изменит
Сектор Газа. Фото: MOHAMMED SABER/EPA

Израиль также проводит рейды в Сирии и Ливане, где его целью является поставка оружия поддерживаемым Ираном боевикам, таким как Хезболла.

В последние месяцы Израиль почти ежедневно предупреждал Иран, что не позволит стране получить ядерное оружие ни при каких обстоятельствах. Если эти страны вступят в военную конфронтацию, Армия обороны Израиля ожидает, что иранские прокси в Газе, Сирии и Ливане присоединятся. И это станет основой первого серьезного многофронтового конфликта для Израиля после внезапной атаки Египта и Сирии 50 лет назад.

По словам представителей Вооруженных сил Израиля, такие инструменты на основе искусственного интеллекта, как Fire Factory, созданы именно для этого сценария.

"То, что раньше занимало часы, теперь длится минуты, и еще несколько минут – для проверки человеком", – сказал полковник Ури, возглавляющий подразделение цифровой трансформации армии и выступавший в штабе ЦАХАЛ в Тель-Авиве. Это позволяет делать гораздо больше с меньшим количеством людей.

ЦАХАЛ уже давно использует искусственный интеллект, но в последние годы он расширил эти системы в разных подразделениях, пытаясь позиционировать себя мировым лидером в автономном оружии.

Некоторые из этих систем были построены израильскими подрядчиками обороны; другие, например камеры пограничного контроля StarTrack, которые учатся на тысячах часов записи для идентификации людей и объектов, были разработаны армией. В совокупности они составляют огромную цифровую архитектуру, предназначенную для интерпретации множества записей беспилотников и камер видеонаблюдения, спутниковых изображений, электронных сигналов, онлайн-коммуникаций и других данных для военного использования.

Работа с этим потоком информации является целью Центра данных и искусственного интеллекта, которым управляет подразделение 8200 армии. В этом подразделении в свое время проходили обязательную военную службу многие технологические мультимиллионеры страны, в частности Нир Зук из Palo Alto Networks, основатель Check Point Software Technologies Гил Швед.

Секретный характер разработки таких инструментов вызвал серьезные беспокойства, исходя из того, что разрыв между полуавтономными системами и полностью автоматизированными машинами для убийства может быть сокращен за ночь.

При таком сценарии машины получат полномочия определять местонахождение и поражать цели, а люди будут полностью отстранены от принятия решений.

Также беспокойство экспертов вызывает то, что скорейшее внедрение ИИ опережает исследование его внутренней работы. Многие алгоритмы разработаны частными и военными компаниями, которые не разглашают конфиденциальную информацию. Критики подчеркивают встроенную нехватку прозрачности в том, как алгоритмы делают свои выводы.

Армия обороны Израиля признала наличие проблемы, но заявила, что результаты тщательно проверяются солдатами и что военные системы ИИ дают людям-операторам возможность воспроизвести их шаги.

Основным преимуществом интеграции искусственного интеллекта в системы на поле боя, по мнению некоторых экспертов, является потенциал для уменьшения потерь среди гражданского населения.

"Я считаю, что преимуществом правильного использования этих технологий является эффективность. И в пределах правильных технологических параметров очень, очень высокая точность. Это может помочь вам со многими делами, которые вам нужно сделать на ходу, в тумане боя", – сказала Симона Соаре, научный сотрудник Международного лондонского института стратегических исследований.

В то же время есть много вещей, которые тоже могут пойти не так, добавила она.

Этические проблемы

Хотя израильские лидеры наметили свое намерение сделать страну "сверхдержавой искусственного интеллекта", эти планы достаточно расплывчаты.

Министерство обороны отказалось комментировать, сколько оно инвестировало в ИИ. Армия не обсуждала конкретные оборонные контракты, хотя подтвердила, что Fire Factory была разработана израильским оборонительным подрядчиком Rafael.

Еще больше омрачает картину то, что, в отличие от гонки ядерных вооружений, когда утечка деталей о возможностях оружия была ключевым аспектом сдерживания, автономные системы и системы с поддержкой ИИ разрабатываются правительствами, военными и частными оборонными компаниями тайно.

Армия Израиля начала использовать ИИ в войне с Ираном – что это изменит
ПВО в Тель-Авиве. Фото: Oliver Weiken/EPA

"Мы можем предположить, что американцы и даже китайцы, и, возможно, несколько других стран также имеют передовые системы в этих сферах", – говорит Лиран Антеби, старший научный сотрудник израильского Института исследований нацбезопасности. Но в отличие от Израиля, они никогда не демонстрировали оперативного использования и успеха.

Пока нет международной базы, которая устанавливала бы, кто несет ответственность за жертвы среди гражданского населения, несчастные случаи или непреднамеренную эскалацию, когда компьютер неправильно оценивает ситуацию.

Также существует вопрос тестирования данных, на которых обучаются эти системы.

Тал Мимран, преподаватель права в Еврейском университете, считает, что ЦАХАЛ должен использовать искусственный интеллект исключительно в оборонных целях. Во время службы в армии мужчина вручную проверял цели, чтобы убедиться, что атаки соответствуют международному праву. Это научило его, что, независимо от технологии, есть момент, когда вам нужно принять решение, основанное на ценностях.

"И в этом мы не можем полагаться на ИИ", – заключает он.

Читайте также