Робокопы: к чему приведет использование полицией роботов

10.01.2017

Впервые в истории полицейские убили американского гражданина — хотя и массового убийцу — на территории США при помощи робота со взрывчаткой.

Где после этого наши гражданские права?

1

Иллюстрация Patrik Svensson, Playboy

В темные ранние утренние часы 8 июля 2016 года Майка Хавьер Джонсон скрючился, напевая, с винтовкой на втором этаже колледжа Эдь Сентро.

Одиннадцать человек ранены, пятеро полицейских мертвы. После двух часов попыток, полиция Далласа прекратила переговоры. Спецназ уже расположился в коридоре неподалеку от Джонсона и заложил фунт пластиковой взрывчатки С-4 в «руку» принадлежащего подразделению Remotec Andros Mark 5A-1. У него есть видеокамеры и манипулятор, но, не считая умения ослеплять вспышкой света или ущипнуть, он не боец. Его создали для обезвреживания, а не для доставки бомб. Этим утром, впервые в истории полицейских роботов, он будет использован, чтобы отнять жизнь у человека.

Искусственный интеллект может быть и угрозой, и благословением — но то, что произошло в Далласе, не имеет никакого отношения к ИИ

Потом уже будут кричащие заголовки вроде «Роботы-убийцы пришли!» Но они не верны. Робот не был разумен. Он никого не убивал, это его кто-то использовал, чтобы убить кого-то еще. Большая часть обсуждения была посвящена роботу и ему подобным: насколько они тяжелы, как быстро движутся, как работает их электрическая «мускулатура». Эти детали поверхностны, но наш коллективный невроз, что когда-нибудь роботы станут главными, лежит глубоко. Искусственный интеллект может быть и угрозой, и благословением — но то, что произошло в Далласе, не имеет никакого отношения к ИИ.

По словарному определению, ИИ есть воспроизведение биологического разума. Философы и программисты не могут прийти к согласию относительно того, может ли ИИ быть чем-то большим, чем убедительная шарада, не говоря уж объектом регулирования. По самому вольному определению, ИИ это то, что пытается пристрелить или обогнать вас в компьютерной игре. Но даже это лежит вне пределов возможностей полицейских роботов. Использованный в Далласе Andros управляется на расстоянии, как игрушечная машинка.

Никто из полицейского управления Далласа не согласился со мной поговорить, но Тим Диз, бывший полицейский и преподаватель уголовного права, понимает суть событий 8 июля.

«Ситуация в Далласе была во многом уникальной, — говорит он. — Стрелок был в зоне, где полицейские не могли его заметить, не попав в зону поражения. Предполагалось, что у него солидный запас боеприпасов и на нем закреплена взрывчатка».

Дон Хаммер, доцент уголовного права, согласен с коллегой. Он объясняет положение Джонсона в 10 метрах по коридору от спецназа, в серверной комнате, из которой он мог легко оборонять оба дверных проема.

Преступник забаррикадировался в таком месте, где были вероятны новые жертвы в случае полицейского штурма

«Он забаррикадировался в таком месте, где были вероятны новые жертвы в случае полицейского штурма — или же, если от такового отказались бы, в результате стрельбы по сотрудникам правоохраны и гражданским, либо в результате детонации взрывчатки, которая, по его словам, была на нем. Решение о нейтрализации объекта было абсолютно необходимым. Разве результат был бы другим, если бы нарушитель был убит пулей снайпера, а не взрывным устройством, закрепленным на роботе?»

Если Даллас был особым случаем, то он поднимает больше теоретических, чем практических вопросов, а именно меняет ли формат принятия решений полицией наличие у нее роботов, способных убить подозреваемого? Потому что если это так, обратной дороги нет.

***

Технология меняет правоохранительную деятельность. Так было с кевларовыми бронежилетами, перечным газом, тазерами, скрытыми камерами, замаскированными полицейскими машинами, лэптопами, радиостанциями, светошумовыми гранатами и слезоточивым газом. Американская полиция изменилась и тогда, когда в 1980-е вместо револьверов получила полуавтоматические пистолеты, и когда в 1990-е длинноствольное оружие поступило на вооружение обычных, неспецназовских полицейских. Последствия этих изменений сильнее всего ощущаются сегодня.

Кадр из фильма «Робокоп» (1987)

Кадр из фильма «Робокоп» (1987)

«Когда я расследовал обвинения в полицейском произволе в Нью-Йорке, сотрудникам разрешалось иметь пистолеты, но не тазеры, — говорит Райан Кэло, доцент права Вашингтонского университета и содиректор Tech Policy Lab, занимающейся исследованием коллизий между законодательством США и новыми технологиями, особенно робототехникой. — Потому что полиция Нью-Йорка не была уверена, что сотрудники имеют достаточный опыт или оперативное чутье, чтобы принять решение об использовании нелетального оружия, даже если им доверяли летальное».

Роботы, боты, дроны, автоматоны, механомены, андроиды, мандроиды, репликанты, терминаторы и БПЛА — такое ощущение, что американская исполнительная власть помешалась на робототехнике еще во времена «Трона»

Траектория мысли здесь такова: чем меньше вероятность того, что определенный уровень насилия приведет к жертвам среди своих, тем больше вероятность того, что кто-то даст согласие на применение еще большей степени насилия — даже когда это и не является стопроцентно необходимым. Если вас шокировал робот, взорвавший бомбу в Далласе, то что вы думали, когда дрон ЦРУ выпустил ракету по машине, в которой ехал гражданин США Камаль Дервиш в Йемене в 2002 году?

Дервиш был связан с Аль-Каидой. Это было в период самого высокого напряжения борьбы с террором, и неуправляемые летательные аппараты ЦРУ — General Atomics MQ-1 Predator — были оборудованы пусковыми установками для ракет воздух-земля для борьбы с величайшей угрозой миру. Однако это решение вызвало фурор. Разве не следует сначала арестовывать граждан США, прежде чем расстреливать их? Если не для их блага, то хотя бы ради соблюдения конституции? Каким должен быть процесс в эпоху технологий?

«С точки зрения права два сценария регулируются двумя разными законами, но этическая составляющая схожа, — говорит Рон Салливан, профессор права в Гарварде, специализирующийся на гражданских свободах, уголовном праве и уголовном процессе. — Одновременно с милитаризацией полиции примерно 10 лет назад пошел и рост использования оружия, включая летальное. Психология военного времени заметно отличается от норм, которыми должны руководствоваться полицейские».

***

Роботы, боты, дроны, автоматоны, механомены, андроиды, мандроиды, репликанты, терминаторы и БПЛА — такое ощущение, что американская исполнительная власть помешалась на робототехнике еще во времена «Трона». ЦРУ и министерство обороны начали закупать и разрабатывать беспилотные летательные аппараты в начале 1980-х и уже в период Войны в заливе, по данным ВМФ США, каждую секунду в воздухе находился хотя бы один БПЛА.

Робокопы – полиция будущего: к чему приведет использование полицией роботов

Фото USPB

Намного раньше, в 1966 году, подразделение безумных профессоров DARPA (Агентство по перспективным оборонным научно-исследовательским разработкам США. — Прим. ред.) получило финансирование на создание первого наземного мобильного робота, НМР. «Трясун» управлялся дистанционно, ездил на колесах и был не более автоматическим, чем шнурки. Всем управлял оператор-человек, нисколько не похожий на ИИ. Как и со многими другими идеями DARPA, НМР не вызвал большого интереса у министерства обороны, пока о нем не вспомнили в начале 1980-х. Были созданы самоходные роботы для исследования опасных зданий и территорий и манипуляций с заложенной взрывчаткой. Два десятилетия американская полиция использовала их для этих целей.

В реальности большинство полицейских управлений не имеют доступа к робототехнике; а для тех, у кого такая возможность есть, устройства все равно слишком редки и дороги, и используются в основном для работы со взрывчаткой и передвижения в зонах, слишком опасных для людей

Идея вооружить этих роботов не чужда тем, кто их производит. Northrop Grumman, субсидиарием которого является Remotec, продает приспособления для крепежа Franchi 612 или дробовика Penn Arms Striker на НМР Andros с 2004 года, хотя рекламный буклет называет Franchi 612 устройством для взлома дверей, а Penn Arms Striker нелетальным оружием. Так что возможность вооружать роботов была более десяти лет назад. В реальности большинство полицейских управлений не имеют доступа к робототехнике; а для тех, у кого такая возможность есть, устройства все равно слишком редки и дороги, и используются в основном для работы со взрывчаткой и передвижения в зонах, слишком опасных для людей.

«Роботы с оружием непрактичны», — полагает Эрик Айверс, президент фирмы по производству роботов RoboteX. Он говорит, что его компания работала с не менее чем тысячей отделов полиции, включая Сан-Франциско, Лос-Анджелес, Нью-Йорк, Чикаго, Сиэттл и Сент-Луис. «Перезарядка практически невозможна, а задержка радиосигнала может создать серьезные проблемы.

Робокопы – полиция будущего: к чему приведет использование полицией роботов

Роботы вроде Avatar III компании RoboteX есть лишь в нескольких отделах полиции США — они слишком дороги, и используются для обезвреживания взрывчатки. Фото USPB

С моей точки зрения, самая большая проблема — это скорость, с которой оружие может двигаться и следить за объектом. Люди могут передвигаться быстрее, чем нынешние полицейские роботы способны заметить. К тому времени, как оператор засечет, прицелится и выстрелит, объект уже будет далеко от зоны поражения».

Две корейских фирмы, Samsung Techwin и DoDAAM, и одна израильская, Rafael Advanced Defense Systems, разработали почти автономные автоматические системы заградительного огня для использования, соответственно, в корейской демилитаризованной зоне и секторе Газа. Программа обнаруживает и идентифицирует цели по тепловому отпечатку, но для выстрела необходимо решение оператора. Что хорошо, так как автоматический «часовой» не способен отличить друга от врага, он целится во все, что видит. А поскольку эти устройства являются дальнобойными стационарными платформами, они не подходят для полицейской работы. Поставьте его на колеса и закатите в отель или в банк и недостатки будут видны немедленно.

Вооруженные полицейские роботы, по сути, добавляют прослойку между полицейским и объектом. Это делает принятие решения о применении смертельного оружия куда легче, потому что исчезает непосредственный контакт исполнителя с объектом

«Робот недостаточно подвижен, чтобы защитить свое оружие от рук противника, — говорит Диз. — Не так сложно подкрасться к дистанционно управляемому агрегату, повалить его, набросить сеть или что-нибудь от него отломать, особенно если поле зрения оператора ограничено охватом камеры».

Не очень годится робот и для нападения со взрывчаткой.

«Для использования, как в Техасе, роботов не надо особо и модифицировать», — говорит Айверс.

Останавливает полицию от использования роботов-самоубийц даже не цена в 151 тысячу долларов, как у пережившего взрыв Andros Далласского полицейского управления.

«Любую радиоуправляемую машинку можно набить взрывчаткой и рвануть, где надо. Полиция не использовала взрывчатку далласским методом просто потому, что есть более простые и эффективные методы достичь цели».

Полиция сталкивается с ситуациями, когда необходимо отнять жизнь ради своей и чужой безопасности. С этим ничего не поделаешь. Но те, кто принимает такое решение, должны следовать правовым и гражданским установкам.

Некоторые, например, Салливан, считают, что полицейские управления должны разработать особый протокол использования вооруженных роботов.

«Вооруженные полицейские роботы, по сути, добавляют прослойку между полицейским и объектом. Это делает принятие решения о применении смертельного оружия куда легче, потому что исчезает непосредственный контакт исполнителя с объектом, — говорит Салливан. — И эта разделенная ответственность увеличивает вероятность принятия безответственных решений».

Учитывая, что робот управляется оператором, нет большого отличия от использования снайперов

Другим достаточно и действующих правил. Как утверждает Хаммер, каждое полицейское управление имеет терминологию касательно вооруженных неавтономных роботов, но ее создавали для огнестрельного оружия. Расширение терминов — от «огнестрельного оружия» к «любому средству в полицейском арсенале» — поможет разобраться.

«Как в любой критической ситуации, существует механизм принятия решения, в котором старший по званию несет ответственность за применение смертельного насилия», — говорит он. В Далласе таковыми были шеф полиции и мэр. Когда нет времени звонить в штаб-квартиру, ответственность берет старший офицер на месте.

Когда-нибудь роботы станут таким же привычным оборудованием, как кевларовые жилеты и пистолеты, особенно для переговоров, слежки, обезвреживания бомб, взламывания дверей и отвлекающих маневров. Но сейчас и в ближайшем будущем вооруженные роботы — это, скорее, просто вариант обычного оружия.

«Учитывая, что робот управляется оператором, я не вижу большого отличия от использования снайперов, — считает Кэло. — Конституционные рамки достаточны для того, чтобы разобраться с ситуацией, как в Далласе, когда сотрудники используют робота, чтобы кого-то убить».

«Не думаю, что механизм принятия решений полицией как-то изменится в результате, — полагает Хаммер. — Каждое полицейское происшествие — это последовательная цепь обстоятельств, и никогда не бывает двух похожих. Осторожность — вот главный компонент полицейской работы. Я надеюсь, что полицейская работа будет последним родом занятий, который сможет обходиться без человеческого участия».

Автономные роботы уже на подходе, в этом нет сомнения. И если человечество ускорит свои попытки по созданию искусственного интеллекта, подготовка ко дню его появления — это правильное планирование

Все же для многих само наличие военных роботов — достаточный повод для влияния на отношения между полицией и обществом.

«Обществу будет гораздо лучше, если разделение между военными и полицией останется явным», — говорит Салливан. При этом будет разумным начать дискуссию об автономной робототехнике и искусственном интеллекте уже сейчас.

Автономные роботы уже на подходе, в этом нет сомнения. И если человечество ускорит свои попытки по созданию искусственного интеллекта, подготовка ко дню его появления — это правильное планирование. Момент, когда он появится, станет переломной точкой, потому что впервые право принятия решения перейдет от человека, использующего машину, к самой машине.

Это интересно:

Робот вместо человека: кого уволят в ближайшем будущем >>

19 самых значимых технологий и устройств 2017 года >>

10 фактов о гравитационных волнах >>

Назад в счастливое детство: выбираем квадракоптер >>

iPhone 7: сравнение с iPhone 6S, 6 и SE >>

Рэй Курцвейл: в будущем люди смогут обмениваться телами и жить вечно >>

Так реально, что опасно: минусы виртуальной реальности >>

Вся правда о гаджетах: могут ли они лишать рассудка >>

Топ-7 умных вещей: Армия роботов в вашем доме >>