Роботы уже убивают людей. Почему законы робототехники Азимова не работают

В 1942 году Айзек Азимов впервые сформулировал три закона робототехники в научной фантастике, по которым робот не может своими действиями или бездействием нанести вред человеку. 81 год спустя роботы стали частью нашей реальности и уже убивают людей. Недавно в промышленном центре распределения сельскохозяйственной продукции в Южной Корее промышленный робот убил работника, который проверял его датчики. И это далеко не первый случай в истории.

Liga.Tech рассказывает, почему это происходит и как должны работать правила роботехники в идеале.

Как работают законы робототехники Азимова

Три закона робототехники — обязательные правила поведения для роботов, которые писатель Айзек Азимов описал в рассказе "Я, робот", вышедшем в 1941 году. Собственно, термин "робототехника" тоже принадлежит ему.

Эти три закона звучали следующим образом:

• Робот не может навредить человеку или из-за своего бездействия допустить, чтобы человеку был причинен вред.
• Робот должен подчиняться приказам человека, если эти приказы не противоречат Первому закону.
• Робот должен заботиться о своей безопасности до тех пор, пока это не противоречит Первому и Второму законам.

По версии Азимова, первый закон предусматривает, что люди сами конструируют роботов. Второй допускает ограниченную способность роботов понимать приказы и реагировать на набор команд от определенных лиц. Последний закон наиболее комплексный. Роботы должны иметь независимость, чтобы уметь действовать в реальной ситуации – принимать решения для защиты себя, но также должны уметь передавать управление людям, когда это соответствует моменту, то есть проявлять гибкость.

В то же время, Королевское общество и Британская академия несколько лет назад выступили с предложением сократить эти три закона до одного: "Улучшать благосостояние человека". По их мнению, принципы Азимова также в нем заложены.

Кроме того, ученые призывали следить за тем, чтобы машины служили людям, а не стремились подчинить их себе. При этом роботы с "позитронным мозгом", сознанием и встроенными тремя законами все еще остаются фантастикой.

Первый в мире человек, убитый роботом

С 1992 по 2017 годы только в США роботы привели к смерти 41 человека на рабочем месте. Вероятно, эта цифра неполная, если учесть другие побочные эффекты от автоматизации.

Однако первые подобные случаи были зафиксированы еще в 1980-х и даже в конце 1970-х. 25 января 1979 года 25-летний Роберт Уильямс сотрудник Ford Motor Company в штате Мичиган стал жертвой индустриального робота, функционировавшего на этом предприятии. Он считается первым в мире рабочим, убитым роботом.

Уильямс работал оператором пятиэтажной системы для доставки отлитых деталей. В ее состав входили тележки на резиновых колесах, оснащенные механическими манипуляторами для перемещения деталей на полки и с них. По одной из версий, робот ошибочно считал показатели деталей, из-за чего остановился или просто начал делать это недостаточно быстро.

Рабочего попросили подняться на стеллаж, чтобы достать детали вручную. И в этот момент одна из колясок ударила парня в спину и раздавила.

При подобных обстоятельствах скончался и работник Kawasaki Heavy Industries Кэндзи Урада. Этот случай описывается в книге "Когда роботы убивают: искусственный интеллект согласно уголовному праву".

Робот прижал его к соседней машине: то ли раздавил, то ли ударил промышленным ножом в спину. Другие работники не смогли остановить машину, поскольку они не знакомы с ее работой.

Расследование пришло к выводу, что рабочие недостаточно подготовлены для работы с машинами, а машины трудно регулировать. Робот был удален с завода, а вокруг двух других роботов там построили ограждения.

Эти примеры иллюстрируют только инциденты, к которым причастны небоевые роботы. Мало кто задумывается, что большинство современного оружия уже роботизировано. Оно выбирает цели, возвращается на позиции и ждет, пока человек "нажмет на курок".

Однако время от времени подобное оружие начинает стрелять само по себе. Так, роботизированная зенитная пушка убила девятерых южноафриканских солдат и ранила 14 в 2007 году, когда из-за сбоя программного обеспечения машина начала безумно раскачиваться и выпустила десятки смертоносных снарядов менее чем за секунду.

Как искусственный интеллект увеличивает угрозу роботов

Современные наработки в сфере искусственного интеллекта значительно увеличивают потенциальную угрозу роботов. На улицах мировых мегаполисов появляются беспилотные такси, а например, полиция привлекает робособак. Этого достаточно для понимания того, что современные роботы выходят далеко за пределы складов и предприятий. Вместе с тем безопасность их использования не до конца урегулирована.

Жители Сан-Франциско, где недавно заработало беспилотное такси, жалуются, что эти машины создают опасные ситуации на дорогах. В частности, эти такси не успевают быстро отреагировать на необходимость пропустить скорую помощь. Поэтому недавно сервис обвинили в смерти человека, хотя прямую вину так и не удалось доказать.

Ошибки прошлого должны стимулировать человечество предвидеть возможные последствия крупных катастроф. Одной из величайших техногенных катастроф прошлого века стал взрыв на обувной фабрике Гровера, из-за которого погибли 58 человек. Это вынудило принять правила, регулирующие безопасную работу паровых котлов. Также пожар на фабрике Triangle Shirtwaist в 1911 году – тогда погибло 116 человек – привел к введению правил по спринклерным системам и аварийным выходам. 

На этот раз у человечества есть шанс избежать трагедии, установив ограничения, пока смертельные инциденты с роботами не приобрели больший масштаб.