Роботи вже вбивають людей. Чому закони робототехніки Азімова не працюють
У 1942 році Айзек Азімов вперше сформулював три закони робототехніки у науковій фантастиці, за яким робот не може своїми діями або бездіяльністю заподіяти шкоду людині. 81 рік потому роботи стали частиною нашої реальності і вже вбивають людей. Нещодавно у промисловому центрі розподілу сільськогосподарської продукції у Південній Кореї промисловий робот вбив працівника, який перевіряв його датчики. І це далеко не перший випадок в історії.
Liga.Tech розповідає, чому це відбувається та як мають працювати правила роботехніки в ідеалі.
Як працюють закони робототехніки Азімова
Три закони робототехніки — обов'язкові правила поведінки для роботів, які письменник Айзек Азімов описав у своєму оповіданні "Я, робот", яке вийшло 1941 року. Власне, термін "робототехніка" теж належить йому.
Ці три закони звучали так:
Робот не може нашкодити людині або через свою бездіяльність допустити, щоб людині було завдано шкоди.
Робот мусить підкорятися наказам людини, коли ці накази не суперечать Першому закону.
Робот повинен дбати про свою безпеку доти, поки це не суперечить Першому і Другому законам.
За версією Азімова, перший закон передбачає, що люди самі конструюють роботів. Другий допускає обмежену здатність роботів розуміти накази людей і реагувати на набір команд від певних осіб. Останній закон найбільш комплексний. Роботи повинні мати незалежність, щоб вміти діяти в реальній ситуації — приймати рішення для захисту себе, але також повинні вміти передавати управління людям, коли це відповідає моменту, тобто проявляти гнучкість.
Водночас Королівське товариство та Британська академія кілька років тому виступили з пропозицією скоротити ці три закони до одного: "Поліпшувати добробут людини". На їхню думку, принципи Азімова також в ньому закладені.
Крім того, вчені закликали пильнувати за тим, щоб машини служили людям, а не прагнули підпорядкувати їх собі. Водночас роботи з "позитронним мозком", свідомістю та вбудованими трьома законами все ще залишаються фантастикою.
Перша у світі людина, вбита роботом
З 1992-го до 2017 року лише в США роботи спричинили смерть 41 людини на робочому місці. Ймовірно, ця цифра неповна, якщо взяти до уваги інші побічні ефекти від автоматизації.
Однак перші подібні випадки були зафіксовані ще у 1980-ті та навіть наприкінці 1970-х. 25 січня 1979 року 25-річний Роберт Вільямс співробітник Ford Motor Company у штаті Мічиган став жертвою індустріального робота, який функціонував на цьому підприємстві. Він вважається першим у світі робітником, вбитим роботом.
Вільямс працював оператором п'ятиповерхової системи для доставляння відлитих деталей. У її складі були візки на гумових колесах, оснащені механічними маніпуляторами для переміщення деталей на полиці та з них. За однією з версій, робот помилково зчитав показники деталей, через що зупинився або просто почав робити це недостатньо швидко.
Робітника попросили піднятися на стелаж, щоб дістати деталі вручну. І в цей момент один з візків вдарив чоловіка в спину і розчавив.
За подібних обставин помер і працівник Kawasaki Heavy Industries Кендзі Урада. Цей випадок описується у книзі "Коли роботи вбивають: штучний інтелект згідно з кримінальним правом".
Робот притиснув його до сусідньої машини: та чи то розчавив, чи то вдарив промисловим ножем у спину. Інші працівники не змогли зупинити машину, оскільки вони не були знайомі з її роботою.
Розслідування дійшло висновку, що працівники недостатньо підготовлені до роботи з машинами, а машини важко регулювати. Робот був видалений із заводу, а навколо двох інших роботів там звели огородження.
Ці приклади змальовують тільки інциденти, до яких причетні небойові роботи. Мало хто замислюється, що більшість сучасної зброї вже є роботизованою. Вона вибирає цілі, повертається на позиції та очікує, поки людина "натисне на курок".
Проте час від часу подібна зброя починає стріляти сама собою. Так, роботизована зенітна гармата вбила дев'ятьох південноафриканських солдатів і поранила 14 у 2007 році, коли через збій програмного забезпечення машина почала шалено розгойдуватися та випустила десятки смертоносних снарядів менш ніж за секунду.
Як штучний інтелект збільшує загрозу роботів
Сучасні напрацювання у сфері штучного інтелекту значно збільшують потенційну загрозу роботів. На вулицях світових мегаполісів з’являються безпілотні таксі, а, наприклад, поліція залучає робособак. Цього достатньо для розуміння, що сучасні роботи виходять далеко за межі складів та підприємств. Водночас безпека їх використання не до кінця врегульована.
Мешканці Сан-Франциско, де нещодавно запрацювало безпілотне таксі, скаржаться на те, що ці машини створюють небезпечні ситуації на дорогах. Зокрема ці таксі не встигають швидко відреагувати на необхідність пропустити швидку допомогу. Через це нещодавно сервіс звинуватили у смерті людини, хоча пряму провину так і не вдалося довести.
Помилки минулого мали б стимулювати людство передбачати можливі наслідки великих катастроф. Однією з найбільших техногенних катастроф минулого століття став вибух на взуттєвій фабриці Гровера, через який загинуло 58 осіб. Це змусило ухвалити правила, які регулюють безпечну роботу парових котлів. Так само пожежа на фабриці Triangle Shirtwaist у 1911 році – тоді загинуло 116 людей – призвела до введення правил щодо спринклерних систем і аварійних виходів.
Цього разу у людства є шанс уникнути трагедії, встановивши обмеження, поки смертельні інциденти з роботами не набули більшого масштабу.