Скучно не будет. Есть ли граница у искусственного интеллекта

Технологии искусственного интеллекта (ИИ) не перестают нас удивлять и даже пугать. Едва ли не каждый день нас бомбардируют новости о превосходстве ИИ над человеком. Он уже выиграл у людей в покер, победил в точности диагностирования рака, в сложнейшей из настольных игр – китайской Го, в распознавании визуальных образов, даже в складывании кубика-рубика.

Эти победы знаменательны тем, что не так давно было немало экспертов, которые считали, что это невозможно или произойдет "когда-то", намного позже. Не может "прямолинейный" математический ИИ обманывать и блефовать в покере. Да так, что на это ведутся профессиональные игроки. Не может выиграть в Го, потому что вариантов ходов больше, чем атомов во Вселенной, и их невозможно просчитать. Не может делать работу в реальном мире, потому что…

А за этими, как иногда кажется, развлекательными задачами, идут очень значительные изменения в организации бизнесов и создании (или ликвидации) рабочих мест для людей. Раньше представить себе, что квалифицированного "белого воротничка" в офисе может заменить ИИ мы могли разве что в фантастике. Сегодня это уже распространенная реальность. Завтра это станет обыденностью.

Возникает вопрос: "Где границы замены нашего "естественного интеллекта" искусственным?". Вопрос не праздный, поскольку ответ на него прямо определит наше будущее уже в ближайшие 3-5-10 лет.

На личном уровне – как оставаться нужным и зарабатывать. На уровне детей – на кого им учиться, кем и какими быть. На уровне общества – что будет с миллионами людей и экономикой стран, которые не успеют (а они точно не успеют) адаптироваться. Да и на уровне вида – не станем ли мы банально ненужным балластом или, хуже того, "едой" для машин, как в известном фильме "Матрица".

Робот или человек?

Многие эксперты не видят границы, которую не сможет переступить ИИ. Илон Маск говорит: "Роботы смогут делать все лучше, чем мы". Технический директор Google Рэй Курцвейл, один из наиболее известных и влиятельных футурологов, считает, что к 2029 году машины достигнут уровня универсального человеческого интеллекта. И смогут пройти тест Тьюринга. То есть, если упростить, общаясь на любые темы с роботом, человек не сможет понять, с кем говорит - роботом или другим человеком.

Это фундаментальная веха, ведь достигнув человеческого уровня интеллекта, машины с необходимостью достигнут и сверхчеловеческого уровня интеллекта – поскольку им будет доступна сверхчеловеческая вычислительная мощность, память, "всеприсутствие" через миллиарды датчиков и так далее. Не говоря уже о том, что "цифровые помощники", как мы знаем, это всего лишь цифровая информация, которую легко скопировать и размножить, чтобы "бесплатно" удовлетворить любые потребности в рабочей силе.

А ведь 2029 – это очень близкая перспектива для нас. Тем более, что это всего лишь условная точка в цунами, которое уже захлестывает наш берег. И будет только нарастать. Как же нам быть?

Действительно ли мы, люди, будем "побиты" машинами во всех дисциплинах? Отойдем на второй план? Станем обезьянами для машин?

Сложность ответа на этот вопрос состоит в том, что даже сами понятия человека, сознания, интеллекта не имеют на сегодняшний четких общепринятых определений. В обычной жизни нам это ничем не мешает. Но для понимания перспектив и пределов ИИ, и соответственно нашего места в будущем с ИИ, эти понятия и их границы являются принципиальными. И от того, как и насколько точно мы их определим, прямо зависит наше будущее. И ответы на заданные выше вопросы.

Не претендуя на истину в последней инстанции, выскажу свое мнение.

Интеллект не может познать жизнь

Первое, - считаю очень к месту в этом вопросе работы философа Анри Бергсона. В них он очень красиво показал принципиальные ограничения интеллекта в познании нашего живого мира.

По Бергсону, "царство интеллекта" — это прежде всего вещи, взятые в качестве застывших твердых тел, к которым применяются законы механики, геометрии, логики. Этот мир прерывен, "кинематографичен": его можно уподобить последовательности кадров на кинопленке.

Интеллекту свойственны немалые преимущества по сравнению с инстинктом и интуицией. Именно благодаря интеллекту человек способен изготовлять искусственные орудия, в частности орудия для изготовления других орудий, бесконечно варьируя производство.

Но интеллект не может познать жизнь в ее длительности, уникальности и неповторимости. А, значит, он принципиально не способен к эмпатии и к тому, чтобы испытывать и понимать эмоции людей.

Мне могут возразить: "Как? Ведь есть масса программ для распознавания эмоций. И по голосу и по изображениям. Исследователи тратят массу усилий на то, чтобы роботы могли понимать и демонстрировать эмоции!".

Но это совсем другое. И работает все это на чистой "холодной" математике и, буквально, как и говорит Бергсон, анализе геометрии тех или иных изображений и выявлении определенных повторяемых графических паттернов.

Второе, - интеллект довольно часто определяют как способность "решать задачи". На первый взгляд, это очень широкое определение, которое включает плюс-минус все. Но оно не включает способность определять задачи, ставить их, мобилизовать эмоциональные и другие ресурсы для их решения.  

Третье, - в более общем контексте это определение интеллекта не включает мотивации быть, осознавать себя личностью со своими собственными интересами, какими бы они не были, стремлениями, способностью чего-то желать. Из чего, собственно, и рождаются задачи.  

Скучно точно не будет

Без этого осознания любой самый "заряженный" сверхчеловеческий интеллект - это просто пустота, выключенный двигатель, инерция импульса, заданного решением человека.

Но нам сложно принять такую довольно простую и очевидную реальность. Есть очень большая проблема нашего восприятия. Мы часто очеловечиваем животных, приписывая им свои реакции, а иногда даже предметы. И так же мы охотно очеловечиваем искусственный интеллект. Это показали уже первые эксперименты еще в 60-х.

Так, еще в 1964-66 годах Joseph Weizenbaum в  MIT Artificial Intelligence Laboratory разработал программу Eliza, - возможно, первого чат-бота, как назвали бы мы ее сегодня. Программа отрабатывала довольно стандартные скрипты в общении с пользователем, например, скрипт "Психотерапевт". Но, к удивлению самого создателя программы, многие пользователи воспринимали ее, как разумную личность, в том числе и секретарша самого разработчика. И испытывали глубокие эмоциональные впечатления от общения с программой. Настолько, что сам разработчик не мог их убедить, что это просто скрипты и обычная программа с четко прописанной автором логикой.   

Если представленная мной точка зрения истинна, и у искусственного интеллекта есть четкие границы "инструмента", которые принципиально невозможно переступить, это отличная новость для нас. Это значит, что нам нужно быть очень глупыми, чтобы не попасть в принципиально новый мир, "золотой век", если хотите, уже в ближайшие 10-15 лет.

Почему? Мы уже привыкли к механическим орудиям, которые в тысячи и миллионы раз сделали нас сильнее и полностью изменили не только нашу собственную жизнь, но и облик планеты. Теперь мы создаем еще более мощные инструменты и технологии для усиления своего интеллекта. А что мы сделаем, будучи в миллионы раз умнее, изобретательнее и быстрее, пока  что сложно даже представить.

Впрочем, следует существенно поднапрячься, чтобы реализовать позитивный сценарий. Поскольку глупыми быть мы умеем. И, как и любой другой инструмент, ИИ может в сотни раз усилить наши проблемы и комплексы, и стать суперопасным оружием или инструментом угнетения немногими многих. Столь эффективным, как еще никогда в нашей истории.

Стоит также понимать, что не менее, а возможно и более опасным, может стать "глупый" ИИ. Если проще, алгоритмы с изначально ущербной логикой. Которые, например, выбирают решить задачу борьбы с браконьерами их физическим уничтожением, как наиболее простым, дешевым и быстрым способом. А не перевоспитанием, или экономическими стимулами.

Какой сценарий будет реализован? Увидим, прочувствуем, поучаствуем уже в ближайшее время. Скучно точно не будет.