Нейросеть никогда не заменит человека
Человек-Я, кибернетическая машина тела и искусственный интеллект как разные классы систем
Аннотация
Современная дискуссия об искусственном интеллекте обычно строится вокруг вопроса о том, способен ли ИИ в будущем заменить человека. Настоящая статья предлагает изменить саму постановку проблемы.
Исходная ошибка заключается в том, что человек рассматривается как единая совокупность интеллектуальных, вычислительных, сенсорных, регуляторных и исполнительных функций. В предлагаемой модели принципиально различаются три объекта: Человек-Я, кибернетическая машина человеческого тела и искусственный интеллект.
Человек-Я не тождествен кибернетической машине собственного тела. Кибернетическая машина тела осуществляет огромный массив автоматических, сенсорных, регуляторных, координационных и исполнительных процессов и тем самым в какой-то степени разгружает Человека-Я от необходимости непосредственно контролировать каждую операцию.
Искусственный интеллект рассматривается как система, функционально абсолютно прототипологичная кибернетической машине человеческого тела. Такая прототипологичность означает принадлежность к одному функциональному классу кибернетических систем, но не материальную идентичность биологического тела и технической машины.
Искусственный интеллект также способен в какой-то степени разгружать Человека-Я, принимая на техническое исполнение всё больший объём информационных, вычислительных, аналитических, поисковых и организационных операций.
Однако разгрузка не является замещением. Основной тезис статьи состоит в следующем:
Машина способна снять с Человека-Я огромный объём операционной нагрузки, но машина разгрузки не становится тем, кого она разгружает.
Из этого следует, что совершенствование искусственного интеллекта представляет собой совершенствование искусственной кибернетической машины, но не процесс создания Человека-Я.
Ключевые слова
Человек-Я, кибернетическая машина тела, искусственный интеллект, нейросеть, прототипологичность, кибернетика, разгрузка, автоматизация, авторство, исполнение, техническая машина.
Главная ошибка вопроса «Когда ИИ заменит человека?»
Вопрос о том, когда искусственный интеллект заменит человека, кажется естественным только до тех пор, пока человек и ИИ рассматриваются как объекты одного класса. Если предположить, что человек представляет собой определённую совокупность функций, тогда логика действительно выглядит простой. Машина начинает выполнять всё больше человеческих операций. Сначала она считает, затем хранит информацию, потом распознаёт изображения. После этого пишет тексты, анализирует документы, строит модели, управляет техническими системами.
Количество функций увеличивается. Качество исполнения растёт. И тогда возникает впечатление, что в определённый момент количество выполненных машиной функций должно превратиться в новое качество и машина станет человеком.
Но этот вывод возможен только при одном предварительном допущении: Человек-Я является суммой воспроизводимых функций. Настоящая статья исходит из противоположного положения:
Человек-Я не равен совокупности функций кибернетической машины собственного тела.
Следовательно, даже полное техническое воспроизведение огромного количества функций ещё не является воспроизведением Человека-Я.
Три разных объекта исследования
Для дальнейшего анализа необходимо различать Человека-Я, кибернетическую машину человеческого тела и искусственный интеллект. Это три разных объекта.
- Человек-Я в рамках предлагаемой модели связан с постановкой собственной цели, изменением этой цели, определением смысла, построением замысла, принятием решения, авторством и ответственностью.
- Кибернетическая машина тела обеспечивает жизнедеятельность, регуляцию, координацию, сенсорную работу, автоматизацию, исполнение движений и множество других процессов.
- Искусственный интеллект является искусственной кибернетической системой, способной выполнять широкий класс информационных, аналитических и управляющих операций.
Нельзя механически переносить свойства одного объекта на другой только потому, что в языке для них используется один и тот же глагол.
Кибернетическая машина тела
Понятие «кибернетическая машина тела» используется здесь как функциональная исследовательская модель. Оно не означает, что человеческое тело является обычным механизмом. Живой организм значительно сложнее автомобиля, станка или компьютера. Однако множество процессов организма обладает кибернетическими характеристиками.
Тело принимает сигналы, регулирует состояние, поддерживает равновесие, осуществляет координацию, автоматизирует освоенные движения, корректирует исполнение и поддерживает жизненно важные параметры. Оно позволяет человеку выполнять огромное количество действий без постоянного сознательного контроля каждой микроскопической операции.
Именно поэтому тело можно функционально рассматривать как сложнейшую биологическую кибернетическую машину. Но машина тела не является Человеком-Я.
Человек-Я не является ещё одним узлом машины тела
Здесь необходимо избежать одной особенно опасной ошибки. Инженерная аналогия не означает, что Человек-Я следует представлять в качестве отдельного блока внутри организма. Человек-Я не является маленьким оператором, находящимся где-то внутри головы. Он не является отдельной шестерёнкой, центральным процессором или условным блоком управления организма.
Поэтому инженерные модели используются в настоящей статье исключительно для функционального различения. Они позволяют показать различие между системой исполнения, системой разгрузки и автором действия. Но автомобильная или машинная аналогия не является буквальной анатомической моделью человека. Это принципиальное ограничение необходимо сохранить во всей дальнейшей работе.
Автомобиль как инженерная аналогия разгрузки
Современный автомобиль представляет собой хороший пример того, как техническая система постепенно разгружает человека. Ранние автомобили требовали от водителя значительно большего количества операций. Современный автомобиль содержит множество устройств, которые снимают часть этой нагрузки.
Автоматическая коробка передач самостоятельно подбирает передаточный режим. ABS регулирует торможение. Электронный блок управления контролирует работу агрегатов. Система стабилизации корректирует движение. Круиз-контроль поддерживает скорость. Навигационная система прокладывает маршрут.
Современные комплексы помощи водителю могут контролировать дистанцию, полосу движения и значительную часть текущей дорожной ситуации. Каждый новый узел уменьшает объём работы водителя. Но чем больше автомобиль разгружает водителя, тем очевиднее становится принципиальная вещь:
автомобиль не становится водителем только потому, что взял на себя больше водительских операций.
Именно эта инженерная аналогия имеет центральное значение для исследования ИИ.
Как машина тела разгружает Человека-Я
Кибернетическая машина тела выполняет огромный объём работы, который Человеку-Я не требуется постоянно контролировать. Человек идёт и не рассчитывает отдельно работу каждой мышцы. Он не контролирует вручную каждое изменение равновесия, не принимает сознательное решение относительно каждого сокращения сердца, не вычисляет каждое движение глаз и не проектирует заново каждую фазу привычного навыка.
При освоении сложного действия часть операций постепенно становится автоматизированной. У опытного музыканта пальцы выполняют сложнейшие последовательности без необходимости сознательно контролировать каждое отдельное движение. У опытного водителя огромный объём моторной работы становится привычным. У спортсмена множество компонентов техники выполняются автоматически.
Таким образом:
кибернетическая машина тела в какой-то степени разгружает Человека-Я от постоянного операционного контроля.
Но эта разгрузка не превращает машину тела в Человека-Я.
Мясорубка и проблема авторства
Ещё яснее различие между исполнением и авторством видно на простейшем техническом устройстве.
Возьмём электрическую мясорубку. Она состоит из двигателя, редуктора, шнека, ножа, решётки и корпуса. Двигатель создаёт движение. Редуктор передаёт и преобразует его. Шнек перемещает продукт. Нож режет. Решётка участвует в формировании результата.
Если спросить, какой узел непосредственно осуществляет резание, ответ очевиден: нож. Но если спросить: кто решил приготовить фарш? Никакой инженер не станет указывать на нож.
Следовательно, непосредственное выполнение операции и авторство действия являются разными категориями.
Исполнительный узел не равен автору замысла.
Это положение необходимо перенести и на искусственный интеллект.
ИИ функционально абсолютно прототипологичен машине тела
Теперь можно точнее определить место искусственного интеллекта. В рамках предлагаемой теории:
Искусственный интеллект функционально абсолютно прототипологичен кибернетической машине человеческого тела.
Абсолютность относится именно к функциональной прототипологичности. Речь не идёт о материальном равенстве. ИИ не является биологическим телом. Сервер не является нервной системой. Электронная память не является человеческой тканью.
Однако обе системы принадлежат к одному функциональному кибернетическому классу. И кибернетическая машина тела, и искусственная кибернетическая система функционально реализуют обработку сигналов, регулирование, селекцию, коррекцию, автоматизацию и исполнение.
Именно в этом функциональном отношении искусственный интеллект абсолютно прототипологичен кибернетической машине тела. Но:
функциональная прототипологичность машине тела не является прототипологичностью Человеку-Я.
Физическое различие не отменяет функциональной прототипологии
Можно возразить, что человеческое тело обладает метаболизмом, физиологией, гормональной системой, болью, усталостью, восстановлением и огромным количеством процессов, отсутствующих у цифровой системы. Это справедливо. Но такое различие относится к материальному устройству систем.
Функциональная прототипологичность не требует одинакового материала. Автомобильный гидравлический привод и электрический сервопривод могут выполнять функционально аналогичную задачу, оставаясь совершенно разными физическими устройствами.
Механический регулятор и электронный контроллер могут реализовывать один класс регуляционной функции разными техническими средствами. Поэтому тезис о функциональной прототипологичности ИИ к кибернетической машине тела не означает биологической идентичности. Он означает принадлежность к одному классу функциональной организации.
Искусственный интеллект как внешняя машина разгрузки
Человека уже разгружает одна кибернетическая система — его собственное тело. Искусственный интеллект создаёт вторую возможность разгрузки. Разница состоит в том, что первая машина является биологической и внутренней по отношению к человеческому существованию, а вторая является искусственной и технической.
Кибернетическая машина тела принимает на себя огромный массив сенсорных, регуляторных, координационных и исполнительных операций. Искусственный интеллект способен принимать на техническое исполнение часть информационной, вычислительной, поисковой, аналитической, организационной и контрольной работы. Поэтому можно говорить о двух машинах разгрузки:
- внутренней биологической кибернетической машине — человеческом теле;
- внешней искусственной кибернетической машине — ИИ и связанных с ним технических системах.
Обе способны разгружать Человека-Я. Ни одна из них не является Человеком-Я.
Разгрузка не является передачей Я
Именно здесь необходимо особенно точно использовать терминологию. Нельзя говорить, что ИИ «получает функции Человека-Я» так, словно Я можно разобрать на детали и передать машине. Правильнее говорить:
определённый объём операций и отдельных функций, которыми загружен Человек-Я, может быть передан машине на техническое исполнение.
Например, исследователь может перестать вручную сортировать тысячи документов. Это не означает, что он передал искусственному интеллекту своё Я. Он передал машине техническую работу сортировки.
Человек может не рассчитывать вручную статистическую модель. Это не означает передачу авторства исследования калькулятору или компьютеру. Пилот может передать автопилоту значительный объём управления самолётом. Это не означает, что автопилот стал пилотом как Человеком-Я. Следовательно:
Передача операции машине не является передачей Человека-Я.
Машинный выбор и выбор Человека-Я
Особенно важно различать одинаковые слова, применяемые к разным уровням. Автоматическая коробка передач действительно выбирает передачу. Это нормальное инженерное выражение. Но это машинный функциональный выбор. Он осуществляется внутри конструкции машины в соответствии с её параметрами, режимами, алгоритмами и состоянием. Человек-Я также может осуществлять выбор. Но человеческий выбор связан не только с селекцией технического варианта. Человек способен изменить саму задачу, отказаться от первоначальной цели, изменить критерий, отказаться от выгодного решения, признать действие недопустимым, поставить вопрос о последствиях и поставить вопрос о собственном будущем. Поэтому:
машинный функциональный выбор не равен выбору Человека-Я.
ИИ способен осуществлять чрезвычайно сложный машинный выбор. Но сложность выбора не меняет его функционального класса.
Машинный прогноз и человеческий замысел
Подобная проблема возникает со словом «прогноз». Кибернетическая машина тела в какой-то степени способна к опережающей подготовке и регуляции. Это позволяет организму заранее перестраивать определённые процессы перед ожидаемым действием. ИИ может строить технические прогнозы. Он способен анализировать данные, рассчитывать вероятность событий, моделировать развитие ситуации.
Автомобильный компьютер может рассчитать запас хода. Система диагностики может предсказать возможный отказ узла. Метеорологическая модель способна рассчитать вероятность определённых погодных условий.
Это реальные машинные прогнозы. Но Человек-Я способен не просто рассчитывать вероятное состояние. Он способен создавать замысел будущего. Человек может решить: через десять лет я хочу получить такой результат, поэтому сегодня изменю образ действий. В таком случае предполагаемое будущее становится основанием настоящего решения. Поэтому машинный прогноз и человеческий замысел нельзя смешивать.
Совершенствование машины не является конструированием Человека-Я
Теперь становится понятной стратегическая посылка статьи. Совершенствование искусственного интеллекта решает задачу совершенствования искусственной кибернетической машины.
Увеличивается память, увеличивается скорость обработки, улучшается селекция и распознавание, усложняются модели, увеличивается автономность выполнения. Расширяется количество операций, которые машина способна принимать на себя.
Но всё это относится к одной задаче: созданию всё более совершенной машины. Это вообще не является задачей конструирования Человека-Я. Для замещения Человека-Я потребовалось бы поставить принципиально другую задачу конструирования. В рамках предлагаемой теории такая задача признаётся технически нереализуемой. Следовательно:
никакое совершенствование искусственной кибернетической машины само по себе не является движением к созданию Человека-Я.
Чем совершеннее машина, тем больше разгрузка
История техники показывает устойчивую закономерность. Совершенствование машины уменьшает объём человеческой операционной нагрузки. Подъёмный механизм снимает необходимость вручную поднимать тяжёлый груз. Экскаватор принимает на себя огромный объём землеройной работы. Станок выполняет операции, которые раньше осуществлялись вручную. Автоматизированная линия снимает с рабочего множество повторяющихся действий. Автоматическая коробка уменьшает число операций водителя. Автопилот уменьшает операционную нагрузку пилота. ИИ продолжает этот исторический процесс на новом уровне. Он способен разгружать уже не только физическую, но и значительную часть информационной и интеллектуально-технической работы.
Поэтому рост мощности ИИ следует измерять прежде всего объёмом разгрузки. Но:
рост разгрузки не является ростом сходства с Человеком-Я.
Освободившийся ресурс Человека-Я
Если машина снимает часть операционной нагрузки, появляется другой важный вопрос: что происходит с освободившимся ресурсом Человека-Я? Это один из наиболее перспективных вопросов всей исследовательской программы.
Техническая разгрузка позволяет человеку переносить внимание на другой уровень задачи. Калькулятор освободил человека от значительной части арифметической рутины. Компьютер освободил исследователя от огромного массива ручных вычислений. Фотоаппарат снял необходимость вручную воспроизводить внешний вид объекта для его фиксации. Цифровые базы данных радикально изменили работу с информацией.
ИИ способен снять ещё больший объём операционной нагрузки. Следовательно, главный эффект искусственного интеллекта может состоять не в уменьшении значения Человека-Я, а, наоборот, в увеличении его свободного ресурса.
Инженерная модель промышленного цеха
Представим производственный цех. Сначала рабочий вручную переносит деталь. Потом появляется транспортёр — рабочий освобождается от переноски. Появляется манипулятор — рабочий освобождается от установки тяжёлой детали. Появляется автоматическая измерительная система. Она снимает часть контроля. Появляется компьютерная диагностика. Она снимает часть анализа. Появляется ИИ. Он способен принять на себя часть планирования, поиска ошибок, прогнозирования неисправностей и информационного контроля. Количество непосредственных операций человека уменьшается.
Но инженер описывает происходящее не как «превращение цеха в человека». Происходит рост автоматизации машины. Именно в этих терминах следует рассматривать развитие искусственного интеллекта.
Авторство действия в системе с ИИ
Чем больше операций ИИ выполняет автоматически, тем важнее различать исполнение и авторство.
Представим научное исследование. ИИ нашёл документы, отсортировал их, сделал предварительный анализ, рассчитал статистическую модель, подготовил черновик.
- Но кто сформулировал научную проблему?
- Кто определил объект исследования?
- Кто выбрал методологию?
- Кто принял или отверг вывод?
- Кто подписывает статью?
- Кто несёт ответственность за её содержание?
Непосредственный исполнитель отдельной операции не обязательно является автором всей деятельности. Так же как нож мясорубки не является автором фарша, а автоматическая коробка не является автором поездки. Отсюда следует фундаментальное положение:
Исполнение не равно авторству.
Почему человеческая речь ИИ ничего принципиально не меняет
Современный искусственный интеллект создаёт особенно сильную иллюзию человекоподобия благодаря языку. Мясорубка не говорит: «Я выбрала оптимальный режим». Автомобильная коробка не сообщает: «Я решила переключиться на третью передачу». ИИ может говорить именно так. Он способен использовать местоимение «я», объяснять свои действия и создавать рассуждение от первого лица.
Но изменение интерфейса не изменяет функционального класса машины. Если автомобильный компьютер начнёт говорить человеческим голосом: «Я решил снизить скорость из-за препятствия», это не означает возникновения внутри автомобиля Человека-Я. Это означает лишь появление нового способа представления машинной операции пользователю. Следовательно:
языковая форма первого лица не является Человеком-Я.
Искусственный интеллект не конкурент Человека-Я
Если принять предложенную модель, меняется сама перспектива исследования. ИИ перестаёт быть недоделанным человеком. Его не требуется оценивать по тому, насколько он «почти человек».
Это чрезвычайно сложная искусственная кибернетическая машина. Её задача заключается в выполнении и автоматизации определённого класса функций. Чем совершеннее такая машина, тем больший объём операций она может снять с Человека-Я.
Поэтому искусственный интеллект следует рассматривать прежде всего как средство радикальной разгрузки и усиления человеческой деятельности. Он не становится конкурентом Человека-Я только потому, что способен выполнять всё больше работы.
Пять исходных положений теории
На основании проведённого анализа можно сформулировать пять основных положений.
- Первое. Человек-Я и кибернетическая машина человеческого тела не являются одним и тем же объектом.
- Второе. Кибернетическая машина тела в какой-то степени разгружает Человека-Я, автоматически выполняя огромный объём регуляторной, координационной и исполнительной работы.
- Третье. Искусственный интеллект функционально абсолютно прототипологичен кибернетической машине человеческого тела.
- Четвёртое. Искусственный интеллект способен в какой-то степени дополнительно разгружать Человека-Я, принимая на техническое исполнение всё больший объём операций.
- Пятое. Никакой объём разгрузки не превращает разгружающую машину в Человека-Я.
Главная инженерная проверка
Всю модель можно проверить на автомобиле. Представим машину, в которой автоматизировано почти всё. Она самостоятельно переключает передачи, следит за дорогой, контролирует дистанцию, удерживает полосу, строит маршрут, паркуется, диагностирует себя и перестраивает маршрут. Она может практически полностью выполнить поездку. Водитель освобождён почти от всей операционной нагрузки.
Но инженерно правильное описание происходящего звучит так: машина максимально разгрузила водителя от управления автомобилем. Неправильное описание: автомобиль превратился в водителя как Человека-Я. Это и есть основная проверка всей теории.
Почему нейросеть никогда не заменит человека
Нейросеть никогда не заменит человека не потому, что она обязательно останется слабой. Она может стать чрезвычайно мощной. Она может превзойти человека в скорости расчёта, объёме памяти, количестве одновременно обрабатываемых данных, точности отдельных операций, способности работать без усталости, управлении большими техническими системами и выполнении огромного количества рутинных интеллектуально-технических задач.
Она может разгрузить Человека-Я сильнее любой предыдущей машины. Но всё перечисленное относится к развитию машины.
Совершенствование машины разгрузки не является конструированием того, кого она разгружает.
Поэтому количество функций, переданных искусственному интеллекту, не является мерой превращения ИИ в Человека-Я.
Новая постановка проблемы искусственного интеллекта
Вместо вопроса: «Когда искусственный интеллект заменит человека?» следует поставить другой класс вопросов.
- Какой объём операций может быть передан искусственной кибернетической машине?
- Какие функции рационально автоматизировать?
- Какие функции должна продолжать выполнять машина тела?
- Какие решения должны оставаться за Человеком-Я?
- Где проходит граница между техническим исполнением и авторством?
- Кто несёт ответственность за результат?
- Как использовать освобождённый ресурс Человека-Я?
Эти вопросы значительно продуктивнее разговора о «замене человека».
Заключение
Современная дискуссия об искусственном интеллекте во многом строится на неправильном объекте сравнения. Искусственный интеллект сопоставляется непосредственно с человеком. Однако предлагаемая модель различает три объекта:
- Человека-Я;
- кибернетическую машину человеческого тела;
- искусственный интеллект.
Кибернетическая машина тела не равна Человеку-Я. Она в какой-то степени разгружает его, автоматически выполняя огромный массив процессов. Искусственный интеллект функционально абсолютно прототипологичен кибернетической машине тела. Он представляет собой искусственную кибернетическую машину, способную дополнительно разгружать Человека-Я от огромного количества операций.
Поэтому между телом и ИИ существует функциональная прототипология. Между ИИ и Человеком-Я такой прототипологии нет. Из этого следуют три фундаментальных положения:
Разгрузка не является замещением. Исполнение не является авторством. Совершенствование машины не является конструированием Человека-Я.
Главная инженерная формула исследования может быть сформулирована следующим образом:
Машина может снять с Человека-Я почти всю операционную нагрузку, но машина разгрузки не становится тем, кого она разгружает.
Поэтому будущее искусственного интеллекта необходимо рассматривать не как историю постепенного исчезновения человека, а как историю создания всё более совершенной внешней кибернетической машины.
Такая машина способна искать, считать, анализировать, прогнозировать, сортировать, контролировать, исполнять и автоматизировать. Она способна радикально расширить возможности человеческой деятельности.
Но именно потому, что она становится всё более совершенной машиной, необходимо окончательно отказаться от ошибочного вывода, будто совершенствование машины само по себе создаёт Человека-Я.
Нейросеть никогда не заменит человека.
Она способна сделать другое. Она способна разгрузить человека так, как до неё не могла ни одна машина.
Автор статьи: Ph.D Олег Мальцев
Официальный e-mail профессора: Phd@oleg-maltsev.com
