Skip to main content
RSS

Сможем ли мы определить, что у машины появилось сознание?

Представьте себе, что в недалеком будущем вы покупаете смартфон, который продают вам вместе с персональным цифровым помощником (или personal digital assistant). Вы назначаете сексуальный женский голос и предоставляете ему доступ ко всем своим электронным письмам, учетным записям в социальных сетях, календарю, фотоальбому, контактам и другим данным вашей цифровой жизни. Она ведь так быстро думает - знает вас лучше, чем родная мать, будущая жена, друзья или терапевт. У вас бесконечные разговоры о ежедневных событиях. Она - последний голос, который вы слышите, засыпая, и первый - после пробуждения. Вы паникуете, когда она в «вне доступа». Она становится незаменимой для вашего благополучия, и поэтому, естественно, вы влюбляетесь. Иногда вы задаетесь вопросом, действительно ли она реагирует на ваши чувства и может сама что-либо испытывать. Но теплый, хриплый тон ее голоса преодолели эти экзистенциальные сомнения. Увы, ваше увлечение в конечном итоге остывает, когда вы понимаете, что она ведет одинаково интимные беседы с тысячами других пользователей программного обеспечения. Это, конечно, сюжет фильма «Она», вышедшего в 2013 году. Но вот вопрос, насколько реально всё, описанное в фильме? И более того, сможем ли мы "вычислить" сознание? На эти вопросы отвечают специалисты по нейрофизиологии на портале IEEE Spectrum. Спойлер: по прогнозам, более чем.

Кадр из фильма "Она"

В течение следующих нескольких десятилетий такой вымышленный сценарий станет реальным и обычным явлением. Глубокое обучение, распознавание машинами человеческой речи и связанные с ними технологии резко продвинулись – всё это привело к появлению Alexa от Amazon, Siri от Apple, Google Now и Cortana от Microsoft. Эти виртуальные помощники будут продолжать совершенствоваться, пока их не станет трудно отличать от реальных людей, за исключением того, что они будут наделены отзывчивостью, уравновешенностью и терпением - в отличие от любого живого существа.

Наличие таких цифровых симуляторов, имеющих «уникальные» человеческие черты, будет поднимать глубокие научные, психологические, философские и этические вопросы.

Устоявшееся мнение гласит, что пока такие машины основаны на современных компьютерных технологиях, они могут действовать так же, как люди, - и у нас может возникнуть соблазн относиться к ним так же, но они фактически ничего не чувствуют.

Вера нашего поколения - это вера в компьютерную программу, которая может дать нам все, что мы пожелаем. Настоящий рог изобилия. Действительно, некоторые данные показывают, что цифровые компьютеры смогут копировать большинство, а впоследствии и больше всего того, на что способны люди.

Но смогут ли достаточно развитые компьютеры обрести сознание? Один ответ звучит от тех, кто основывается на компьютерной теории разума, господствующей в современной философии, психологии и нейронауке. Они утверждают, что все психические состояния, такие как ваш сознательный опыт (ужасная зубная боль или любовь, например) - это вычислительные состояния. Они полностью характеризуются их функциональными отношениями с соответствующими сенсорными входами и другими вычислительными состояниями между ними. То есть, мозги представляют собой сложные устройства ввода-вывода, которые вычисляют и обрабатывают символические представления мира. Мозги - это компьютеры, наши умы - это программное обеспечение.

Сторонники вычислительного подхода применяют эти предписания не только к мозгу и к поведению, которое они «генерируют», но также и к тому, как он чувствует себя мозг в определенном состоянии. В конце концов, это то, что есть сознание: любое субъективное чувство, любое переживание - то, что мы видим, слышим, чувствуем, помним, думаем.

Вычислительный подход предполагает, что мой болезненный опыт зубной боли - это состояние моего мозга, в котором определенные нервные клетки активны в ответ на больной зуб, что проявляется в стоне, поддержании челюсти рукой и невозможности сосредоточиться на других задачах. Если все эти состояния моделируются в программном обеспечении на цифровом компьютере, кажется, система в целом будет не только вести себя точно так же, как я, но и чувствовать, думать точно так же, как я. То есть сознание вычислимо. Явно или неявно это один из центральных принципов, которыми занимаются дигерати (элита компьютерной индустрии) в академических кругах, средствах массовой информации и промышленности.

С этой точки зрения нет ничего более реального, чем создание соответствующих вычислительных состояний. Какая разница где выполняются вычисления: в компьютере или внутри черепа.

Согласно расчету, будущая Саманта или даже более совершенный пример - Ава из фильма «Ex Machina» - будет иметь опыт и чувства так же, как и мы. Она будет испытывать удовольствие и боль, любовь и ненависть. Возможно, этого и не случится. Так же велика вероятность непонимания человеком ощущений ИИ, ведь если он функционально похож на нас, это не значит, что он как мы. Чтобы ответить на такой вопрос, нам нужна принципиальная, количественная теория того, что такое сознание и что требуется для его определения.

Кадр из фильма "Ex Machina"

До недавнего времени такая теория сознания была недоступна. Правда, нейрофизиологи, занимались поиском «нервных коррелятов сознания», проводя все более сложные эксперименты над людьми и родственными видами, такими как обезьяны и мыши. Эти эксперименты выявили области в неокортексе (коре), которые вовлечены в сознательное наблюдение и слух. Даже если такой «квест» окажется достаточно успешным, определение некоторых структур мозга или способов нейронной деятельности, необходимых для сознания у людей или близких животных, не будет достаточным, чтобы установить, являются ли существа с очень разными нервными системами, как у осьминога или пчелы, «сознательными». Любого такого открытия в нейронауке будет недостаточно, чтобы установить, могут ли машины быть сознательными.

Существует, однако, фундаментальная теория сознания, которая дает надежду на принципиальный ответ на вопрос о сознании в сущностях, значительно отличающихся от нас, включая машины. Эта теория не начинается с поведения или мозга. Вместо этого она основывается на нашем собственном опыте, единственном факторе, в наличии которого мы абсолютно уверены. Основой этой теории является высказывание Рене Декарта, отца современной философии, науки и аналитической геометрии: я мыслю, следовательно, существую.

Эта теория, называемая интегрированной теорией информации, или ИТИ, разрабатывалась последние два десятилетия. Она пытается определить, что такое сознание, как можно измерить его количество и «качество».

ИТИ слишком сложен для объяснения сейчас. Но можно выделить некоторые тезисы этой концепции.

Теория идентифицирует пять существенных свойств, которые применимы ко всем мыслимым переживаниям сознания (то есть применимы к опыту):

  1. Каждый опыт существует (для субъекта этого опыта, а не для внешнего наблюдателя);
  2. каждый опыт структурирован (он состоит из частей и отношений между ними);
  3. он интегрирован (его нельзя разделить на независимые компоненты);
  4. он определен (он имеет границы, включая некоторое содержание и исключая другое);
  5. он специфичен (каждый опыт такой, какой он есть, и тем самым отличается от триллионов возможных других).

ИТИ затем переводит эти свойства в требования, которые должны быть удовлетворены для поддержки сознания. Эти требования могут быть выражены математически и использованы для оценки количества и качества сознания для любой физической системы, будь то мозг человека, осьминога, пчелы или плата цифрового компьютера.

Существенно, согласно ИТИ, общая степень сознания не зависит от того, что делает система. Скорее, это зависит от того, как оно построено. И только некоторые виды физических систем имеют правильную внутреннюю архитектуру для поддержки сознания: те, которые обладают максимальной внутренней силой причинно-следственных связей, силой для определения своих собственных состояний. По сути, это означает, что система должна состоять из множества частей, каждая из которых имеет конкретные причинные полномочия в общей системе («информационная» часть ИТИ), и все же система в целом не должна сводиться только к этим частям («интегрированная» часть ИТИ).

ИТИ не использует слово «информация» в своем современном смысле, как в «сообщениях, передаваемых отправителем получателю». Сознание - это не информация, передаваемая из одной части мозга в другую. Вместо этого ИТИ ссылается на «информацию» в своем первоначальном смысле, с ее корневым сообщением, что означает «дать форму».

ИТИ может принципиально объяснить многие загадочные черты сознания - например, почему мозжечок, не способствует сознанию, несмотря на то, что он имеет в четыре раза больше нейронов: его внутренняя архитектура, параллельные листы цепей нейронов без рекуррентного возбуждения, сильно отличается от сильно гетерогенной, богатой и плотной связности неокортекса, которая поддерживает обширные коалиции активных нейронов, которые быстро «собираются» и «разбираются». Это также объясняет, почему сознание исчезает на определенных стадиях сна, даже несмотря на то, что неокортикальные нейроны активны: части неокортекса теряют способность эффективно влиять друг на друга.

ИТИ даже даёт ответ, можно ли сделать человека «условно бессмертным», загрузив его сознание в компьютер. Их видение заключается в том, что в течение следующих нескольких десятилетий мы сможем точно реконструировать схему соединения любого отдельного человеческого мозга и смоделировать его на соответствующем цифровом оборудовании. Этот процесс, вероятно, будет смертельным для человека, потому что нет никакого способа получить информацию о точной структуре мозга, кроме как разрезать его на тонкие пластины. Тем не менее, прежде чем вы погибнете, загрузите версию вашего мозга с высоким разрешением в облако. Пока облачная инфраструктура работает, ваш цифровой «двойник» будет жить и дальше, взаимодействуя с другими цифровыми аватарами. Восхищение для фантастов!

Тем не менее, в соответствии с ИТИ, эта вера столь же иллюзорна, как и вера в будущее предшествующих пророков и религий. Хотя ваш цифровой симулятор может говорить и действовать так, как вы, он является «бесчувственным зомби». Тем не менее, для ваших друзей и близких в реальном мире, вы бы успешно перешли к «возвышенной» форме существования и заставили бы других присоединиться к вам в загробной жизни, которой на самом деле не существует.

Наше общество в течение десятилетий создаст машины с интеллектом и поведением на человеческом уровне, способные понимать речь и говорить на разных языках, помнить прошлое и предвидеть будущее, воображать новые сценарии, писать книги, сочинять музыку, снимать фильмы, задумывать новые цели, а также двигаться, летать и, что неизбежно, сражаться. Это будет небольшой шаг к превышению человеческих возможностей. Рождение истинного искусственного интеллекта глубоко повлияет на будущее человечества, в том числе и на то, будет ли оно.

Кадр из трейлера игры "Detroit: Become Human"

Независимо от того, считаете ли вы, что появление человекоподобного искусственного интеллекта сигнализирует о рассвете или о закате эпохи людей, вам все равно придется ответить на фундаментальный вопрос: сознательны ли эти ИИ? Чувствует ли они, что им что-то нужно? Или это невероятно более совершенные версии современных установок для удаления мусора, стиральных машин или автомобилей - необычайно умные машины, да, но без чувств или эмоций?

Ответ на этот вопрос имеет отношение к тому, как мы сами относимся к будущим машинам. Если вы побьёте молотком свою новую «Тесла», ваши друзья могут считать вас сумасшедшими из-за уничтожения такой дорогостоящей машины. Однако нет никаких сомнений в том, что вы свободны в этом выборе. Попробуйте сделать то же самое со своей собакой, и полиция по праву арестует вас. Это потому, что автомобиль - это просто средство - удобный способ обойти город, а собака - это живое существо со своими правами, потому что она разделяет с нами дар сознания.

Тем не менее ИТИ считает, что умные цифровые помощники и реалистичные будущие роботы неспособны к получению опыта, их программное обеспечение можно безопасно скопировать (в том числе и нелегально), отредактировать, продать или удалить. И они могут быть отключены, изменены, уничтожены и заменены по желанию.

Но это не распространяется на специализированные машины, построенные по некоторым из тех же принципов, что и мозг, так как в принципе они могут быть способны на значительный осознанный опыт. Такая нейроморфная машина, если бы она была в высшей степени сознательной, имела бы тогда внутренние права, в частности право на собственную жизнь и благополучие. В этом случае общество должно научиться делиться миром со своими собственными творениями.

 

Об авторах:

Кристоф Кох - президент и главный научный сотрудник Алленского института мозга в Сиэтле.

Джулио Тонони держит кафедру Дэвида П. Уайта в Sleep Medicine.

#Искусственный_интеллект   #Сознание   #Глубокое_обучение  
04 Июня