[МУЗЫКА]

[МУЗЫКА] Итак,

мы с вами остановились на вопросе, может ли программа обладать сознанием.

Тест Тьюринга вдохновил очень многих исследователей искусственного

интеллекта на то, чтобы создать программу, проходящую этот тест Тьюринга.

Однако же сам Тьюринг говорил именно о разумности машины,

он ничего не говорил о сознании.

В то время как многие, стремящиеся создать программу, проходящую тест Тьюринга,

претендовали именно на то, что эта программа будет иметь сознание.

Долгое время этот спор не имел под собой каких-то сильных интуитивных аргументов,

которые были бы ясны и очевидны, даже, может быть, неискушенному слушателю.

Такой аргумент предложил американский философ Джон Сёрл.

Этот аргумент получил название аргумент китайской комнаты и

представляет собой по сути мысленный эксперимент,

опубликованный Джоном Сёрлом в 1980 году в статье «Сознание, мозг и программы».

Сейчас мы с вами кратко разберем, в чем состоит мысленный эксперимент,

каков его смысл и какие выводы делает Сёрл из этого мысленного эксперимента.

Итак, что же такое "китайская комната"?

Давайте поговорим о том, что в ней есть.

Во-первых, в китайской комнате есть Джон Сёрл.

Джон Сёрл, который парадоксальным образом не знает китайский язык,

хотя комната китайская.

Почему же она китайская?

Потому что в ней есть корзины с китайскими иероглифами.

Ну, допустим, с дощечками, на которых нарисованы китайские иероглифы.

Такие тоненькие дощечки, на каждой по иероглифу.

И главное, что там есть — все китайские иероглифы,

то есть очень много китайских иероглифов.

Кроме того, там есть очень толстая книга.

Я бы сказал, что большую часть такой комнаты, наверное, занимала бы эта книга.

Это книга правил.

Мы чуть дальше разберемся с тем, для чего она нужна.

Кроме того, в комнате есть входное и выходное отверстие.

Во входное отверстие Сёрлу передают китайские таблички,

через выходное отверстие он выдает другие китайские таблички.

Как же китайская комната работает?

Сёрл в китайской комнате является действующим лицом.

Что же он делает?

Во-первых, он принимает таблички на входе.

Допустим, он принимает на входе три таблички с вот такими иероглифами.

Сёрл далее смотрит в книгу правил.

Листает, листает, листает книгу правил, находит там страницу,

на которой изображены эти три иероглифа и дано некоторое правило:

на такие-то три иероглифа выдавать такие-то пять иероглифов.

Он обращается к своим табличкам с иероглифами, находит эти пять иероглифов,

собирает их вместе и выдает их через выходное отверстие.

Заметим, что Сёрл не знает китайского, и поэтому он не знает,

что первые три иероглифа означают «Как поживаете?»,

а последующие — «У меня все хорошо.

А у тебя?».

Он просто манипулирует табличками, он не понимает, что значат эти таблички,

каков смысл знаков, которые на них изображены.

Таков, собственно говоря, мысленный эксперимент с китайской комнатой.

Что же он призван показать, в чем смысл аргумента китайской комнаты?

Сёрл говорит, что его действия подобны функционированию программы.

Он манипулирует символами.

Получает некоторые символы на входе, информацию, обрабатывает их

согласно своим правилам, алгоритмам, и выдает некоторые символы на выходе.

Но при этом самое главное, что он ровным счетом ничего не понимает.

Он не имеет ни малейшего представления о том, что же значат эти символы.

Он просто манипулирует ими, согласно своей книге правил.

Что же это значит в каком-то большом контексте?

Это означает, что программа, выдающая правильные ответы,

вовсе не обязательно понимает, что означают эти ответы.

Что сделал Сёрл?

Он как бы поставил себя на место программы.

Он сказал: «Да, трудно решить вопрос о том, мыслит программа или нет.

А давайте я стану на место программы и буду делать в точности,

что делает эта программа.

Буду ли я понимать, что я делаю или нет?» На основе того,

что Сёрл ничего не понимает в этой комнате,

мы сможем сделать вывод, что и программа, проходящая тест Тьюринга, может быть

полностью лишена всякого понимания, полностью лишена всякого сознания.

Она может давать нам блестящие ответы, она может быть тончайшим собеседником,

она может потрясающий вкус проявлять в своих суждениях,

однако абсолютно не понимать, что эти суждения означают.

Кроме того, Сёрл сделал несколько глобальных выводов о том, почему же

программа не способна ничего понять, почему у нее не может быть сознания.

Первый глобальный вывод, который сделал Сёрл,

можно кратко сформулировать так — синтаксиса недостаточно для семантики.

Чтоб понять это, давайте кратко, очень просто, без технических деталей,

не пытаясь сделать вид, что мы грамматики или специалисты в лингвистике, тем более,

что вдруг среди вас есть такие, скажем, что такое синтаксис и что такое семантика.

Синтаксис для нашего случая — это просто формальные правила сочетания знаков, это,

собственно говоря, книга правил.

То, как нужно обрабатывать одни знаки и выдавать другие.

Формальные отношения между символами.

Семантика изучает отношения между знаком и его значением.

Она изучает не просто то, как один иероглиф связан с другим,

а как иероглиф связан с тем, что он означает.

Допустим, у нас есть иероглиф "дерево".

Семантика будет изучать, как этот иероглиф связан со своим значением - деревом.

А синтаксис будет изучать только то, как комбинировать эти знаки между собой,

так чтобы получалось правильное предложение.

Далее, программа представляет собой чистый синтаксис, это только формальные правила.

А сознание включает семантические отношения.

Наше сознание - о чем-то.

Наши мысли относятся к чему-то.

Когда мы слышим звук поезда, мы понимаем,

что он значит поезд, что он значит гудение поезда.

Это не просто некоторый знак, мы понимаем его значение.

И Сёрл говорит,

что в состояние сознания необходимо включать семантические отношения,

но в программе есть только синтаксис, там нет ничего, кроме формальных правил.

Второй глобальный вывод, который делает Сёрл из мысленного эксперимента с

китайской комнатой — моделирования формальных свойств объекта

недостаточно для моделирования его каузальных свойств.

Тут нам опять-таки нужно немножко подразобраться с терминами.

Главное различие здесь — разница между формальным объектом, который является

программой, и материальным объектом, физическим объектом, мозгом.

Почувствуйте разницу между квадратом, нарисованным на доске,

с помощью мела, и абстрактным квадратом, о котором вы думаете.

Квадрат, о котором вы думаете — это формальный объект.

Вы знаете о том, что у него есть четыре стороны, о том, что они равны, о том,

что все углы равны 90°.

А квадрат, нарисованный на доске — это физический объект.

Он отражает свет определенным образом,

он воздействует на окружающую среду, окружающая среда воздействует на него.

Что же говорит Сёрл?

Сёрл говорит, что формальный объект не имеет причинных

свойств физического объекта.

Формальная модель мяча никогда не сможет ударить вас по голове, вы не сможете

играть в хоккей формальной клюшкой, даже если создадите ее потрясающую 3D-модель.

Так же и мозг — это физический объект.

И этот физический объект порождает сознание.

Если вы делаете некоторую формальную модель,

формальную систему отношений — она не является физическим объектом.

И поэтому она не будет иметь тех же физических свойств, что и ваш мозг.

Сёрл говорит, что программа не сможет мыслить, потому что она,

собственно говоря, не обладает теми физическими свойствами мозга,

которые производят сознание.

И в этом смысле - нейронные сети, алгоритмы,

какой бы код мы ни построили - этот код не начнет мыслить.

Мыслит физический объект, который порождает сознание, наш мозг.

Быть может, мы создадим какого-нибудь робота, который тоже будет мыслить,

но он будет мыслить не только благодаря своей программе, но и благодаря тому,

какое у него железо.

Железо в этом смысле имеет принципиальное значение.

Именно это, собственно говоря, и показал Джон Сёрл.

[МУЗЫКА]

5-3.1 Китайская комната Джона Сёрла

Основы философии: о чем спорят философы сегодня

Meet the Instructors