«Китайская комната» в искусственном интеллекте

Увидеть больше

«Китайская комната» — это философский мысленный эксперимент, который ставит под сомнение идею о том, что искусственный интеллект может по-настоящему понимать язык и обладать подлинным интеллектом. Этот аргумент был предложен философом Джоном Сёрлом в 1980 году и назван в честь комнаты, в которой человек, не понимающий китайского языка, может отвечать на вопросы на китайском, следуя определённым инструкциям.

Аргумент звучит так: представьте, что человека, который не понимает китайский язык, помещают в комнату с набором инструкций на английском языке по работе с китайскими иероглифами. Человек получает вопросы на китайском через прорезь в двери и, следуя инструкциям, составляет ответ на китайском, который затем передается обратно через прорезь. Со стороны кажется, что человек понимает китайский и может отвечать на вопросы, но на самом деле он просто следует набору правил, не понимая значения иероглифов.

По мнению Сирла, этот мысленный эксперимент показывает, что компьютерная программа, имитирующая человеческое понимание языка, например чат-бот, на самом деле не понимает значения обрабатываемого языка. Программа просто следует набору правил, не понимая значения языка.

«Китайская комната» вызывает споры в области искусственного интеллекта: одни утверждают, что этот эксперимент несовершенен, а другие используют его, чтобы поставить под сомнение концепцию машинного интеллекта. Он высвечивает непрекращающиеся дискуссии о природе интеллекта и о том, могут ли машины по-настоящему воспроизводить человеческое мышление и понимание.

Когда мы задаемся вопросом «Возможен ли искусственный интеллект (ИИ)?», на самом деле мы спрашиваем: «Можем ли мы создать сознание в компьютерах?»

Согласно аргументу «китайской комнаты», программа не может наделить компьютер «разумом», «пониманием» или «сознанием», независимо от того, насколько разумно или по-человечески может вести себя компьютер под управлением этой программы.


В 1980 году Джон Сёрл утверждал, что тест Тьюринга нельзя использовать для определения того, «является ли машина такой же разумной, как человек». Он утверждал, что любая машина, подобная ELIZA и PARRY, могла бы легко пройти тест Тьюринга, просто манипулируя символами, значения которых она не понимала. Без понимания их нельзя назвать «думающими» в том смысле, в каком это делают люди.
 

Конфигурация

Джон представляет себя (а не машину) некитайцем, который сидит в комнате, изолированной от другого китайца, находящегося за ее пределами, и пытается с ним общаться. У него есть список китайских иероглифов и инструкция, в которой подробно описаны правила составления цепочек (последовательностей) иероглифов, но не указано их значение. То есть у него есть книга с английской версией компьютерной программы, а также достаточное количество бумаги, карандашей, ластиков и картотечных шкафов.

 

В этом мысленном эксперименте человек, находящийся в «китайской комнате», получает вопросы извне и обращается к библиотеке, чтобы сформулировать ответ.
Теперь он получает все сообщения, отправленные через щель в двери, на китайском языке. Он обрабатывает все символы в соответствии с инструкциями программы и выдает китайские иероглифы в качестве ответа, например:

• Если он находит китайский иероглиф ?, то возвращает иероглиф ?
• Если он находит китайский иероглиф ??, то возвращает иероглиф ??
   

На самом деле в инструкции содержится множество правил, в которых указаны входные символы и соответствующие им выходные символы. Ему нужно лишь найти входной китайский символ и выдать соответствующий китайский символ в качестве выходного.
Далее, как утверждается, компьютер (машина) ничем не отличается от этого человека: он просто следует правилам, изложенным в инструкции (программе). Он не понимает ни смысла заданных ему вопросов, ни собственных ответов, поэтому нельзя сказать, что он мыслит. Дело в том, что человек внутри не понимает китайский язык, но при этом прекрасно общается с человеком снаружи на китайском. 

Сравните Джона с машиной из теста Тьюринга. У машины может быть огромная база данных с вопросами и ответами. Когда следователь задает вопрос, машина просто находит его в базе данных и выдает следователю соответствующий ответ. Со стороны может показаться, что ответ дает человек, а не машина.

Таким образом, машина в своей конфигурации не понимает этих вопросов и ответов. Без "понимания" (или "интенциональности") мы не можем назвать то, что делает машина, "мышлением", а поскольку она не мыслит, у нее нет "разума" в привычном смысле этого слова. Поэтому мы не можем считать машину разумной.