Этот старый вопрос вновь привлек внимание в связи с появлением нейросетей — программ искусственного интеллекта, которые могут имитировать виды деятельности, раньше считавшиеся исключительно человеческими. Вести беседу, писать тексты, рисовать картины. Пока что это получается не очень хорошо — достаточно спросить у сети, например, про биографию какого-нибудь реального человека, чтобы убедиться, что она врет через слово. Но лиха беда начало.

Мы склонны считать все это умственной деятельностью — в конце концов, когда этим занимаются люди, не назовем же мы это физическим трудом. Когда мы составляем тексты, рисуем или переводим, мы мыслим — и у нас возникает естественный соблазн приписать программе то же самое. Иногда это выдвигается как «доказательство» отсутствия у нас души — вот, явно бездушные машины делают все то же самое.

Но что значит «мыслить»? Еще в XIX веке немецкий философ Франц Брентано обратил внимание на такое свойство человеческой мысли как «интенциональность», то есть направленность, «очемтость». Мысли всегда имеют свой предмет — они всегда обращены к чему-то, в них всегда есть элемент личного, субъективного выбора — вы помышляете об этом предмете, а не о другом.

Обладает ли таким свойством программа? Сама по себе — нет, хотя нам может так казаться. Мы можем сказать, что такой материальный объект, как книга - «о чем-то», она имеет своим содержанием какой-то предмет. Книга может быть бумажной или, что ближе к теме нашего рассуждения, электронной. Она может содержать замечательно глубокие мысли. Но, хотя мы иногда и говорим «основная мысль книги в том, что...» это мысли автора, а не книги. Эти мысли становятся предметом восприятии только в сознании читателя. Книга — это не больше, чем мост между автором и читателем.

Представим себе, что это интерактивная книга — вы можете поставить ей вопрос, она произведет поиск по тексту и выдаст ответ. Будет ли она при этом мыслить? Едва ли. Но нейросети занимаются тем же самым — они производят обработку огромного массива информации (слов, картинок или нот), созданных людьми, и выдают вам ответ.

Как сказал об этом философ Дэниэл Деннет (сам он известный атеист и материалист): «Искусственный интеллект в его текущем проявлении — паразит на человеческом интеллекте. Он довольно неразборчиво пожирает то, что было произведено создателями-людьми, и выжимает паттерны, которые он там находит».

Мысли всегда происходят в вашем сознании — вы, как и Удав из мультфильма «38 попугаев» можете сказать: «У меня есть мысль, и я ее думаю». Вы не можете думать в бессознательном состоянии. Мысль всегда есть атрибут личности.

Программы, между тем, отлично справляются со своими функциями — обрабатывают символы согласно алгоритмам — и не обладая ничем похожим на сознание. Ваш мобильный телефон занимается этим постоянно, но никак нельзя сказать то он при этом говорит себе: «обработаю-ка я этот входящий запрос».

Его деятельность в принципе отличается от мышления. И будет отличаться — даже если это будет очень мощный смартфон с очень сложными программами.

Поэтому ответ на вопрос «может ли машина мыслить» довольно ясен — нет, не может. Мы — не машины. А машины — не мы.