Джон серл сознание мозг и программы кратко

Обновлено: 05.07.2024

И вот претензии сильного AI состоят в том, что программированный компьютер понимает рассказы и его программа в некотором смысле объясняет человеческое понимание. Но мы теперь можем рассмотреть эти претензии в свете нашего мысленного эксперимента.

1. Что касается первой претензии, мне кажется совершенно очевидным, что в данном примере я не понимаю ни одного слова в китайских рассказах. Мои входы и выходы неотличимы от входов и выходов носителя китайского языка, и я могу обладать какой угодно формальной программой, и всё же я ничего не понимаю. По тем же самым основаниям компьютер Шэнка ничего не понимает ни в каких рассказах — в китайских, в английских, в каких угодно, поскольку в случае с китайскими рассказами компьютер — это я, а в случаях, где компьютер не есть я, он не обладает чем-то большим, чем я обладал в том случае, в котором я ничего не понимал.

2. Что касается второй претензии, — что программа объясняет человеческое понимание, — мы видим, что компьютер и его программа не дают достаточных условий понимания, поскольку компьютер и программа работают, а между тем понимания-то нет. Но, может быть, при этом создаётся хотя бы необходимое условие или делается существенный вклад в понимание? Одно из утверждений сторонников сильного AI состоит в том, что когда я понимаю некий рассказ на английском языке, я делаю в точности то же самое — или, быть может, почти то же самое, — что я делал, манипулируя китайскими символами. Случай с английским языком, когда я понимаю, отличается от случая с китайским языком, когда я не понимаю, просто тем, что в первом случае я проделываю больше манипуляций с формальными символами.

Дэниел Деннет. Где я?

Проблема состояла в том, что в одной из ранних попыток им удалось загнать боеголовку почти на милю вглубь под город Тулса, в штате Оклахома, и теперь от меня требовалось достать ее оттуда обратно. "Почему вы выбрали меня?" — спросил я. Мне объяснили, что для решения этой задачи необходимо было применить некоторые новейшие разработки современного исследования мозга, а они слышали о моем интересе к этой области, о моем фаустианском любопытстве, о моей храбрости и так далее. Как я мог отказаться? Трудность, приведшая Пентагон к моим дверям, состояла в том, что аппарат, который я должен был достать, был чрезвычайно радиоактивен, и радиоактивен в новом смысле. Наблюдающие за ним приборы показали, что нечто, свойственное природе аппарата и его сложным взаимодействиям с веществами земных недр, произвело радиацию, способную наносить значительные повреждения некоторым тканям мозга. Никто не мог найти способа защиты от смертельного излучения, которое, кажется, было неопасным для других таней и органов тела. Поэтому было решено, что человек, который отправится за аппаратом, должен будет оставить свой мозг в лаборатории. Мозг будет помещен в безопасное место, откуда он будет продолжать осуществлять контроль над телом с помощью сложной системы радиосвязи.

Меня спросили, соглашусь ли я подвергнуться операции полного удаления мозга, который будет помещен в поддерживающую жизнедеятельность аппаратуру в Хьюстонском ракетном центре. Каждый канал, проводящий входные и выходные данные, будет снабжен микропередатчиками, один из которых будет присоединен к мозгу, а другой — к нервным окончаниям в пустом черепе. Никакая информация не будет утеряна, все контакты будут сохранены. Сначала я колебался, поскольку не был уверен, будет ли такая система действовать. Однако хьюстонские нейрохирурги меня уговорили. "Представьте, что это всего лишь расстяжение нервов, — сказали они. — Если бы мы подвинули вам мозг всего на дюйм внутри вашей головы, это не изменило и не повредило бы ваш разум. Мы всего лишь сделаем ваши нервы бесконечно растяжимыми, вставив в них радиоконтакты".

Мне показали систему жизнеобеспечения Хьюстона и новенький, с иголочки, чан, куда будет помещен мой мозг, если я соглашусь на операцию. Я встретился с большой командой блестящих специалистов, в которую входили неврологи, гематологи, биофизики и инженеры-электроники; после нескольких дней обсуждений я дал свое согласие. После этого меня подвергли огромному количеству разнообразных испытаний, включавших анализы крови, сканирование мозга, эксперименты, интервью и так далее. У меня выспросили всю мою биографию, составили длиннейшие детальные списки моих убеждений, верований, надежд, страхов и вкусов. Они даже занесли в списки мои любимые стереозаписи и устроили мне интенсивный сеанс психоанализа.

Наконец наступил день операции. Разумеется, я был под наркозом и не помню о самой операции ничего. Когда я очнулся, открыл глаза и оглянулся, то задал избитый вопрос, который по традиции задают больные после операции: "Где я?" "Вы в Хьюстоне", — ответила, улыбаясь, медсестра, и я подумал, что в каком-то смысле это, возможно, правда. Она протянула мне зеркало. Действительно, мой череп был усеян крохотными антеннами, торчащими из титановых каналов, вживленных в мой мозг.

"Я полагаю, операция прошла успешно", — сказал я. "Я хочу видеть мой мозг." Меня провели — я еще нетвердо держался на ногах — по длинному коридору в лабораторию жизнеобеспечения. Собравшаяся там команда радостно приветствовала меня, и я ответил гримасой, которая, надеюсь, могла сойти за веселую улыбку. Все еще чувствуя себя неуверенно, я подошел и склонился над чаном, присоединенным к системе жизнеобеспечения. Я посмотрел сквозь стекло. Внутри, в жидкости, напоминающей имбирный эль, плавал человеческий мозг, почти полностью скрытый под электронными чипами, пластиковыми трубочками, электродами и тому подобными принадлежностями. "Это мой мозг?" — спросил я. "Переключите вон тот тумблер, и вы увидите сами", - ответил руководитель проекта. Я поставил тумблер в положение ВыКЛ и немедленно, охваченный внезапной слабостью и головокружением упал на руки ассистентов. Они тут же вернули тумблер в первоначальное положение.

Я пытался и пытался мысленно почувствовать себя в чане, но все мои попытки кончались ничем. Я попытался подойти к этому постепенно, с помощью мысленных упражнений. Я быстро повторил пять раз: "Солнце сияет там", мысленно представляя каждый раз иное место. Перечислю эти места по порядку: освещенный угол лаборатории, залитая солнцем лужайка перед больницей, Хьюстон, Марс и Юпитер. Я обнаружил, что для меня не представляет труда перемещать мои "там" по всей карте звездного неба, каждый раз с правильными точками отсчета. Я мог в мгновение ока забросить одно из "там" в самую отдаленную точку вселенной и затем с аболютной точностью нацелить следующее "там" в верхний левый угол веснушки у меня на руке. Почему же тогда у меня возникали сложности с понятием "здесь"? "Здесь, в Хьюстоне" звучало естественно, как и "здесь, в лаборатории" и даже "здесь, в этой части лаборатории". Однако "здесь в чане" казалось мне пустыми, ничего не значащими словами.

Я попытался думать об этом с закрытыми глазами. Это немного помогло; и все же я не мог заставить себя перенестись в чан больше, чем на мгновение. Я чувствовал себя неуверенно, и это открытие смутило меня еще больше. Откуда я знал, где я имею в виду, когда произношу "здесь"? Мог ли я думать, что имею в виду одно место, когда на самом деле имел в виду другое? Я не понимал, как можно допустить такое, не разрывая тех немногих интимных связей между человеком и его внутренней жизнью, которые еще пережили атаки ученых и философов, как физикалистов, так и бихевиористов. Возможно, я был неисправим насчет того, что имел в виду, когда говорил "здесь". Но в данных обстоятельствах мне казалось, что либо я был приговорен самой силой привычки к тому, чтобы иметь систематически ложные указательные мысли, либо то место, где находится человек (и, следовательно, где его мысли превращаются в символы для семантического анализа), не обязательно расположено там, где находится его мозг, физическая обитель души. Совсем сбитый с толку, я попытался прибегнуть к любимому трюку философов. Я принялся раздавать вещам имена.

"Йорик, — сказал я вслух своему мозгу, — ты — мой мозг. Остальное тело, сидящее на этом стуле, я назову "Гамлетом"." Все мы сейчас здесь: мой мозг, Иорик, мое тело, Гамлет и я сам, Деннетт. Где же я теперь? И когда я думаю "Где я?", где зарождается эта мысль? В моем мозгу, плавающем в этом чане, или, как мне кажется, здесь, в моей голове? Или вообще нигде? Ее временные координаты не представляют никакой проблемы; должны же у нее быть и какие-то пространственные координаты? Я начал составлять список возможностей.

1. Где Гамлет, там и Деннетт. Этот принцип можно легко опровергнуть при помощи известных мысленных экспериментов по пересадке мозга, столь любимых философами. Если Том и Дик обменяются мозгами, Том окажется в теле, которое раньше принадлежало Дику. Если вы его спросите, он скажет вам, что он — Том, и приведет в доказательство самые интимные детали автобиографии Тома. Значит, ясно, что мое тело и я вполне могли бы расстаться чего нельзя сказать обо мне и моем мозге. Из мысленных экспериментов по пересадке мозга вытекает эмпирическое правило: в подобных операциях лучше быть донором, чем получателем. На самом деле, такие операции следовало бы называть пересадкой тела. Так что истина, возможно, в том, что

Представь себе, подумал я, что ты сейчас полетишь в Калифорнию, ограбишь банк, и тебя поймают. Где тебя будут судить — в Калифорнии, где произошло ограбление, или в Техасе, где находился твой мозг? Буду ли я калифорнийским преступником с мозгом, находящимся в другом штате, или техасским преступником, который дистанционно управляет кем-то вроде сообщника в Калифорнии? Мне показалось, что я могу осуществить это преступление и выйти сухим из воды лишь на основании этого юридического затруднения: правда, такое ограбление может быть признано федеральным преступлением. Так или иначе, представьте себе, что меня приговорили. Удовлетворилась бы Калифорния, заключив в тюрьму Гамлета, зная, что Йорик наслаждается жизнью, роскошествуя в ванне в Техасе? Посадил бы Техас в тюрьму Йорика, оставив Гамлета на свободе и позволив ему сесть на следующий пароход в Рио? Эта альтернатива мне понравилась. Исключая смертную казнь или другие жестокие и необычные наказания, государству пришлось бы поддерживать систему жизнеобеспечения для Йорика, хотя они могли бы перевезти его из Хьюстона в Ливенворф (федеральная тюрьма в Техасе — Прим. перев.). Если не принимать во внимание связанного с этим бесчестья, мне это будет совершенно все равно и я буду чувствовать себя там таким же свободным. Если бы государство решило перевести заключенных в другие тюрьмы, они не сумели бы проделать этого со мной, переведя в новую тюрьму Йорика. Если это верно, то возникает третья альтернатива.

3. Деннетт там, где он сам считает. Если обобщить это утверждение, мы получим следующее: В любой данный момент человек имеет некую точку зрения, и местоположение точки зрения (внутренне определенное ее содержанием) и есть местоположение самого человека. Подобное утверждение тоже имеет свои сложности, но оно казалось мне шагом в нужном направлении. Единственная проблема заключалась в том, что, как казалось, это ставило меня в беспроигрышную ситуацию типа "орел — я выигрываю, решка — ты проигрываешь", маловероятную по отношению к определению местоположения. Не ошибался ли я много раз — или, по крайней мере, сомневался — относительно того, где нахожусь? Разве человек не может потеряться? Разумеется, может — и не только в географическом смысле. Человек, заблудившийся в лесу, может, по крайней мере, утешаться тем, что знает, где находится: здесь, в знакомом окружении собственного тела. Возможно, что в подобной ситуации человек не оценил бы этого в должной мере. Тем не менее, можно вообразить и худшие ситуации, и я не был уверен, не нахожусь ли сейчас в одной из них.

Точка зрения имела отношение к личному местонахождению, но сама по себе она была туманным понятием. Было очевидно, что содержание точки зрения определенного человека не равнялось его убеждениям или мыслям и не определялось их содержанием. Например, что мы должны были бы сказать о точке зрения кинозрителя в современном кинотеатре, когда головокружительные эффекты фильма преодолевают его психическую дистанцию? Забывает ли он, что сидит в кинотеатре и находится в безопасности? Я сказал бы. что в этом случае человек испытывает иллюзорное смещение точки зрения. В других случаях моя готовность назвать это смещение иллюзорным была значительно меньше. Работники лабораторий и фабрик, которым приходится манипулировать опасными материалами с помощью механических рук, управляющихся обратной связью, испытывают гораздо более драматическое смещение точки зрения, чем то, которое может вызвать любой фильм. Они способны чувствовать тяжесть и скользкость контейнеров, которые они держат металлическими пальцами. Они отлично знают, где находятся, и не впадают в ложные убеждения благодаря данному опыту, однако чувствуют себя так, словно находятся в изолированной комнате, куда смотрят. С некоторым мысленным усилием они способны перемещать свою точку зрения туда-сюда, словно меняя ориентацию рисунка Эшера или делая прозрачным куб Некера. Кажется странным предположить, что, занимаясь этой умственной гимнатикой. они переносят туда и обратно себя.

И все же этот пример подал мне надежду. Если бы я, вопреки своей интуиции, был в чане, я мог бы натренироваться принимать эту точку отсчета и постепенно к ней привыкнуть. Я останавливался бы на образах себя самого, с комфортом плавающего в своем чане и посылающего приказы туда, хорошо знакомому телу. Я решил, что относительная трудность или легкость этой задачи не имеют ничего общего с тем, где действительно находится мозг данного человека. Если бы я как следует потренировался перед операцией, теперь это могло быть моей второй натурой.

Отличается ли философский зомби от человека?

Дональд Дэвидсон. Болотный человек.

Представим прогуливающегося по болоту Дональда Дэвидсона, который остановился переждать грозу рядом с сухим деревом. Ударившая молния расщепляет тело Дэвидсона на молекулы и по невероятному стечению обстоятельств создает из сухого дерева точную копию Дэвидсона.

Философ Джон Сёрл раскрывает тему изучения человеческого сознания и один за другим опровергает связанные с этим мифы, мешающие науке. По мере того, как мы больше узнаем о процессах в мозге и их связи с сознанием, нам остается только принять, что сознание — это биологический феномен, а не компьютерная симуляция

Джон Сёрл Саморазвитие

Я собираюсь говорить о сознании. Почему о сознании? Это удивительно запущенная тема как в нашей науке, так и в философии.

Почему это удивительно? Во-первых, нет ничего важнее сознания по очень простой и понятной причине: чтобы считать что-либо важным, нужно обладать сознанием. На что вам наука, философия, музыка, искусство, что угодно, если вы зомби или лежите в коме? Поэтому сознание важнее всего. Во-вторых, стоит людям заинтересоваться сознанием так, как оно того заслуживает, они начинают нести вздор. И даже если вместо этого они пытаются провести серьезные исследования, получается это слишком медленно. Прогресс почти незаметен.

Я давно работаю над этой темой. Думаю, что само исследование сознания может гарантировать ныне рабочее место. Если так, то это прогресс.

Эти две традиции парализуют нас. От них очень трудно избавиться. И основная идея моей речи в том, что сознание — это биологический феномен, как фотосинтез, пищеварение, митоз и прочие, вам известные. Как только вы принимаете это, большая часть проблем в вопросе сознания просто исчезает. Пробежимся по некоторым из них.

Я расскажу вам, как это происходит. Я еще не дал вам определение. Без определения сложно продолжать. Говорят, что трудно дать определение сознанию. Я думаю, это довольно легко, если бросить попытки дать научное определение. Мы не доросли до научного определения. Мое определение основано на здравом смысле. Сознание — это все, что вы чувствуете, ощущаете и осознаете. Оно продолжается с момента пробуждения утром весь день до тех пор, пока вы не заснете, или не умрете, или не потеряете сознание другим образом. Сны — это тоже форма сознания.

Это определение, основанное на здравом смысле. То, что ему не соответствует, не может называться сознанием.

Если вы учили философию, вы знаете о знаменитой проблеме тела и разума. Проблема эта имеет простое решение. Вот оно: все без исключения состояния сознания обусловлены нейрохимическими процессами в мозге, которые на более высоком уровне реализуются как целая система. Это явление не сложнее, чем жидкое состояние воды. Жидкая вода — это не какая-то особая сущность молекул H₂O. Это состояние, в котором находится система. И, как вода может переходить от жидкого состояния к твердому в зависимости от поведения молекул, так и мозг может переходить от сознательного состояния к состоянию бессознательному в зависимости от поведения молекул. Так проста знаменитая проблема тела и разума.

Давайте погрузимся в более сложные темы. Мы определим свойства сознания, чтобы опровергнуть ложные убеждения, о которых я рассказывал.

Итак, первое свойство сознания — оно реально и несомненно. Вы не можете доказать, что это иллюзия, как вы можете сделать с обычными иллюзиями.

Второе свойство сознания, доставляющее нам столько неудобств, заключается в том, что все состояния сознания качественно отличаются друг от друга. То, что мы чувствуем, когда пьем пиво, отличается от наших ощущений при заполнении налоговой декларации или при прослушивании музыки. И отсюда следует третье свойство сознания: сознание субъективно. Оно существует в виде конкретного опыта человека или животного, испытывающего эти ощущения. Возможно, мы сможем создавать машины, обладающие сознанием. Но пока мы не знаем, как устроено сознание, нам это не по силам.

Помня об этом, а также о всех свойствах сознания, попытаемся опровергнуть ранее упомянутые убеждения.

Но мы знаем, что это не так. Любой, кто имел дело с компьютерами, скажет, что именно не так. Программирование — это действия с символами, обычно с нулями и единицами, но и другие сгодятся. У вас есть алгоритм, который можно запрограммировать в двоичном коде, и это отличительная черта компьютерной программы. Ничего кроме символов и их синтаксиса. Человеческое сознание — это нечто большее. Помимо синтаксиса, в нем есть содержание. В нем есть семантика.

И последний аргумент, который я придумал — Боже, сколько лет прошло! — более 30 лет назад. Этот аргумент весомее всех прочих, поэтому хочу его озвучить. Сознание создает независимую от наблюдателя реальность. Деньги, собственность, правительство, брак, конференции ЦЕРН, коктейльные вечеринки и летние каникулы — это все порождения сознания. Их существование реально, но относительно: лишь сознание наблюдателя воспринимает кусок бумаги как деньги, а группу зданий — как университет.

Подумайте о компьютерах. Столь же реальны вычисления, как понятия силы, массы и гравитации? Или же относительны? Не буду спорить, два плюс два — четыре, что бы ни утверждали некоторые. Но когда я пользуюсь карманным калькулятором, единственное реальное явление — это электрический ток. Только он абсолютен. Остальное — наша интерпретация. Вычисления — продукт нашего сознания. Либо наше сознание работает с числами, либо за нас это делает машина. Результат вычислений будет точным, потому что в разработку машин вложено много денег. Однако постоянно возникает путаница между объективностью и субъективностью как аспектом реальности и объективностью и субъективностью как свойствами наших утверждений.

Подведем итоги. Возможно существование полностью объективной науки, допускающей полностью объективные утверждения о явлении, субъективном в том смысле, что оно существует в человеческом мозге и состоит из субъективных ощущений, чувств и восприятий. Поэтому утверждение, что наука о сознании существовать не может, — так как сознание субъективно, а наука объективна — это игра слов. Игра со словами объективность и субъективность. Возможно объективное исследование явлений, субъективных по своей природе. Неврологи все время это делают. Когда есть пациенты, испытывающие боль, неврологи стараются сделать объективные и научные выводы.

Я обещал опровергнуть все мифы, но у меня осталось мало времени. Поэтому остановлюсь еще на паре. Я сказал, что бихевиоризм — это, должно быть, величайшее заблуждение в нашей интеллектуальной культуре. Задумайтесь над единственным вопросом: идентичны ли состояния вашего сознания и ваше поведение? Подумайте о разнице между тем, когда вы испытываете боль и тем, когда демонстрируете, что вам больно. Независимо от моего поведения я могу сказать, больно мне сейчас или нет. Это очевидно. Откуда тогда взялось это заблуждение? Если вернуться к истокам, почитать литературу, то мы снова видим: они считали, что если вы признаете неопровержимым факт, что сознание существует, — вы предаете науку. Вы предаете 300 лет прогресса, надежды человечества на лучшее и так далее. И вот идея, которую я хочу довести до вас. Пора признать сознание как истинно биологический феномен, столь же подверженный научному анализу, как любой другой биологический либо любой другой научный феномен.

Смотри также

Величковский Б.М., Соловьев В.Д. (ред.) Компьютеры, мозг, познание: успехи когнитивных наук

М.: Наука, 2008. — 293 с. Аннотация. . Сборник посвящен актуальному направлению исследования познавательных процессов у человека и животных - когнитивной науке. Возникнув около четверти века назад, когнитивная наука вновь интенсивно развивается в России. В сборник вошли материалы конференций Ассоциации когнитивных исследований (Казань, 2004; Санкт-Петербург, 2006), а также.

2,71 МБ
добавлен 28.12.2012 15:24
изменен 28.12.2012 15:25

Кубрякова Е.С. Язык и знание. На пути получения знаний о языке: части речи с когнитивной точки зрения. Роль языка в познании мира

Рос. академия наук. Ин-т языкознания. — М.: Языки славянской культуры, 2004. — 560 c. — (Язык. Семиотика. Культура). — ISBN 5-94457-174-8, ISSN 1727-1630. Собранные в настоящем томе публикации освещают принципы и установки той новой парадигмы знания в отечественной лингвистике, которая получила название когнитивно-дискурсивной, и показано, как органично вписывается в эту.

2,56 МБ
дата добавления неизвестна
изменен 10.01.2016 19:07

Рассел С., Норвиг П. Искусственный интеллект. Современный подход

17,39 МБ
дата добавления неизвестна
изменен 21.06.2019 23:54

Сёрл Джон Роджерс (сост.) Философия языка

2-е изд. — М.: Едиториал УРСС, 2010. — 208 с. Предлагаемая книга составлена известным американским философом и лингвистом Джоном Роджерсом Сёрлом и содержит статьи по различным проблемам философии языка видных ученых - Дж. Л. Остина, П. Ф. Стросона, Г. П. Грайса, Н. Хомского, Дж. Катца, X. Путнама и Н. Гудмана. Среди поднимаемых проблем - понятие речевого акта и.

9,67 МБ
дата добавления неизвестна
изменен 15.09.2010 15:33

Хабермас Юрген. Моральное сознание и коммуникативное действие

/ Пер. с нем. - СПб.: Наука, 2001. - 380 с. Четыре работы, составляющие этот том, возникли по разному поводу, но образуют предметную взаимосвязь. В первой статье я развиваю тезисы о разделении труда между философскими и эмпирическими исследованиями, вызванные примером генетической эпистемологии Жана Пиаже. Во второй, используя в качестве модели теорию морального развития.

Представим, что человека, не знающего китайский язык, поместили в отдельную комнату, в которой находятся кубики с иероглифами. Человек не знает иероглифов, но у него есть инструкция на английском языке, которая говорит, какой кубик надо брать и какой кубик надо выдавать в ответ на определенные запросы, приходящие извне.

Позиция функционализма, позиция исследователей в области искусственного интеллекта, заключается в том, что наши ментальные состояния рассматриваются как функциональные состояния мозга или организма в целом. В свое время функционализм был очень прогрессивной позицией: до его появления материалистически настроенные философы пытались отождествить ментальные состояния с физическими состояниями мозга. Функционалисты же утверждали, что ментальные состояния необязательно должны являться состояниями мозга. Важно, чтобы они являлись функциональными состояниями.

Это значит, что, в принципе, они могут быть реализованы на любом другом носителе, не обязательно, чтобы у существа был именно человеческий мозг. Существо может быть устроено совсем иным образом, например как компьютер. Оно может быть небиологического происхождения. Главное, чтобы оно функционировало определенным образом, так же, как функционируем мы. Если в этом существе реализуются определенные функциональные состояния, то можно говорить о том, что у него есть ментальные состояния, что в каком-то смысле оно обладает сознанием, психикой. Этот взгляд был очень популярным; в принципе, с определенными модификациями он и сейчас поддерживается многими исследователями. Однако Сёрл критикует эту позицию.

Против этого аргумента выдвигалось множество различных возражений. Например, многие указывали на то, что в мысленном эксперименте речь идет о функционировании всей системы, всей комнаты, что в каком-то смысле всей комнате мы можем приписать ментальные состояния, но их нельзя приписать конкретному человеку — он всего лишь часть определенной машины. Однако, несмотря на эти возражения, все же следует признать, что аргумент Сёрла внес значительный вклад в опровержение функционализма.

Дмитрий Иванов, кандидат философских наук, научный сотрудник Института философии Российской академии наук

Подробнее о философии сознания читайте в материале философа Кирилла Мартынова.

О самых важных открытиях в сфере искусственного интеллекта рассказывает специалист в области Computer Science Константин Яковлев.

Читайте также: