Терри Виноград, Фернандо Флорес «Понимание компьютеров и познания» Глава 01. Введение Исполнительное резюме Глава представляет критический пересмотр господствующей «рационалистической традиции» в области компьютерных наук и искусственного интеллекта (ИИ). Авторы утверждают, что распространённое представление о компьютере как «электронном мозге» — устройстве, имитирующем человеческое мышление через манипуляцию символами, — является глубоко ограниченным и порождает концептуальную «слепоту» в отношении подлинной природы технологии. Взамен предлагается новая ориентация, синтезирующая три направления мысли: герменевтику и феноменологию (Хайдеггер, Гадамер), биологию познания (Матурана) и теорию речевых актов (Остин, Сёрль, Хабермас). Главный вывод глав состоит в том, что компьютерные системы следует проектировать не как замену человеческому интеллекту, а как инструменты, встроенные в язык, традицию и сеть социальных обязательств. Дизайн рассматривается не как создание изолированных объектов, а как взаимодействие между пониманием и созиданием — процесс, изменяющий саму ткань человеческой практики и общества. 1. Популярный дискурс: «компьютерная революция» и образ «электронного мозга» Компьютеры стали повсеместными — в домах, школах, на работе и в досуге, принося с собой как новые возможности, так и новые опасности. Популярные книги и журналы конца 1970-х – начала 1980-х годов провозглашали наступление «компьютерной революции» и «микро-миллениума» — эпохи, в которой компьютеры полностью изменят человеческую жизнь. Поиск образов, помогающих осмыслить и направить развитие компьютерных технологий, строился на ключевых вопросах: являются ли компьютеры просто большими арифмометрами или «электронными мозгами»? Способны ли они лишь на запрограммированные рутинные операции, или могут учиться и творить? Ответы на эти вопросы опирались на аналогию между вычислением и человеческим мышлением. Характерные прогнозы того времени: • Стоктон (1980): бурный рост исследований в области ИИ должен дать компьютеры, способные распознавать смысл устной речи, писать связные и точные резюме новостей, работать на сборочных линиях вместо людей и ставить диагнозы по данным о пациенте. • Джастроу (1982): к 1988 году портативные «квазичеловеческие мозги» из кремния или арсенида галлия станут обычным делом — «разумная электронная раса», работающая в партнёрстве с людьми; дружелюбные помощники без сарказма, способные решить любые проблемы («R2-D2 без колёс»). • Эванс (1979, «Микро-миллениум»): человечество приступит к масштабной программе создания «ультра-интеллектуальных машин», которые мы будем «вести за руку», пока они не достигнут нашего интеллектуального уровня и затем не превзойдут его — после чего их можно будет занять решением экономических, медицинских и образовательных проблем общества. Авторы предупреждают: фокусировка на образе «компьютер как мозг» отвлекает от по-настоящему важных вопросов. Этот образ опирается на более фундаментальный дискурс о природе технологии и о природе человеческого мышления, языка и бытия — дискурс, глубоко укоренённый в традиции современного технологического общества. Анализ этой традиции показал, что, будучи плодотворной почвой для технологического развития, она не даёт адекватного понимания того, что компьютерные устройства реально делают в контексте человеческой практики. 2. Вопрос дизайна Чтобы понять феномены, связанные с новой технологией, необходимо поставить вопрос о дизайне — взаимодействии между пониманием и созиданием. Речь идёт не только о методологии осознанного проектирования объектов, а о более широком вопросе: как общество порождает изобретения, существование которых, в свою очередь, изменяет само это общество. Нужна теоретическая база для анализа того, что устройства делают, а не только того, как они технически работают. Для этого необходимо «раскрыть» (unconceal) неявное понимание дизайна, заложенное в существующей традиции мышления, и сделать явными её допущения — это открывает путь к альтернативным вариантам дизайна. Кейс: «Что такое текстовый процессор?» — домены понимания Разные люди дают разные, но в своём контексте одинаково обоснованные ответы на этот вопрос — каждый исходя из своих собственных интересов и сферы деятельности: Перспектива Что представляет собой текстовый процессор Менеджер производства (физический / технический домен) Сборка электронных и механических устройств, которые нужно собрать, протестировать и отгрузить заказчику. Программист (символьный / программный домен) Совокупность программного обеспечения, оперирующего вводом, хранением и выводом байтов информации, взаимодействующая с пользователем через интерфейс. Покупатель / пользовательредактор (домен документа) Среда для создания и изменения лингвистических структур и их представления на экране или печатной странице. Эта область связана не с вычислительной традицией, а с традицией письменных инструментов и несёт с собой вопросы вёрстки, шрифтов и интеграции текста с иллюстрациями. Участник коммуникации (домен социальной сети) Инструмент для написания письма, меморандума или книги — действие, осмысленное только в рамках сложной сети институтов (почта, издательства), оборудования (включая старые технологии, с которыми компьютеры соприсутствуют), практик (чтение почты, покупка книг) и конвенций (юридический статус документа). Ключевой инсайт «срыва» (breakdown): на уровне «железа» или «софта» текстовый процессор «существует» как набор устройств или программ только в момент сбоя — поломки. В нормальном режиме работы он прозрачен для пользователя, занятого написанием письма или документа, а не размышлениями о коде или электронике. (Эта неготовность к использованию проявляется даже раньше, например, в самой ситуации покупки и сборки нового устройства.) 3. Радикальные инновации и сети практик Значение нового изобретения определяется тем, как оно вписывается в существующую сеть практик и как оно меняет её структуру. • Малые (minor) инновации улучшают отдельный аспект сети без изменения её структуры. Пример: автоматическая трансмиссия сделала автомобиль удобнее в использовании, но не изменила его роль. • Радикальные (radical) инновации не могут быть поняты в терминах ранее существовавшей сети — они открывают целые новые домены возможностей для сети человеческих взаимодействий. Примеры: печатный станок, автомобиль, телевидение, компьютер. Подобно тому как автомобиль изменил общество далеко за пределами простого «ускорения того, что раньше делали лошади», использование компьютеров приведёт к изменениям, выходящим далеко за рамки «продвинутой печатной машинки». Изменятся природа издательского дела, структура коммуникации внутри организаций и социальная организация знания — так же, как это произошло с появлением печатного станка и других технологий, связанных с языком. 4. От функционального понимания к вопросам языка Можно было бы подумать, что вопрошание можно остановить на уровне функционального и холистического понимания технологии — то есть понимания того, как устройство используется и как оно вписывается в сеть технологий и практик, а не рассматривается изолированно. Но этого недостаточно. Утверждение, что текстовый процессор нужно понимать через роль, которую он играет в коммуникации, распространении информации и накоплении знания, само опирается на понятия «коммуникация», «информация» и «знание», требующие отдельного исследования. Это закономерно выводит нас к вопросам о базовых человеческих феноменах — «интеллекте», «языке» и «рациональности». «Эффект Фрейда»: язык формирует реальность По мере того как новая технология меняет человеческие практики, меняется и язык, которым мы говорим об этой технологии, — а изменения языка в свою очередь порождают изменения в конструируемом нами мире. Пример — введение Фрейдом терминов «эго», «подсознательное», «вытеснение». На одном уровне можно сказать, что он просто назвал уже существовавшие феномены. Но это языковое новшество существенно повлияло на общество: от того, как мы обращаемся с заключёнными и психически больными, до методов воспитания детей. То же самое происходит с компьютерами: развитие технологии породило новые значения слов «информация», «ввод», «вывод», «язык», «коммуникация», а работы в области ИИ наполняют новыми смыслами слова «интеллект», «решение», «знание». Технический жаргон формирует наше повседневное понимание и тем самым меняет нашу жизнь. Авторы дважды обращаются к проблеме языка: • Они изучают технологию, которая сама работает в области языка: компьютер — это устройство для создания, обработки и передачи символических (то есть лингвистических) объектов. • Рассматривая влияние компьютера на общество, они неизбежно возвращаются к вопросам языка — тому, как практика формирует язык, а язык в свою очередь задаёт пространство возможных действий. Поэтому вся книга пронизана вниманием к языку: значительная часть теории авторов — это теория языка, а понимание компьютера строится вокруг его роли в опосредовании и облегчении лингвистического действия как фундаментальной человеческой деятельности. Вопрос «что могут делать компьютеры» неотделим от вопроса «что люди делают с их помощью» и в конечном счёте — от вопроса о том, что значит быть человеком. 5. Роль традиции Ни один из поднятых вопросов невозможно рассматривать с нейтральной, объективной позиции. Любое вопрошание вырастает из традиции — пред-понимания, которое задаёт пространство возможных ответов. «Традиция» здесь используется в широком смысле — не как набор обычаев конкретной культурной группы и не как свод правил, который можно найти в энциклопедии, а как более фундаментальный, всепроникающий феномен — определённый «способ бытия». Это фон, в рамках которого мы интерпретируем мир и действуем. Слово «традиция» подчёркивает историчность нашего мышления: мы всегда существуем в пред-понимании, сформированном историей взаимодействий с другими людьми, разделяющими ту же традицию. Традиция скрыта именно своей очевидностью — это не набор правил или утверждений, который можно «выучить». Когда мы встречаем людей с существенно иной традицией, их «картина мира» кажется нам странной и в каком-то смысле произвольной; обратить тот же взгляд на собственную жизнь и «раскрыть» свою традицию — то есть сделать осознаваемым то, что невидимо формирует наше мышление, — требует особой самоосознанности. Рационалистическая традиция Анализируя то, как люди говорят и думают о компьютерах, авторы выявляют влияние мощной традиции, делающей акцент на «информации», «репрезентации» и «принятии решений». Эта традиция стала основой для значительной части технологического прогресса, но также источником многих проблем, связанных с использованием компьютеров. Даже в дискуссиях о том, что компьютеры могут и не могут делать, сами вопросы отражают определённую слепоту к природе человеческого мышления и языка — слепоту, способную привести к серьёзному непониманию роли, которую будут играть компьютеры. Авторы называют эту традицию «рационалистической» — из-за её акцента на определённых стилях осознанно рационализированного мышления и действия. Важное терминологическое разграничение: «рационалистическое» не равно «рациональное». Авторы не выступают в защиту иррациональности и не апеллируют мистически к «не-рациональной» интуиции. Рационалистическая традиция отличается узким фокусом на отдельных аспектах рациональности, что, как показывается в книге, часто ведёт к установкам и действиям, которые при более широком взгляде оказываются нерациональными. Цель авторов — выработать новое основание для рациональности, столь же строгое в своих притязаниях, как у рационалистической традиции, но не разделяющее её предпосылок. Задача книги — бросить вызов рационалистической традиции, предложив альтернативную ориентацию, открывающую путь к новым вопросам. Развитие этой ориентации приводит авторов к критике современной мифологии искусственного интеллекта и связанных с ней когнитивных теорий — критике, противоречащей наивному оптимизму прогнозов, приведённых в начале главы. Однако итоговая цель авторов — не «разоблачение», а переориентация: не занять позицию в споре о том, будут ли компьютеры «умными», а создать новое понимание того, как проектировать компьютерные инструменты, подходящие для человеческого использования и человеческих целей. 6. Путь книги: три источника новой ориентации и структура изложения Авторы предлагают развивать новую ориентацию через диалог с читателем в три шага: (1) представить работы, ставящие под вопрос теоретические предпосылки рационалистической традиции; (2) рассмотреть, с позиций новой ориентации, феномены, возникающие в практике компьютерных альтернативные направления инструментов. технологий; (3) предложить для дизайна компьютерных Часть I (главы 1–6) описывает рационалистическую традицию и представляет три различных направления мысли, каждое из которых противостоит этой традиции и оказало глубокое влияние на авторов: Направление Ключевые фигуры Основные идеи Герменевтика и феноменология Хайдеггер, Гадамер (также упоминаются Гуссерль, Рикёр, Мерло-Понти, Сартр, Мид, Дьюи, Хабермас, Апель, Витгенштейн) Познание не сводится к манипуляции репрезентациями; интуитивное понимание и интерпретация в социальном контексте играют центральную роль там, где традиционно ожидался логический вывод и осознанная рефлексия. Хайдеггер дал наиболее глубокий анализ повседневного опыта; Гадамер применил эту ориентацию к проблеме языка. Биология познания Умберто Матурана — чилийский нейробиолог, наиболее известный работами по нейрофизиологии зрения Живые организмы — механистические, структурно-детерминированные системы. Вводятся понятия наблюдателя и порождаемых им феноменальных доменов, а также «структурного сопряжения» — поведения, механически генерируемого, но не запрограммированного извне. Теория речевых актов Остин, Сёрль; позднее адаптирована социальными философами, в частности Хабермасом Язык — не передача «буквальных смыслов» или информации между узлами, а социальное действие: порождение просьб, обещаний, утверждений и деклараций. Синтез этой теории с герменевтическим пониманием языка (развитый авторами) ведёт к выводу: мы создаём наш мир через язык. Подходы вроде хайдеггеровского, отвергающие идею о том, что познание основано на систематической манипуляции репрезентациями, стали основой ряда критических работ об искусственном интеллекте (например, у Дрейфуса и Хаугеланда), которые на первый взгляд могут производить «мистическое» впечатление на научное сообщество и как бы отрицать физическую основу человеческого действия. Матурана позволяет выйти из этого затруднения: как биолог, он показывает, что феномены интерпретации необходимо возникают из самой структуры живых существ, — и тем самым побуждает нас по-новому говорить о физической природе, в том числе о нас самих. Обзор глав книги • Глава 2 подробно описывает рационалистическую традицию, показывая, как она лежит в основе обыденного понимания языка, мышления и рациональности в современной культуре; цель — обнажить предпосылки и предубеждения, скрытые в самом языке. • Глава 3 обращается к традиции герменевтики (теории интерпретации) и феноменологии (исследования оснований опыта и действия), сосредотачиваясь на работах Гадамера и Хайдеггера. Показывается, как идея «буквального значения» разрушается при ближайшем рассмотрении обычного языка, и вводится теория речевых актов. • Глава 4 представляет работу Умберто Матураны: организмы рассматриваются как механистические структурнодетерминированные системы; вводятся понятия наблюдателя, феноменальных доменов и структурного сопряжения. • Глава 5 показывает, как вопросы познания связаны с вопросами языка: роль слушателя в активном порождении смысла, теория речевых актов (Остин, Сёрль, Хабермас) как акт социального творения, и итоговый синтез — мы создаём свой мир через язык, что имеет важные следствия для дизайна. • Глава 6 — переходная: суммирует общие выводы предыдущих трёх глав (отказ от понимания познания как манипуляции знанием об объективном мире, первичность действия и его центральная роль в языке, невозможность полностью артикулировать фоновые допущения), которые ложатся в основу критики компьютерных технологий в части II и новой ориентации в части III. Часть II (главы 7–10) обращается к конкретным вопросам о том, что делают компьютеры, — с целью понять и переосмыслить текущую практику и предвидеть будущее развитие: • Глава 7 описывает, что делают программисты: программирование как создание символических представлений, интерпретируемых на разных уровнях иерархии конструктов разной степени абстрактности; взаимодействие между уровнями представления может быть сложным, так как каждый уровень реализуется через нижестоящие. • Глава 8 анализирует вычислительные техники, предлагавшиеся как основа ИИ. Авторы утверждают — вопреки широко распространённому убеждению — что невозможно построить машины, которые демонстрируют или успешно моделируют интеллектуальное поведение. Рассматривается, почему «мыслеподобные» свойства приписываются именно компьютерам (а не другим типам устройств, обрабатывающих информацию), и анализируются ограничения текущих исследований ИИ — многие из них проистекают из приравнивания интеллекта к рационалистическому решению задач на основе эвристических процедур. • Глава 9 продолжает эту тему применительно к программам обработки естественного языка. Несмотря на разнообразие изощрённых техник анализа и распознавания, разработанные в 1970-х программы не приближаются к человеческой способности интерпретировать смысл. Возможны практические применения формализмов, подобных естественному языку, но компьютеры остаются неспособны использовать язык так, как это делают люди, — ни в интерпретации, ни в порождении обязательств, центральном для языка. • Глава 10 критически рассматривает основные направления текущих исследований — инженерию знаний, экспертные системы и так называемые компьютеры «пятого поколения». Описывается общий сдвиг от цели создания программ, понимающих язык и мышление, к разработке ПО для узкоспециализированных предметных областей, и оцениваются прогнозы на ближайшие годы. Часть III (главы 11–12) предлагает альтернативную ориентацию для дизайна, основанную на развитой теоретической базе. Здесь важны не вопросы сравнения компьютеров с людьми, а вопросы о том, какую значимую роль компьютеры могут играть в человеческой жизни и труде: • Глава 11 посвящена проектированию компьютерных инструментов для организационных контекстов — на примере деятельности «менеджеров» (хотя те же соображения применимы к любым ситуациям социального взаимодействия и совместной деятельности). Опираясь на идеи Хайдеггера о «заброшенности» (thrownness) и «срыве» (breakdown), авторы заключают, что модели рационалистического решения задач не отражают того, как реально определяются действия, и что программы, построенные на таких моделях, вряд ли окажутся успешными. Тем не менее у компьютерных технологий есть роль — поддерживать менеджеров и помогать справляться со сложными разговорными структурами, возникающими внутри организации, ведь значительная часть работы менеджера состоит в инициации, мониторинге и, главное, координации сетей речевых актов, составляющих социальное действие. • Глава 12 возвращается к фундаментальным вопросам дизайна и рассматривает возможности для компьютерных технологий, открываемые новой ориентацией. После краткого обзора теоретических идей рассматриваются феномены, к которым должен обращаться дизайн (иллюстрируется конкретным примером), а также дизайн в отношении систематических доменов человеческой деятельности — областей с формальными структурами и правилами манипулирования ими. Задача дизайна здесь не просто создать инструменты, точно отражающие существующие домены, а обеспечить создание новых доменов: дизайн одновременно выявляет и трансформирует объекты, отношения и закономерности мира наших интересов. 7. Биология познания: структурное сопряжение Для Матураны познание — это не отражение «объективной реальности», а эффективное действие живого организма в своей среде. Живые организмы — механически детерминированные системы, поведение которых определяется их собственной структурой, а не внешними «командами». • Организм и среда находятся в отношениях взаимных, рекуррентных взаимодействий. • Воздействия среды — это не команды, а пертурбации (возмущения), вызывающие изменения в организме. • Эти изменения определяются текущей структурой самого организма, а не «программируются» средой извне. • Знание — это история взаимодействий, ведущая к взаимной адаптации структур организма и среды. Отсюда следствие для дизайна: проектирование системы — это не «программирование» поведения пользователя, а создание среды, специфическим образом «пертурбирующей» человека и вызывающей у него нужные структурные изменения (обучение, действие). Помимо структурного сопряжения, Матурана вводит понятие роли наблюдателя в порождении феноменальных доменов — то есть тех областей, в которых вообще становится возможной интерпретация и осмысленное поведение. 8. Теория речевых актов: язык как действие Опираясь на Остина и Сёрля (и их адаптацию Хабермасом), авторы утверждают: язык — это не передача «буквальных смыслов» или информации между узлами сети, а социальное действие — порождение просьб, обещаний, утверждений и деклараций, создающее обязательства между людьми. Хотя теория речевых актов выросла из аналитической философии языка, её взгляд на язык как на совокупность речевых актов бросает вызов рационалистической традиции, предполагая, что язык, а значит и мышление, в конечном счёте основаны на социальном взаимодействии. Синтез этой теории с герменевтическим пониманием языка (развиваемым в главе 3) приводит к центральному для всей книги выводу: мы создаём наш мир через язык — наблюдение, имеющее важные следствия для дизайна. С точки зрения дизайна, текстовый процессор — и компьютер в целом — это не «процессор данных», а среда, через которую люди инициируют, отслеживают и завершают речевые акты, то есть участвуют в сетях взаимных обязательств. Каждое слово в коммуникации — это запрос, обещание или утверждение, влекущее за собой ответственность. Дизайн должен делать статус этих обязательств явным: кто, кому и что обещал, и на каком этапе находится выполнение обещания. 9. Ограничения искусственного интеллекта На основе изложенных теоретических оснований авторы критикуют оптимистичные прогнозы развития ИИ, приведённые в начале главы: • Проблема репрезентации. Ошибка исследователей ИИ — приравнивание интеллекта к решению задач на основе эвристических процедур и манипуляции репрезентациями. Машины не обладают «бытием-в-мире» и не имеют того неявного фона, на котором строится человеческое понимание. • Естественный язык и смысл. Программы обработки естественного языка, несмотря на изощрённость техник анализа и распознавания, остаются крайне ограниченными в понимании смысла. Компьютеры не способны использовать язык так, как люди, — ни в интерпретации, ни в порождении обязательств, центральных для языка. • Смена парадигмы. Исследовательская повестка смещается от амбициозной цели создания «думающих машин», понимающих язык и мышление, к проектированию специализированного ПО для узких предметных областей (инженерия знаний, экспертные системы, компьютеры «пятого поколения») — областей, где доминируют формальные правила. 10. Менеджмент, «заброшенность» и сети обязательств в организациях Проектирование систем управления часто терпит неудачу, поскольку исходит из образа менеджера как «рационального аналитика», отстранённо взвешивающего альтернативы перед действием. Хайдеггеровское понятие «заброшенности» (thrownness) описывает иную реальность: менеджер всегда уже находится в потоке событий, действие предшествует анализу, и времени на отстранённую рефлексию нет. В этих условиях инструменты должны быть «прозрачными» — они «появляются» как объекты внимания лишь в момент срыва (breakdown). Срыв в организационной среде — это не просто техническая неполадка, а разрыв в цепочке обязательств: если система «зависает», это критично не из-за самого кода, а потому, что человек не может выполнить обещание (например, предоставить отчёт вовремя). Роль менеджмента смещается от «контроля процессов» к координации сетей обязательств: основная работа менеджера — инициировать, отслеживать и координировать речевые акты, составляющие социальное взаимодействие в организации. Соответственно, компьютерные системы должны выступать не имитаторами интеллекта, а медиаторами в «систематических доменах» — формальных структурах с явными правилами манипулирования объектами, — делая структуру ответственности и сети обязательств видимыми и навигируемыми, особенно в моменты сбоев. 11. Практические направления для дизайна компьютерных инструментов Вместо сопоставления компьютеров с людьми, новая ориентация фокусируется на создании инструментов, играющих значимую роль в человеческой жизни и труде: • Проектировать для обработки сбоев. Инструмент становится видимым в момент срыва; системы должны помогать пользователю осознать структуру проблемы и быстро вернуться в режим «подручности» (ready-to-hand), а не просто сообщать об ошибке. • Делать сети обязательств явными. Интерфейсы должны отслеживать статус обещаний, запросов и отчётов — структуру речевых актов, — а не только движение данных. • Отказаться от антропоморфных симуляций интеллекта. Компьютер не должен имитировать «слушание» или «мышление»; его задача — быть эффективным медиумом, через который люди берут на себя обязательства друг перед другом. • Создавать новые систематические домены. Технология должна не просто отражать существующие сферы деятельности, а формировать новые правила и закономерности, открывающие ранее невозможные виды действий. • Признавать границы формализации. Подлинная интерпретация и принятие обязательств остаются человеческой прерогативой; компьютер оперирует символами, но не смыслом. 12. Ключевые тезисы и формулировки Тезис Значение Дизайн одновременно выявляет и трансформирует объекты, отношения и закономерности мира наших интересов. Определение преобразующей силы дизайна (глава 12). Компьютер должен пониматься в контексте коммуникации и более широкой сети оборудования и практик, в которые он включён. Необходимость холистического взгляда на технологию. Рационалистическая традиция отличается узким фокусом на отдельных аспектах рациональности, что часто ведёт к установкам и действиям, нерациональным при более широком взгляде. Критика ограниченности чисто логического подхода. Мы создаём наш мир через язык. Центральный тезис о роли языка в человеческом бытии и в дизайне (синтез глав 3 и 5). 13. Заключение: открытость новым способам бытия Хотя формально книга посвящена компьютерам, её цель шире — прояснить тот фон понимания, в рамках которого ведётся дискурс о компьютерах и технологии, и осмыслить его более широкие следствия. В конечном счёте речь идёт о том, что значит быть человеком. Прогресс в этом исследовании измеряется не нахождением «правильных ответов», а постановкой содержательных вопросов — таких, которые открывают пространство для новых способов бытия. Авторы приглашают читателей вместе создать ту открытость, которая способна изменить коллективное видение того, как будет развиваться компьютерная технология в последующие десятилетия.