«Нам бы надо опомниться»: Черниговская — о том, что технологии делают с человеком

Фото: Инна Королева

НИА "Нижний Новгород" - Инна Королева

Можем ли мы доверять собственному мозгу, есть ли сознание у комара и способен ли искусственный интеллект по-настоящему понимать человека? Об этом Татьяна Черниговская рассуждала на XI Международной конференции по когнитивной науке (16+), которая проходит в Нижнем Новгороде с 24 по 28 августа. В первый день доктор биологических и филологических наук, заведующая лабораторией когнитивных исследований СПбГУ выступила с лекцией «Когнитивность: кто или что?». Корреспондент НИА «Нижний Новгород» побывал на ней и собрал главные тезисы о природе мышления, смысле, памяти и границах искусственного интеллекта.

Сколько нас жило? И кто мы такие?

Свой доклад профессор начала с неожиданного вопроса: сколько людей когда-либо жило на Земле?

«Разные цифры можно найти, и вообще-то говоря, вопрос глупо задан, потому что всё зависит от того, кого мы считаем человеком», — заметила она.

Если брать Homo sapiens современного типа, то получается около 120 миллиардов, но и эта цифра очень приблизительна. Человек — это прежде всего Homo loquens, человек говорящий, а язык, по мнению Черниговской, определяет картину мира.

«Мысль не оформляется в слове, она формируется в нём», — процитировала профессор классика психологии Льва Выготского.

Как пример Черниговская привела английское понятие mind. Его перевод — это не просто вопрос языка, но и вопрос понимания: ум, психика, сознание или даже мозг, хотя для последнего в английском есть отдельное слово — brain. По словам профессора, выбор толкования не нейтрален и может существенно влиять на смысл.

Мы — существа смыслов

Черниговская назвала человека Homo semioticus — существом, которое имеет дело со знаками и смыслами. «Смыслы переигрывают всё», — сказала она, приведя в пример маленького ребёнка.

Уже в два-три года ребёнок ориентируется в смыслах задолго до того, как начинает разбираться в синтаксических структурах. Здесь Черниговская обратилась к теории Ноама Хомского о врождённых механизмах овладения языком.

Мы также живём внутри конвенций — договорённостей. «Очки называются очками, потому что мы их так назвали — точка. Могли бы назвать яблоком, но не стали».

Знаковые системы — это не только язык, но и жесты, позы, культурные коды. То, что в одной культуре незначимо или воспринимается положительно, в другой может оказаться оскорбительным. Всё это человеку необходимо уметь считывать.

Мозг сам творит реальность

Одной из центральных тем лекции стал вопрос о том, как мозг конструирует мир.

«Для человека, у которого галлюцинация, его галлюцинаторный мир такой же надёжный, как для нас то, что мы думаем, является реальным миром», — заявила Черниговская.

Отсюда возникает провокационный вопрос: можем ли мы вообще доверять собственному мозгу?

«А можем ли мы доверять мозгу, что он нам не врёт? Не врёт по отношению к чему? По отношению к какому-то неведомому объективному миру. А он есть?» — сказала Черниговская.

По ее словам, мы не можем быть уверены, что воспринимаемый нами мир — единственно возможный, поскольку мозг сам участвует в его конструировании.

Когнитивность — не привилегия человека

Черниговская подчеркнула, что когнитивность нельзя считать уникальным свойством человека. В качестве примера она привела муравьёв, которые существуют на планете около 200 миллионов лет.

«У них такая когнитивная ниша образовалась, что им незачем эволюционировать», — сказала она, добавив, что её коллега профессор Жанна Резникова исследует способности муравьёв и даже выделяет среди них «талантливых» особей.

А что насчёт комара? Черниговская рассказала о встрече с Далай-ламой. По её словам, когда она спросила, есть ли сознание у комара, тот ответил: «Конечно, есть». После этого комар сел ему на руку, а монах аккуратно, чтобы не навредить насекомому, поддел его листком бумаги и выпустил на улицу.

Другие виды и сложность нервной системы

Профессор напомнила, что сложная нервная система существует не только у человека. Одним из примеров стал осьминог, чья нервная система устроена принципиально иначе. Врановые (вороны и сороки) также демонстрируют сложное поведение при совсем иной организации мозга.

Отсюда следует ещё один вопрос: обязательно ли для когнитивности наличие биологического субстрата и возможно ли её появление у небиологических систем? По мнению Черниговской, скорее всего, да.

«Жизни бывают разные, и нам надо поскромнее себя вести, особенно когда мы ищем жизнь наружу — на других планетах. А вы с чего решили, что вы её узнали?»

О фейках и памяти

Отдельно Черниговская остановилась на проблеме фейков. По её словам, человечество вступило в эпоху, когда отличить подделку от достоверной информации становится всё сложнее и для этого требуется серьёзная экспертиза.

В качестве примера она привела юриспруденцию: искусственный интеллект уже способен готовить заключения, но при этом может ссылаться на несуществующую информацию — «галлюцинировать». Такие результаты приходится перепроверять, а это требует времени и ресурсов.

Особое беспокойство у профессора вызывают изменения в работе памяти у детей и молодых людей. Она пересказала наблюдение декана экономического факультета МГУ Александра Аузана: сильные студенты способны подготовить презентацию на 72 слайда, но, когда их спрашивают о противоречии между восьмым и десятым слайдами, уже не помнят, что именно там было.

Когда память фактически «лежит в кармане» — в смартфонах и других устройствах, — происходит перераспределение её функций.

«Зачем я буду помнить таблицу умножения, когда у меня есть штука, которая всё считает?» — риторически спросила Черниговская.

Что такое понимание и почему ИИ его не имеет?

Черниговская сослалась на философа Дэвида Чалмерса, говоря о различии между thinking — мышлением — и understanding — пониманием. «Понимание — это сжатие. Вот такой текст, а в итоге про что он?» — пояснила она.

При этом хорошая память сама по себе, по словам профессора, ещё не является признаком ума:

«Я знаю несколько людей с абсолютной памятью, которые очень неумны. Они знают всё, но очень плохо соображают».

Искусственный интеллект обучен на человеческих текстах, однако, как считает Черниговская, настоящей картины мира у него нет. Он может вести себя так, будто она есть, поскольку хорошо обучен, но испытывает трудности с переносом знаний между областями и соотнесением их с физическим миром.

Невычисляемость и интуиция

Черниговская подчеркнула, что значительную роль в ментальной жизни человека играет то, что невозможно свести к вычислениям.

«У нас есть алгоритмы, но не всё наше ментальное пространство построено на алгоритмах», — отметила она.

В качестве примера доктор биологических и филологических наук привела распознавание лжи: иногда человек понимает, что собеседник врёт, хотя не может указать на конкретный жест или интонацию. Это может быть совокупность мельчайших признаков, которые считываются неосознанно.

Говоря об искусственном интеллекте, Черниговская упомянула и идеи Алана Тьюринга: машине недостаточно лишь выдавать безошибочные ответы — значение имеют также непредсказуемость и возможность выйти за рамки заданного алгоритма.

«Открытия не делаются логарифмическими линейками. Они делаются неизвестно как. Не понимал, не понимал, вдруг понял», — сказала она, упомянув эффект «ага!».

При этом профессор признала, что искусственный интеллект уже начинает использовать логику, которую человек не всегда способен понять.

Субъектность, личность и сомнения

Ещё одной темой стала субъектность искусственных систем. «У них есть состояние сомнений?» — спросила Черниговская об ИИ.

По её словам, в систему можно встроить ответ «не знаю», но это ещё не означает настоящего сомнения.

Вопрос о постоянстве личности профессор адресовала и человеку: «Вы уверены, что вы один и тот же человек во сне и наяву? Бывает, что сны продолжаются или повторяются».

Похожий вопрос возникает и применительно к искусственному интеллекту: если человек разговаривал с системой три дня назад, является ли следующий разговор продолжением прежнего или каждый раз всё начинается заново? Этот вопрос, по словам Черниговской, остаётся открытым.

Цифровая жизнь уже здесь

В финале Черниговская призвала не терять бдительность. Цифровая жизнь уже стала частью реальности, и вернуться в прежний мир невозможно.

Она упомянула выражение thoughtful awareness — осознанное внимание к происходящему. По её мысли, человеку важно постоянно помнить, что технологии остаются технологиями, какими бы убедительными и сложными они ни становились.

В завершение публике показали древнеегипетский папирус и картину Рафаэля Санти «Дама с единорогом». «Никакие алгоритмы этого не опишут никогда», — сказала Черниговская, говоря о творчестве и искусстве.

«Нам нужно искупить последствия своей умственной деятельности»

Черниговская обратилась и к идеям Джона фон Неймана о месте технологий в жизни человечества. Особое внимание она уделила фразе: «Нам нужно искупить последствия своей умственной деятельности».

«Одно движение пальца какого-нибудь сумасшедшего может взорвать планету», — пояснила она, но тут же добавила: «Можно посмотреть и мягче — может быть, надо как-то иначе думать. И нам бы надо опомниться, если сможем».

Семиотический провал и надежда на человеческое

В завершение Черниговская вернулась к вопросу о понимании. По её мысли, разрыв между обработкой информации и пониманием смысла искусственными системами пока не преодолён.

«Информация не равна знаниям», — напомнила она.

Знание требует интерпретации — и именно способность понимать и интерпретировать смыслы остаётся для Черниговской одним из ключевых отличий человека от искусственных систем.