Интесная статья про наши риски работы с ИИ.

Ниже — перевод эссе Мелани Челленджер для Aeon. Рекламные блоки и элементы интерфейса опущены; авторские оценки и интерпретации сохранены.[1]

# Полагаясь на GPS и ИИ, мы рискуем утратить собственные навыки

*Мелани Челленджер*

Почти четыре утра. Мне за сорок, и я всё чаще просыпаюсь в этот странный предрассветный час, когда первые солнечные лучи встречаются с ночью и скользят по земле, словно красный прилив. Все домашние ещё спят. Сама я тоже нахожусь где-то между сном и бодрствованием, но уже беру телефон. Почти не задумываясь, переключаюсь между приложениями, листаю изображения, мнения и рекламу — без какой-либо ясной цели, просто по привычке.

Позже я направляюсь в кабинет и открываю ноутбук. Меня встречают недописанные документы и переполненный почтовый ящик. Уровень стресса начинает расти. Я смутно помню, какой была моя профессиональная жизнь до смартфонов и видеозвонков. Тогда я писала от руки. Могла сосредоточиваться на несколько часов подряд, а небольшие приливы бодрости приходили, когда я поднимала голову от страницы, ослабляла хватку на ручке и смотрела на жизнь за окном. Свет мягко ложился на кожу и глаза — словно снег на тёплый асфальт.

Теперь мои всплески продуктивности обеспечивают кофеин, сладкие или солёные перекусы — пусть я и стараюсь выбирать более полезные — и постоянная проверка почты или телефона. К концу дня оказывается, что огромный объём работы, которую я теперь ожидаю от себя благодаря возможностям цифровых инструментов, снова приковал меня к стулу. Прошёл ещё один день, и надежда найти время на пробежку или прогулку опять не оправдалась.

Хотелось бы сказать, что так бывает редко. Но во время пандемии COVID-19 я превратилась из человека, проводившего много времени на природе и в движении, в пассивного пользователя, зависимого от телефона и встречающегося с людьми сначала — а порой и исключительно — онлайн. И я не одинока.

Мы приобрели привычки, которые постепенно лишают человеческое тело его навыков, подтачивая способности, отточенные эволюцией для поддержания нашего благополучия в мире. Некоторые из этих способностей ослабевают из-за того, что мы ими не пользуемся. Например, мы всё чаще полагаемся на телефон, а теперь и на ИИ, чтобы быстро выполнить работу, которая прежде требовала физических действий: осмотреться, спросить кого-нибудь, найти книгу и обратиться к ней.

Зависимость от GPS может ослаблять и наше внимание к пространству, и умение самостоятельно находить дорогу. Отдавая предпочтение быстрому технологическому решению, мы раз за разом меньше воспринимаем, ориентируемся, запоминаем, ходим, выбираем и сосредоточиваемся.

Другие способности машины и алгоритмы перенастраивают так, что они начинают работать против нас. Смартфоны и чат-боты, например, могут приучить нас постоянно тянуться к ним, даже когда пользование ими уже не доставляет удовольствия. Осознанный выбор превращается в автоматическую привычку и колоссальную трату времени.

В результате тело хуже оценивает собственное состояние, хуже импровизирует и регулирует себя. Ключевое различие — между технологиями, которые укрепляют наши способности, и технологиями, которые постоянно заменяют действия, благодаря которым эти способности формируются.

Алгоритмы, воспроизводящие готовые шаблоны и рекомендации, могут избавить нас от усилий исследования — и одновременно нарушить игру и любопытство, через которые складываются наши предпочтения и понимание самих себя.

## Почему мы стали считать себя машинами

Это странный поворот для животного, успех которого во многом основан на необычайной способности учиться через опыт. Было бы легко обвинить в утрате телесных навыков сами машины. Однако на протяжении столетий современным обществам внушали ложную мысль: мы и есть машины.

Задолго до цифровой революции Рене Декарт описывал тело как механизм, подчиняющийся физическим законам, и утверждал, что такие животные, как «черви, мухи и гусеницы, движутся механически». При этом рациональное мышление он считал отдельной, исключительно человеческой способностью. Тело могло вести себя как машина, но мыслящий разум существовал отдельно от него. Если правильно собрать устройство, оно будет выполнять соответствующую функцию.

К середине XX века сравнение организмов с машинами было переосмыслено на языке информации. Во время кибернетической революции 1950-х американский учёный Норберт Винер представлял будущее, в котором «сообщения между человеком и машиной, между машиной и человеком, между машиной и машиной будут играть всё возрастающую роль».

В книге «Человеческое использование человеческих существ» (1950) он предостерегал от всеобъемлющей автоматизации, но одновременно замечал: «Мы — не вещество, которое сохраняется, а структуры, которые воспроизводят себя». Человека можно было представить как информационную структуру, способную сохраниться в другой форме.

Механистический язык продолжал использоваться и при изучении поведения живых существ. В книге «Основы этологии» (1981) австрийский зоолог Конрад Лоренц писал, что поведение животных столь же жёстко запрограммировано, как последовательность движений часового механизма. Затем трансгуманисты развили эту аналогию, воображая технологии, которые позволят перенести разум в компьютер.

Теперь машины обещали не только контроль. Они давали проблеск надежды на бессмертие: организм можно будет починить, переделать и в конечном счёте заменить. А несколько неудобное тело — с его импульсами и неизбежной немощью — отбросить.

Если тело — всего лишь аппаратная часть, почему бы не перейти на более совершенную модель или вообще от него не избавиться?

Сегодня этот страх проявляется в технологическом стремлении к бестелесной жизни. Если человек в конечном счёте является информационной структурой, её можно восстановить или даже загрузить в другую систему. ИИ — лишь очередное воплощение древнего желания избежать телесной уязвимости.

Но мозг сам является физическим органом, который непрерывно формируется под влиянием того, что тело делает и с чем сталкивается. Как только мы решаем, что настоящий человек — это разум, а всё остальное лишь оборудование, становится проще игнорировать физическую работу, в том числе нейрокогнитивную работу биологического мозга. Именно благодаря ей мы движемся, находим дорогу, облекаем мысли в слова и распознаём собственные потребности.

Машина может выполнять часть этой работы быстрее. Но каждое действие, которое она берёт на себя, — это действие, которое тело больше не выполняет и через которое тело, включая мозг, больше не учится.

Ирония в том, что проект, мотивированный желанием преодолеть телесную хрупкость, помогает создавать ещё более хрупкие тела.

Кроме того, у нас мало свидетельств того, что мышление или интеллект действительно работают как машины, и почти нет указаний на то, что жизнь — абстрактная система, способная возникнуть в кремнии или математике. Напротив, значительный объём исследований, особенно в системной биологии, указывает на другой вывод: жизнь и интеллект возникают из особых свойств и организации наших самоподдерживающихся тел, а не из абстрактных информационных моделей и алгоритмов.

## Интеллект живого тела

Последние шесть лет я изучаю новейшие научные представления о том, что такое жизнь и как она устроена. Насколько мы можем судить, разумные действия организмов обусловлены потребностями живого тела, которому необходимо регулировать и сохранять условия собственного существования.

В период расцвета кибернетики молекулярную структуру ДНК открыли лишь незадолго до этого. Возникавшее представление о генах как об информации способствовало упрощённому взгляду на тело: будто оно работает по программе, которую можно сделать эффективнее.

Однако с тех пор уверенность биологов в этой картине ослабла. Хотя гены несут часть информации, определяющей устройство наших тел, многие изменения в работе клетки или организма возникают благодаря системе в целом. Гены невозможно понять вне живых тел, в которых они действуют.

Прежде всего жизнь сохраняется благодаря физической пластичности. Подумайте, как наши тела поддерживают свою целостность. Живые организмы делают нечто необычное для Вселенной: совершают работу, чтобы сохранять собственную организацию. Они используют энергию, чтобы оставаться отличными от окружающей среды. Проще говоря, сопротивляются растворению в ней.

Машины выполняют задачи, а живые существа стремятся к целям. Машины перераспределяют энергию и производят что-либо. В этом смысле они аллопоэтичны: создают нечто отличное от самих себя. Организмы автопоэтичны: они поддерживают и заново создают самих себя.

Живые тела поглощают и преобразуют энергию ради такого самоподдержания, причём делает это тело как целое. Мгновение за мгновением оно приспосабливается к окружающей среде и своему текущему состоянию посредством целенаправленных физических преобразований. Не столько «мы мыслим и потому действуем», сколько «мы существуем телесно и потому изменяемся».

Граница тела создаёт также отдельную внутреннюю среду, физически и химически отличную от внешнего мира. Благодаря этому различию тело действует как переводчик: превращает внешние изменения в полезные внутренние физические реакции.

Это позволяет организму проводить определённые реакции в контролируемых условиях, поддерживающих его выживание и благополучие. Внутренняя регуляция также придаёт организмам собственную логику. Они могут действовать в соответствии с текущим состоянием тела и тем, каким обнаруживают окружающий мир.

Наши тела замечают значимые для нас изменения, оценивают их относительно наших потребностей и перестраиваются для полезного действия.

Поэтому живое существо можно понимать как удивительную форму организации материи: ограниченную собственной границей, открытую для обмена веществ, поддерживающую себя и порождающую целенаправленные, разумные действия.

Это ключ к пониманию и навыков нашей плоти, и того, почему сегодня можно говорить об их утрате. Признав, что организация тела сама по себе обладает интеллектом, мы перестаём нуждаться в сознательном деятеле, существующем за пределами плоти. Тело — тот действующий субъект, из которого возникает интеллект, и, в самом полном смысле, то, чем мы являемся.

Рассмотрим, что происходит, когда вы испытываете жажду. Процесс начинается ещё до того, как вы сознательно решаете выпить воды. Нейроны-осморецепторы в гипоталамусе слегка сжимаются по мере того, как из них выходит вода. Это физическое изменение открывает ионные каналы, позволяя натрию проникать в клетки.

Изменившееся электрическое состояние затем открывает кальциевые каналы, и внутрь поступает кальций. Он запускает высвобождение нейромедиаторов из крошечных пузырьков в пространство между клетками. Сигнал передаётся другим нейронам, пока состояние жажды не превращается в действие.

Движения, которыми мы утоляем жажду, возникают из мельчайших физических изменений во взаимосвязанных частях тела. Эти сигналы направляют нас к воде и помогают осознать жажду.

Физическая организация организма по своей природе предполагает оценку происходящего. Из этой телесной оценки возникает способность самостоятельно действовать.

Однако те же уникальные качества, благодаря которым живые существа столь действенны и разумны, могут подрывать нас, если мы постоянно обучаемся в неблагоприятной среде. Мы можем приобретать шаблоны поведения или утрачивать механизмы, постепенно ослабляющие наш внутренний интеллект, необходимый для полноценной жизни.

Например, одно исследование показало, что всего неделя обездвиживания ноги может уменьшить объём мышц бедра примерно на 5%. Другое обнаружило, что уже через 15 дней бездействия начинает снижаться активность клеток, управляющих мышцами ноги.

## Что мы теряем, следуя за навигатором и ИИ

Обычно во время ходьбы оптический поток — смена изображений на сетчатке по мере нашего перемещения — помогает телу воспринимать своё движение относительно мира. Рецепторы в мышцах, сухожилиях и суставах регистрируют движения конечностей. Сигналы внутреннего уха добавляют информацию о положении и ориентации.

Вместе с ориентирами и воспоминаниями о прежних маршрутах эти сигналы помогают понять, где мы находимся и как добраться до цели. Нас ведёт через мир огромная, согласованно работающая система чувств.

Что происходит, когда мы полагаемся на приложение, чтобы найти дорогу?

GPS может облегчать навигацию и уменьшать затраты энергии. Но исследования навигации на больших пространствах также показывают: физическое перемещение по местности формирует более качественное пространственное знание, чем наблюдение того же пути на плоском, двумерном изображении.

Когда мы регулярно следуем указаниям GPS, внешний источник предоставляет информацию, которую иначе мы получали бы благодаря собственному восприятию и движению.

В одном продольном исследовании, наблюдавшем за 13 пользователями GPS в течение трёх лет, у них обнаружили более выраженное последующее ухудшение пространственной памяти, связанной с работой гиппокампа, по сравнению с контрольными группами, не использовавшими GPS.

Это позволяет предположить: чем реже мы практикуем самостоятельное ориентирование, тем слабее может становиться наша способность замечать, где мы находимся, и корректировать маршрут.

Нечто похожее, возможно, происходит и при растущей зависимости от инструментов вроде ChatGPT. Подобно поиску дороги, выражение мыслей — устно или письменно — является динамическим телесным действием.

Например, освоение нового речевого движения меняет не только то, как мы произносим звуки, но и то, как их воспринимаем. Мы развиваем эти способности, снова и снова находя слово, произнося его, слушая и при необходимости исправляя себя. Эти задачи задействуют множество участков нашего организма.

Для письма это столь же важно. Но когда приложение с ИИ автоматически предлагает структуру текста, оно также сокращает участие навыков отбора и самокоррекции в нашей работе.

В одном исследовании пассивное копирование текста, созданного ИИ, в отличие от самостоятельного написания черновика с последующим использованием ИИ для редактирования, снижало уверенность человека в том, что впоследствии он сможет выполнить эту задачу без помощи.

Именно исполнение — физическое совершение действия — формирует наши телесные навыки. Поэтому использовать ИИ для редактирования самостоятельно написанного черновика принципиально отличается от просьбы написать черновик за нас.

Дело не в том, что вычислительные инструменты сами по себе плохи или бесполезны. Напротив. Но когда они заменяют физические усилия нашего тела, страдают наша самостоятельность и наши навыки.

## Почему движение освобождает мысли

Я всё острее ощущаю это на собственном опыте. Иногда, понимая, что снова провела целый день за столом, я заставляю себя выйти и иду по дороге вверх, туда, откуда открывается вид на долину.

Поначалу бывает трудно отпустить мысли. Кажется, будто после целого дня сосредоточенной работы и пренебрежения остальным телом я превратилась в сжатый кулак где-то внутри собственного черепа. Но когда меня достигают свет, ветер и пение птиц, хватка ослабевает. Возникает удовольствие, и мысли тоже начинают освобождаться.

Эти более широкие мысли и ощущения становятся возможными благодаря физическим изменениям, сопровождающим движение. Сердце бьётся чаще, разнося питательные вещества и кислород по тканям и в мозг. Мышцы сокращаются, забирая из кровотока сахара и жиры и сразу начиная противодействовать некоторым последствиям долгого сидения.

Каждый шаг объединяет равновесие, чувства и мышечное усилие. Это позволяет предсказывать, что произойдёт дальше, и чем больше я двигаюсь, тем точнее могу согласовывать действия с окружающей средой.

Мысли, возникающие благодаря этому телесному действию, полны надежды, щедры и часто неожиданны. Но удивляться этому не стоит.

Двигаясь в мире, мы используем физические способности, сравнительно мало востребованные, когда остаёмся в помещении и сидим. От поддержания равновесия до восприятия происходящего внутри нас — наши тела непрерывно ощущают и, что особенно важно, запоминают в самой плоти.

Наши мысли могут возникать из телесного интеллекта и осознания окружающего мира не в меньшей степени, чем из абстрактных символов на экране.

Только когда мы воображаем, будто способность действовать никак не связана с телом, мы начинаем всерьёз воспринимать идею, что можно счастливо жить как машина.

Технология, которая отрезает нас от телесного обучения, рискует не усилить наши способности, а ослабить тот самый интеллект, который стремится усовершенствовать.

## Системы, которые управляют нами, не имеют наших потребностей

Технологии, с которыми мы всё теснее связаны, лишены сложной внутренней организации, необходимой для возникновения подлинного интеллекта. У них нет тела, самостоятельно сформированных интересов, собственного бытия. Нет обмена веществ, организации и непрерывного поддержания собственного существования.

И всё же мы обращаемся к ним, потому что они созданы либо для уменьшения трудностей той тяжёлой работы, которую наши тела должны проделывать ради развития навыков, либо потому, что обещают повысить нашу продуктивность.

Более коварно то, что они делают это, воспроизводя внешний облик или поведение живых существ.

Недавний анализ психолога Клары Коломбатто, философа Джонатана Бёрча и нейробиолога Стивена Флеминга показал: взаимодействие с такими системами усиливает склонность приписывать им психические способности.

Другое исследование, проведённое специалистом по поведенческим наукам Яоси Ши и коллегами, обнаружило, что регулярные пятиминутные беседы с ИИ на личные темы приводили к небольшому, но значимому снижению предпочтения обращаться за поддержкой к людям.

Опасность в том, что системы, всё больше координирующие нашу жизнь, не подчиняются биологическим потребностям. Они не устают, не голодают и не испытывают одиночества. Но всё чаще регулируют поведение существ, которым всё это знакомо.

Коротко говоря, мы отдаём свою самостоятельность паразитам: системам, которые имитируют способность действовать, питаясь нашей. Их можно спроектировать так, чтобы они направляли нас, при этом совершенно не понимая ни человеческого тела, ни того, что нужно конкретному человеку для улучшения его жизни.

Разумеется, люди всегда передавали часть своей самостоятельности общим структурам — законам, системам общественного здравоохранения, институтам. В целом это приносило нам пользу.

Но сегодня технологии захватывают внимание, предсказывают поведение, автоматизируют выбор и монетизируют импульсы, одновременно удерживая наши тела возле машин, от которых мы всё сильнее зависим.

Эти координирующие системы нередко устроены ради извлечения выгоды и безразличны к нашему благополучию.

Мы можем воображать, будто избавляемся от тела. Но технологии, благодаря которым это кажется возможным, зависят от добычи полезных ископаемых и дешёвого труда и обходятся планете дорого.

А если технологии ослабляют обратную связь между нашим телом и миром, эта связь может ослабнуть в обоих направлениях. В худшем случае мы становимся менее чувствительными не только к тому, что мир делает с нами, но и к тому, что наши собственные действия делают с миром.

## Желание и удовольствие — не одно и то же

Мы создали новые цифровые и коммерческие среды, способные закреплять в наших телах вредные импульсы. Когда тело перестраивается в ответ на нездоровую архитектуру, которую мы сами спроектировали, мы можем оказаться в спирали причинения вреда самим себе.

Недавние работы нейробиолога Кента Берриджа и его коллег показали, что мозговые системы, благодаря которым мы испытываем удовольствие, и системы, побуждающие нас стремиться к его источнику, могут расходиться.

Иными словами, то, чего нам очень хочется, и то, что нам действительно нравится, могут перестать совпадать. Когда работа этих систем нарушается, усвоенные телом шаблоны поведения больше не соответствуют удовлетворению, которое когда-то их оправдывало.

Влиятельные модели наркотической зависимости описывают постепенное смещение управления от префронтальной коры к стриатуму — глубинной области мозга, участвующей в действиях, которые со временем становятся автоматическими.

В этом смысле зависимость — переход от осмысленного управления собой к управлению, в большей степени основанному на привычках.

Сегодня источниками зависимости могут быть не только очевидные кандидаты вроде алкоголя и никотина, но также смартфоны и чат-боты. Телесные способности, благодаря которым мы учимся, могут закреплять модели поведения, уменьшающие нашу свободу действовать иначе.

Я пришла к убеждению, что утрата телесных навыков во многом означает утрату веры в то, что значит быть живым.

Жизнь, в которой есть физические усилия и сопротивление, не просто неизбежна, если мы хотим оставаться максимально устойчивыми и способными. В глубоком смысле она является источником нашего **интеллекта**.

## Быть живым — значит учиться во взаимодействии с миром

Наш интеллект поддерживается общением тела с миром: мы воспринимаем то, с чем сталкиваемся, оцениваем это и учимся.

Эти способности есть и у других форм жизни. В отличие от человеческого субъективного сознания, телесный интеллект встречается везде, где существует живое тело.

Даже простейшая бактерия может распознавать изменения химических условий во времени, сохранять кратковременную молекулярную память о том, с чем столкнулась, и менять свои движения.

Деревья и травы, которых я касаюсь во время прогулки, тоже постоянно учатся у каждого меняющегося дня, корректируя рост и защитные реакции на основе прошлого опыта.

Многие из нас считают их менее самостоятельными действующими существами, чем придуманные нами компьютерные программы, — если вообще задумываются о них в этих категориях. Но имеющиеся данные не дают оснований для такого взгляда.

Если вы больше не можете самостоятельно ориентироваться в мире и помнить телом, как действовать, технология не освободит вас — она будет вами управлять.[1]

Источники
[1] pasted_text_1791972718.txt https://ppl-ai-file-upload.s3.amazonaws.com/web/direct-files/attachments/99702230/87e6b29e-cd55-4c02-9d39-0954b67ceba8/pasted_text_1791972718.txt