Статья · Плутон
Плутон в Тельце: без чего не передать
Как инфраструктура меняет необходимые условия умения — и выбор между универсальностью и силой специализации
Павел Медведев · Опубликовано: · Обновлено:
Первого июня 2009 года над Атлантикой у самолёта Air France, летевшего из Рио в Париж, обледенели датчики скорости. Автопилот, получив противоречивые данные, отключился и передал управление людям. Экипаж был квалифицированный, самолёт исправный, высота — одиннадцать километров. За четыре минуты три пилота не смогли сделать того, что умеет курсант: опустить нос и набрать скорость. Самолёт упал плашмя в океан. Двести двадцать восемь человек.
Разбор занял три года. Вывод был не только про датчики. Пилоты годами летали на автопилоте, и ручного пилотирования на большой высоте в их навыке не оказалось. Его никто не отменял: оно просто перестало быть нужным в каждом полёте, отдельно его не отрабатывали, и никто не проверял, есть ли оно. В 2013 году американская авиационная администрация выпустила рекомендацию авиакомпаниям: давать пилотам чаще летать вручную. Необходимую часть навыка вернули — после того как выяснилось, что её нет.
Без чего не передать
Телец на этом сайте — передача: сделать то, что важно, частью жизни другого; научить. Плутон спрашивает, без чего этого не бывает. Плутон в Тельце — без чего не передать: какая часть навыка необходима, чтобы переданное дошло, и что происходит, когда её убрали.
Ответ не бывает раз и навсегда. То, что вчера входило в навык обязательно, сегодня может выполнять инструмент или другой специалист. А то, чего в навыке не было, становится обязательным: поставить задачу, проверить источник, заметить, что прибор врёт. Меняется то, без чего умение не воспроизвести. Новая технология может убрать необходимость в одном действии и одновременно создать новую зависимость: теперь результат требует самой технологии, доступа к ней и умения с ней работать. Именно этот порог нас и интересует в Плутоне в Тельце.
Кто решает, какая часть необходима? Ответ задают условия дела, которому учат. В одних случаях человек должен продолжить работу при отказе помощника: тогда соответствующее умение сохраняют и тренируют. В других продолжение обеспечивают запасным оборудованием, другой службой или восстановлением инфраструктуры. От каждого участника не требуется заменять собой всю систему. День без помощника — важная проверка там, где человеку действительно предстоит действовать без него. Но это не универсальный экзамен на настоящее умение.
Чтобы понять, без чего не передать умение, надо видеть не только человека, но и условия, в которых он будет работать. Что он должен освоить сам? Что обеспечивает инструмент? Что делают другие специалисты? Где утрата одного из этих условий делает результат недостижимым? Провал обнаруживает такую зависимость, но ждать провала не обязательно: её можно искать заранее, проверяя работу и обучение.
Что меняется вместе с помощником
Помощник, который делает за человека часть работы, приходил не впервые. Споры повторялись: разучатся, не разучатся, запрещать, разрешать. За ними стоял практический вопрос: что теперь необходимо передавать человеку, а что уже обеспечивает изменившееся устройство работы?
Калькулятор. Спор слово в слово: «разучатся считать». Кончилось не запретом. В младших классах калькулятор не дают, пока счёт не сделан руками; на экзаменах разрешили — на американском SAT с 1994 года, — но задачи переделали так, чтобы калькулятор не решал их за ученика. Из навыка выпало вычисление, осталась постановка: не «сколько будет», а «что считать» и «похоже ли на правду». Мо Гавдат в интервью Марине Могилко вспоминает, как в его университете калькуляторы наконец разрешили и время на задачу сократилось вдвое: «большинство моих друзей забирали свободные 50% времени, пораньше сдавали и шли гулять, а я прогонял решение ещё дважды». Освободившееся время одно на всех; что с ним делать — решал каждый, и никто тогда не знал, что окажется необходимым.
Рефераты из интернета. Конец девяностых, нулевые: скачал, сдал. Помощник убрал из навыка необходимое — что текст пишешь ты. Решилось тремя вещами: проверкой на заимствования («Антиплагиат» в наших вузах с середины нулевых, для дипломов обязателен с 2016 года), устной защитой — расскажи, что написал, — и заданиями на своём материале, которые скачать нельзя. Необходимое вернули, но не туда, где было: не в текст, а в разговор о тексте.
Википедия. Школы её сначала запрещали, потом стали учить проверять источники. Из навыка выпало «помнить», вошло «знать, где лежит и чему верить». Психологи это измерили: с появлением поисковика люди помнят не факт, а где он лежит. Это не потеря навыка, это смена его состава — но новую часть надо было назвать, чтобы ей учить.
Компьютеры у нас. В 1985 году школьный курс информатики строился на лозунге Ершова «программирование — вторая грамотность»: учили писать программы. Через пятнадцать лет необходимым стало «уметь в Word и Excel». Ещё через десять интерфейс упростился так, что учить стало нечему. Состав навыка сменился дважды за тридцать лет, и каждый раз необходимым оказывалось не то, что делает машина, а то, что делает человек рядом с ней.
Навигатор. Лондонский таксист сдаёт «The Knowledge» — знание всех улиц, годы подготовки; у сдавших, как показали нейрофизиологи, заметно больше участок мозга, отвечающий за карту местности. Пришёл навигатор, а лицензия по-прежнему требует «Knowledge»: город решил, что день, когда навигатор врёт, в этом деле бывает. В городах, где так не решили, вырос водитель, который города не знает и не узнает, потому что незачем. Ни одно из двух решений не ошибка. Ошибка — не решать.
Автопилот. Тот случай, с которого началась статья, и самый важный, потому что здесь день без помощника наступил по-настоящему и стоил дорого. Лётчики называли это «дети пурпурной линии» — по цвету линии маршрута на экране — ещё в девяностых — и ничего не менялось, пока не упал самолёт.
Эти случаи показывают разные стороны одного изменения. Помощник делает результат достижимым без части прежних действий, а обучение и проверка должны учитывать новый состав умения. Иногда приходится сохранять ручное действие. Иногда — учиться ставить задачу и проверять результат. Иногда — передавать обслуживание самого помощника отдельным специалистам. Общий вопрос остаётся: без каких условий человек теперь сможет или не сможет воспроизвести то, чему его учат?
ИИ: чего мы не знаем
Теперь тот же вопрос про ИИ, и здесь надо быть точным, потому что ответа пока нет ни у кого.
Исследование 27 тысяч китайских школьников показало: с ИИ домашние задания делаются на 30% быстрее и оцениваются на 18% выше, а вступительные экзамены сдаются на 18–24% хуже, причём потеря проявляется примерно через два года. Основные потери — у тех, кто передавал домашнюю работу машине; кто тратил на неё прежнее время, потерял мало. Эндрю Ын в интервью говорит то же про себя: спросил модель, получил объяснение, сделал, а «через полгода я уже не помню ответ и снова спрашиваю». Эрик Бриньолфссон переносит это на профессию: компании перестают нанимать начинающих, потому что их работу делает ИИ, — «если убрать основание пирамиды, она превращается в ромб», — а опыт передавался именно через эту работу.
Эти примеры заставляют выяснять, какую работу человек должен проделать сам, чтобы умение у него возникло. Это не всегда та же работа, которую ему предстоит выполнять потом. Учебное действие может быть нужно для понимания, даже если в профессии его выполняет машина. Но и его необходимость нельзя объявить вечной: возможно, ту же способность теперь можно приобрести иначе. Передача должна обеспечить способность работать в новых условиях, а не просто сохранить прежнюю последовательность упражнений.
Но из прежних случаев нельзя вывести готовый ответ для ИИ. Экзамен без ИИ показывает способность решать определённые задачи без ИИ. Если именно она нужна в дальнейшей работе или обучении, её потеря существенна. Если задача профессии изменилась и включает постоянное использование инструмента, такого экзамена недостаточно для оценки нового умения. Надо отдельно выяснять, что человек способен сделать с ИИ, насколько надёжен результат и чему требуется научить для его воспроизведения. Потеря по прежнему критерию сама по себе не доказывает ни общего упадка, ни выигрыша по новому. Может оказаться, что для многих дел день без ИИ не наступит никогда — как день без клавиатуры. Тогда умение без него станет каллиграфией: красиво, честно и никому не нужно. А может оказаться, что без собственного понимания работа с ИИ не держится, как счёт без прикидки «похоже ли на правду». Экзамен по чистописанию этого не покажет, а мерки для умения с ИИ пока нет ни у кого.
Поэтому нужны обе проверки: что остаётся необходимым личным умением и какие новые способности возникают при работе с инфраструктурой. Они связаны. Чтобы получить новый результат, человеку может понадобиться прежнее понимание, новый способ работы или их сочетание. И ошибку можно обнаружить в обоих случаях: как при отказе инструмента, так и при его обычной работе, если результат не соответствует задаче. Вопрос о необходимом не заканчивается там, где появился помощник.
Привычную зависимость мы принимаем за самостоятельность
Человеку говорят: «А что ты умеешь без ИИ?» Но при этом оставляют ему электричество, интернет, готовые инструменты, промышленность и знания, накопленные другими людьми. Всё это уже включено в представление о самостоятельном специалисте. Убирают только новый инструмент — и предлагают считать оставшееся его настоящей способностью. Почему границу провели именно здесь?
Привычную зависимость мы принимаем за самостоятельность, а новую замечаем и предъявляем как недостаток. Между тем человек постоянно опирается на то, чего сам воспроизвести не может. Умеющий пользоваться компьютером не обязан уметь изготовить процессор. Умеющий работать с металлом не обязательно способен самостоятельно организовать его добычу и выплавку. Тот, кто пишет критические статьи об ИИ, занимается инвестициями, торговлей, аналитикой, — убери у него интернет, и многое из того, что он знает, обесценится за неделю. Люди раньше разбирались в простейшей химии и физике и могли собрать что-то в сарае с нуля. Кто сейчас может? Образованный человек девятнадцатого века спросил бы нас: вы хоть в чём-нибудь разбираетесь? Вы даже латыни не знаете. А латынь была основой образования. Это не разоблачение наших навыков. Это условия, в которых навыки существуют и приносят результат.
Люди постоянно утрачивали основания собственной деятельности — в том смысле, что переставали лично знать и уметь то, что прежде приходилось обеспечивать самим. Эти основания переходили в инструменты, инфраструктуру и работу специально обученных людей. То, что перестало быть обязательным умением каждого, могло остаться необходимым условием жизни всех. Человек уже не воспроизводит всю цепочку, но продолжает от неё зависеть.
Поэтому мысленный опыт с современным человеком, попавшим в далёкое прошлое, интересен. Знать, что существуют электрический двигатель, антибиотики или микропроцессор, — ещё не значит уметь их изготовить в доступных условиях. Даже специалисту могут понадобиться оборудование, материалы и знания других специалистов. Из привычного мира исчезает не просто удобство: исчезают условия, на которых стояла его возможность действовать. Его знание не обязательно стало ложным, но применить его теперь может быть не к чему или не с чем.
С ИИ возможно такое же изменение. Возникнут умения, для которых он будет необходимой частью работы. Человек сможет решать задачи, которых прежде не решал, но без доступа к этой инфраструктуре воспроизвести результат не сможет. Зависимость при этом настоящая. Настоящей может быть и приобретённая способность. Одно не отменяет другого.
Универсальность и сила специализации
Здесь и появляется выбор, который стоит обсуждать всерьёз. Можно стремиться многое обеспечивать самостоятельно, сохраняя широкий набор навыков. Можно сосредоточиться на более узком деле и опереться на возможности сложной системы. Во втором случае человек способен сделать в своей области существенно больше, чем сделал бы один, но результат зависит от большего числа условий, которые он лично не обеспечивает.
Ты можешь сам сделать многое, но понемногу. А можешь делать нечто, недоступное тебе в одиночку, — пока работаешь вместе с другими и используешь необходимую инфраструктуру. Это напряжение между универсальностью и силой специализации. Оно не означает, что всякий универсал посредственен, а всякий специалист выдающийся. Речь о том, за счёт чего получается результат и какую зависимость человек принимает ради расширения своих возможностей.
ИИ добавляет к этому выбору ещё одно условие. Если новое умение возникает в работе с ним, требование убрать ИИ может уничтожить сам предмет проверки. Мы захотели оценить, умеет ли человек работать новым способом, но предварительно отняли то, что делает этот способ возможным. Это не мешает отдельно проверять понимание и способность замечать ошибки. Просто проверка должна отвечать на вопрос о конкретном умении, а не доказывать превосходство независимости самой по себе.
Плутон в Тельце — именно здесь: меняется то, без чего умение невозможно воспроизвести и передать. Раньше необходимое действие выполнял сам ученик. Теперь его может обеспечивать инструмент, зато ученику необходимо освоить взаимодействие с ним. Возникает другой состав условий. Одни из них находятся в человеке, другие — в устройстве работы вокруг него. Передать новый навык — значит обеспечить освоение того, что действительно необходимо в этом составе.
Без чего невозможен навык, основанный на ИИ? Без ИИ — и этот ответ сразу вызывает спор: значит, человек стал зависимым, сам уже ничего не может? Но есть второй вопрос: а что невозможно без этого навыка? Пока на него нет убедительного ответа, зависимость видна, а приобретение — нет. Поэтому и спорят, стоило ли отказываться от прежней самостоятельности.
Положение меняется, когда человек осваивает то, что без ИИ ему недоступно, и эта возможность становится для него принципиальной: «Нет, от этого я уже не готов отказаться. С этим я могу слишком многое». Зависимость никуда не исчезла — стало понятно, ради чего её принимают. Тогда вопрос «что я могу без ИИ?» перестаёт быть последним доводом: отказ от ИИ теперь означает отказ от существенной части собственных возможностей.
Вот два направления одного рассмотрения: без чего невозможно моё умение — и что невозможно без моего умения. Пока мы видим только первое, мы видим цену. Второе позволяет понять, что за неё получаем. Как и у Нептуна, вопросов всегда два.
Отсюда меняется и вопрос к образованию. Насколько самостоятельным должен быть человек? В каких действиях ему необходима глубина, в каких — достаточная широта, на что он может опираться как на доступную инфраструктуру? Нельзя для каждого дела раз и навсегда выбрать либо полную универсальность, либо предельную специализацию. Но нельзя и считать вчерашнюю степень зависимости естественной нормой, а любое её изменение — деградацией. Новые возможности могут требовать новой опоры, и эту связь надо понимать, когда решаешь, чему учить.
Путаница и мерка прошлого мира
Сейчас вокруг этого путаница. Никто не может точно сказать, как это теперь устроено и какая здесь ценность. Что возможности есть — да. Что много болтовни и профанации — тоже да. Что ученики этим пользуются и это к чему-то приводит — наверное, тоже да. А главное — никто не понимает, как теперь и что теперь будет. А инструменты уже есть.
Раньше учили тому, чему важно было учить без ИИ. Появился ИИ — и сразу вопрос: а кто решал, что важно? Какая ценность? Что передавать? Фактически сейчас всё сведено к тому, что это личное дело каждого, как этим пользоваться. Как твоя чуйка вывезет, так и будет.
Но так было всегда. Пятьдесят–семьдесят лет назад школьники писали перьевыми ручками и выводили буквы в прописях; почерк входил в критерии учителей. Сейчас это исчезло, и почерк разобрать уже не каждый сможет. Человек начала двадцатого века разбирался в том, в чём не разбирается современный горожанин; деревенский житель сказал бы: ты что, корову подоить не можешь? И с компьютерами было так же: сначала энтузиасты, которые сами хотели в этом копаться, потом курсы и методы, потом интерфейс упростился так, что учить стало нечему. Какие-то таланты вырывались вперёд — садились, разбирались сами, шли и говорили «я умею», и устраивались туда, где это нужно. А для многих это выключило целый род работ: они, может, и мечтали работать в офисе за компьютером, но так и прошли мимо. Для них нашлись другие работы.
И ещё одно, чего в разговорах об ИИ и детях почти не замечают. Каждое поколение считает тот способ, которым оно само выросло и училось, правильным, а то, как учатся дети и во что они превращаются, — деградацией. Это типовая реакция, ей тысячи лет: раньше трава была зеленее, молодёжь не та, почерк не тот, считать не умеют, книг не читают. Так говорили про калькулятор, про телевизор, про интернет, и говорят про ИИ. Мерка при этом одна — то, что умел я в их возрасте. А это мерка прошлого мира: вчерашний состав навыка принят за вечный. Генералы готовятся к прошлой войне, и родители с учителями готовят детей к миру, в котором выросли сами, — а дети будут жить в другом. Что в их навыке будет необходимо, решит не наше детство, а дело, в которое они войдут, — и оно ещё не известно.
Самая частая претензия — «они не научатся думать». Но то, что мы делали без ИИ, — с чего мы решили, что это и есть думать? Что это было эффективно? Единственное основание — что мы к этому привыкли и выжили с этими навыками. Никто не проверял, что наш способ — эталон мышления; никто вообще не задавался вопросом, что такое мышление, кроме как «то, как жили мы». Это не знание, это претензия: что мои знания и мой опыт, то, как учился я, — шаблон. И её трудно поставить под сомнение изнутри, потому что работает простой эффект близости: то, что рядом, кажется крупнее. Появился ИИ — «такого никогда не было». Было, шесть раз. Да, дети сдают экзамены, которые вы считаете важными, хуже вас. А вопрос, что они делают лучше вас, — закрыт: на него нет ответа, потому что его не мерили. И никто не гарантирует, что все эти умные люди, апостолы ума, через двадцать лет не окажутся стариками, которые ни в чём не разбираются и которым сочувствует молодёжь, — как мы смотрели на бабушку, еле-еле освоившую компьютер, и считали это достижением.
Поэтому упрёк «они зависят от ИИ» ещё ничего не решает. Надо назвать, что приобретается вместе с этой зависимостью и без каких условий приобретённая способность перестанет работать. Можно отказаться от инструмента и сохранить больше личной самостоятельности. Можно освоить его и получить возможности, которых прежде не было. Сравнивать эти варианты надо по делам, которые человек сможет выполнять, по надёжности результата и по условиям, которые придётся поддерживать. Сам факт зависимости не даёт готового приговора.
Всё решает вмещающий контекст — то, что от человека потребует дело, в которое он входит. Где-то необходим самостоятельный ответ при отказе оборудования. Где-то — работа вместе с ним, которую без него вообще не выполнить. Где-то — способность восстановить условия работы для всех остальных. Поэтому нельзя свести будущее обучения к возвращению старых навыков после очередного провала. Надо ещё замечать новые умения и разбираться, без чего они не возникают. Порог меняется в обе стороны: что-то перестаёт быть обязательным, а что-то впервые становится необходимым.
Что это даёт читателю
Из этого следуют три практических различения для своего дела — и для обучения.
Что требуется от человека, а что обеспечивает инфраструктура? Надо назвать конкретный результат и условия его получения. Если при отказе инструмента человек обязан продолжать работу сам, соответствующее умение необходимо сохранить. Если продолжение обеспечивает резервная система или другой специалист, проверять нужно и эту связь. Пилотов не проверяли в ручном полёте годами — и узнали об этом над Атлантикой. Личная самостоятельность — один из способов обеспечить результат, но не единственный.
Что необходимо самому освоить, чтобы новое умение возникло? Готовый результат ещё не показывает, чему научился человек. Но и отказ от инструмента сам по себе этого не показывает. Важно проверить, способен ли ученик воспроизвести нужную работу в предусмотренных условиях, понять существенное в результате и справиться с теми изменениями задачи, ради которых его обучали. Эндрю Ын через полгода снова спрашивает у модели то же самое — значит, объяснение прошло мимо него, хотя задача была сделана.
Какую возможность даёт новая зависимость и какую самостоятельность стоит сохранить? Специализация может дать человеку силу, недоступную при работе в одиночку. За неё приходится платить зависимостью от условий, которые он не обеспечивает сам. Выпускник, который с ИИ делает работу отдела, и выпускник, который без него не делает ничего, — один и тот же человек в двух разных днях. Поэтому надо понимать обе стороны выбора: чему мы перестаём учить, что теперь передаём и без чего это новое умение не сможет существовать.
Читайте также: Плутон: от описаний к вопросам — как два вопроса Плутона переводят привычные значения планеты; Плутон в Овне: без чего не начать — те же два вопроса для первого шага.; Плутон в Водолее: правила для какого будущего? — те же два вопроса для общих правил. Основная статья — Плутон: без чего не бывает и что без этого невозможно.
Air France 447 — итоговый отчёт BEA, июль 2012; рекомендация FAA о ручном пилотировании — SAFO 13002, январь 2013. Калькуляторы на SAT — с 1994 года. «The Knowledge» и гиппокамп — Maguire et al., PNAS, 2000. Память о том, где лежит факт, — Sparrow, Liu, Wegner, Science, 2011. Курс информатики по Ершову — с 1985 года. Китайское исследование — Strömberg, Lei, Wu, «The Generative AI Learning Penalty», CEPR DP 21577 / SSRN, 2026. Интервью Мо Гавдата, Эндрю Ына и Эрика Бриньолфссона — подкаст Марины Могилко Silicon Valley Girl, русская озвучка, 2026; цитаты по стенограмме.