Статья · Плутон
Плутон в Водолее: правила для какого будущего?
Для чего нужны общие правила, кто и что нужны, чтобы они действовали, — и кто заинтересован их соблюдать
Павел Медведев · Опубликовано: · Обновлено:
Об искусственном интеллекте говорят люди с очень разными взглядами. Один ждёт процветания, другой — потери контроля, третий уже перестраивает работу своей компании. Но в какой-то момент почти у каждого звучит одно: нужны правила. Государства должны договориться, компании — соблюдать ограничения, кто-то должен за этим следить.
Хочется спросить: какие правила? Чего без них не будет? И что нужно, чтобы правило действовало, а не висело пожеланием в адрес будущего?
Водолей — одна звезда для многих: правило в пространстве, где ты не один. Плутон спрашивает, без чего этого не бывает. Вместе они дают два вопроса, и это те же две стороны, что нашлись в Тельце и в Овне: для чего правило необходимо — и кто и что необходимы самому правилу. Первый вопрос — что без правила останется невозможным. Второй — без чего правило останется словами.
Кто заинтересован в соблюдении — и достаточно ли этого
Плутоновское правило отличается от таблички «по газонам не ходить». Табличку можно не заметить, пройти по газону и дойти куда шёл: нарушил — и получил своё. Плутоновское правило так нарушить нельзя: не потому, что это физически невозможно, а потому, что без него не бывает результата, ради которого оно. И ещё одно, о чём подробно в статье «Могут — значит, могут»: люди делают то, что могут; обещания и приличия держат не всегда, надёжно держит то, что не даёт сделать иначе.
Для Водолея отсюда следует различение, без которого разговор о правилах для ИИ путается. Правило одно, а держаться оно может по-разному. Для его действия важно учитывать три вещи: интересы участников, последствия нарушения и возможность ошибки даже при намерении соблюдать договорённость.
Иногда участник сам заинтересован соблюдать: без согласованного формата сообщений он не получит нужного обмена. Нарушивший остаётся без результата сам. Но общей заинтересованности недостаточно без работающей реализации: двое могут хотеть обмена и по-разному понять формат или неверно его воплотить; нужны согласованное описание, работающие реализации, проверка совместимости.
Иногда нарушение даёт участнику преимущество за чужой счёт: соглашение не строить опасную систему, не подделывать лица. Здесь заинтересованность в соблюдении у нарушителя обратная, и правило действует ровно настолько, насколько его держат все, кто способен нарушить, — или насколько им не дают: согласием, ограничением доступа, технической защитой. Если один способный может сорвать результат для всех, его нельзя оставить без внимания; но «оставить без внимания» и «добиться согласия» — не одно и то же. И правило, которое уменьшает число нарушений, не исключая их, — всё ещё правило, а не табличка.
Бывает и третье: все хотят соблюдать, но ошибаются или не располагают средствами. Агент случайно передал личные сведения постороннему — никто не выиграл, а ущерб достался владельцу данных. Проверяющий механизм нужен не только против желающего нарушить, но и против ошибки при общем намерении соблюдать.
Эти различия отвечают на второй вопрос — что и кто необходимы правилу — по-разному. В одном случае нужны согласованная реализация и проверка совместимости; в другом — защита от намеренного нарушения и способ проверить, держат ли остальные; в третьем — обнаружение и предотвращение ошибок. В живой системе они сочетаются. Почти всё, что говорят о регулировании ИИ, — о втором случае, и потому в восьми интервью Марины Могилко материал распределён неравномерно: это само по себе показательно.
Кто необходим: все, кто может сам
Роману Ямпольскому Марина задаёт практический вопрос: что должно случиться, чтобы глава крупной компании остановил опасную разработку? Ответ неприятен простотой: одного главы недостаточно — «они в принципе заменимы», «достаточно купить ещё больше каких-то процессоров». Личное решение не порог: рядом всегда есть тот, кто может. Ямпольский предлагает соглашение «на уровне Америка — Китай как минимум» с участием основных компаний — и это первый ответ на вопрос «кто»: все, кто способен создать это сам.
Йошуа Бенжио добавляет, почему граница одной страны здесь не работает: ИИ «могут построить в одной стране», использовать из второй, а последствия — «пандемия от этого ИИ может убить людей в третьей стране». Правило, действующее в одной стране, ограничивает только тех, кто в ней; способные нарушить остаются снаружи. «Без какой-либо глобальной координации у нас точно не получится».
И тут важный вклад вносит сама Марина, одним вопросом: допустим, государство решило регулировать, — но если никто не видит, что происходит внутри компании, как узнать, чего она достигла, и расскажет ли она сама? Ямпольский отвечает, что тестирование «занимает около шести месяцев и не находит всё», а модель «может притворяться, что она тупее, чем она есть». Это третье условие: без проверки участники не могут удостовериться, что остальные выполняют соглашение; а если их готовность соблюдать его зависит от такой уверенности, нужен способ проверки. Соглашение, опирающееся на обнаружение возможностей, действует не с подписи, а с того момента, когда обнаруживать можно.
Так из двух интервью и одного вопроса Марины собирается ответ на «кто и что необходимы правилу»: все, кто способен создать сам; охват шире любой страны; и способ проверить, соблюдается ли оно. Как обеспечено каждое из трёх, собеседники не показали, — и это сказано честно.
Что заставит держать: цена остаться
Мо Гавдат описывает гонку, в которой нельзя отказаться от новой возможности, потому что ею воспользуется конкурент: «либо вы внедряете ИИ, либо закрываетесь». Соглашения, по его мнению, появятся, когда станет понятно, что этот путь «смертельно опасен для всех, в нём не бывает победителей», — как с ядерным оружием, «нам придётся дойти до края, чтобы человечество проснулось».
Гэри Вайнерчук называет другую силу: реакцию тех, кто не выиграл. «Если все деньги мира будут забирать себе условные 79 компаний, государство будет вынуждено вмешаться»; «неужели восемь миллиардов человек пожмут плечами?»
Это ответ не на «кто», а на «почему станут держать», и в статье «Могут — значит, могут» он уже описан: порог появляется, когда цена остаться в прежнем положении превысила цену выйти. У Гавдата эту цену платят участники гонки, у Вайнерчука — все остальные. Оба говорят о толчке, а не о конструкции: что заставит договориться — названо, что именно будет в договоре — нет.
Чем держится правило, когда оно уже есть
Эндрю Ын обсуждает ситуацию ближе: передачу личных данных компании. Своё доверие некоторым поставщикам он объясняет их культурой и долгосрочным интересом — нарушить обещание конфиденциальности значило бы повредить бизнесу, — и к компаниям с другой бизнес-моделью относится осторожнее. Правило записано в условиях обслуживания, а держится тем, как устроена компания: культурой, которая делает нарушение непринятым, и интересом, который делает его дорогим. Это два разных способа держать, и Ын называет оба; ни один не делает нарушение невозможным, но оба — маловероятным для тех, у кого они есть. О дипфейках без согласия Ын говорит иначе — «запретить и жёстко наказывать», — и здесь названа граница, но не сказано, кто и как её увидит и применит; запрет называет границу; обеспечить её — отдельная работа.
Эрик Бриньолфссон напоминает о глобализации: экономисты, включая его самого, обещали, что общий выигрыш позволит помочь проигравшим; выигрыш состоялся, помощь — нет, и «откат мы уже видим», «пошлины самые высокие почти за век». Для Водолея это существенно: польза от общего устройства не держит его сама. Держат те, кто в нём живёт, и только пока им есть основания его держать. О начинающих специалистах он говорит то же: отдельной компании выгодно их не нанимать, обществу нужны будущие опытные, — и называет это проблемой координации, предлагая государственные вложения в подготовку. Здесь есть и следующая возможность, и участник, но правила ещё нет: кто, сколько и на каких условиях — интервью не устанавливает.
Соттио: связка, которой не хватало
На этом можно было бы заключить, что все только тревожатся. Но в подборке есть эпизод, где оба вопроса сходятся в одном решении.
Марина описывает, чего хочет: утром за кофе просматривать, что агент сделал за ночь, одобрять и отпускать работать дальше. Тибо Соттио, отвечающий в OpenAI за ChatGPT и Codex, рассказывает, как это обеспечено: «один агент выполняет работу, и второй агент проверяет каждый его шаг» — на опасные действия, на передачу личных данных посторонним. И прямо связывает эту проверку с тем, что агенту можно доверить более длительную работу с личными данными.
Вот связка. Для чего ограничение? Чтобы можно было поручить агенту работу и не сидеть рядом. Что держит ограничение? Проверка каждого шага другим агентом. Правило — «не передавать личные сведения посторонним» — восстанавливается из примера; собеседник описывает механизм и результат, не полную систему полномочий. Проверяющий агент тоже может ошибаться; с какой надёжностью он работает, что может остановить и что происходит при его отказе — в интервью нет. И держать порог может не обязательно второй агент — важна функция, а не средство.
Но устройство мысли здесь правильное, и на частном примере оно видно лучше, чем на всемирном. Увидели желаемую возможность — нашли ограничение, без которого её не дадут, — предложили, чем его держать. И в обратную сторону: появился способ проверять действия — стало можно расширять, что поручают. Ограничение и возможность идут вместе, и потому это можно обсуждать предметно: проверять механизм, находить его границы, улучшать.
Что без общего правила не получится
Разовьём пример дальше. Пока помощник составляет письмо, человек читает и отправляет сам. Следующая возможность — поручить действия: согласовать встречу, заказать услугу, отправить документы, распорядиться суммой в оговорённых пределах.
Для этого нужно различать порученное и непорученное. То, что программа технически способна на действие, не значит, что человек её на это уполномочил. Если каждый получатель вынужден заново выяснять полномочия у владельца, обещанная самостоятельность исчезает. Значит, нужно общее правило о полномочиях — для того, чтобы действия помощника от имени человека признавались в согласованных пределах. А чтобы оно держалось, участникам нужны способы установить, кто выдал полномочия, что разрешил, действует ли разрешение и учтён ли отзыв.
Здесь появляются те, без кого правило не правило: владелец помощника, его поставщик, получатель поручения, оператор сервиса, через который совершается действие. Если разрешение проверяет только помощник, а принимающая сторона убедиться в нём не может, — признания нет, есть слово помощника. Вопросы содержания тоже конкретны: покрывает ли разрешение передачу данных, можно ли передать задачу другому агенту, кто разбирает спорное действие и по каким сведениям. Ответы зависят от того, что мы хотим поручать, — и это первый вопрос, который задаёт второму его содержание.
Одна звезда не требует одинаковых людей
Участникам не нужно договариваться обо всём. Нужно согласовать то, без чего не получится нужное им совместное действие. В интернете это видно на общей адресации: согласованные имена позволяют независимым участникам находить друг друга. Между агентами ту же работу делают протоколы взаимодействия — например, A2A задаёт, как системы разных разработчиков обнаруживают возможности друг друга, передают задачи и обмениваются результатами. Их назначение узкое — совместимость. Желание получить совместимый обмен создаёт собственный стимул соблюдать формат; но согласование и проверку реализаций всё равно необходимо обеспечить. Средство можно заменить, если новое обеспечивает ту же работу.
Отсюда и ответ на «договориться должны все». Не все, и зависит от того, что должно стать возможным и чем грозит нарушение. Для совместимого обмена — участники обмена. Для предотвращения опасности, которую можно создать в одиночку, — каждый, кто способен создать её в одиночку, согласием или ограничением, и без проверки не обойтись. Охват определяется тем, что должно стать возможным, — первый вопрос снова задаёт второму его меру.
Что показали два вопроса
Бенжио обозначил масштаб — шире страны. Ямпольский назвал, кто необходим, — все, кто может сам, — и общий интерес: никто не хочет создавать себе замену. Марина спросила о проверяемости. Гавдат и Вайнерчук назвали цену, которая заставит держать. Ын — чем держится уже существующее правило и где запрет ещё не порог. Бриньолфссон — что общая польза не держит устройство сама, держат те, кому в нём есть место. Соттио — как ограничение и возможность идут вместе.
Сложить это в список и объявить правила разработанными нельзя: речь о разных действиях, рисках и участниках. Но видно, где разговор о регулировании ИИ обычно ломается. Необходимость правил заявляют раньше, чем сказано, чего без них не будет, — и потому отдельно от вопроса, что и кто нужны, чтобы они действовали. Первый вопрос без второго даёт пожелание; второй без первого — надзор без цели. И почти никогда не различены интересы участников, последствия нарушения и возможность ошибки: правило, в соблюдении которого заинтересован каждый, и правило, нарушив которое выигрывают за чужой счёт, обсуждают одними словами.
Плутон в Водолее — умение выяснять, для чего правило необходимо и что и кто необходимы, чтобы оно действовало. Услышав «нам нужны правила», спросить: чего без них не будет? Услышав ответ, продолжить: что и кто необходимы, чтобы оно действовало? Что уже обеспечивает его соблюдение, а чего ещё не хватает? У Соттио оба вопроса встречаются: проверка действий позволяет поручать агенту более длительную самостоятельную работу. Здесь уже можно обсуждать конкретное устройство — что оно обеспечивает и чего ему ещё недостаёт. Тогда правило перестаёт быть пожеланием в адрес будущего и становится условием, на котором это будущее можно строить.
Продолжение — Плутон на оси Лев — Водолей: правила, которые задают роли.
Основа разбора — восемь интервью Марины Могилко в подкасте Silicon Valley Girl (русская озвучка, 2026): Мо Гавдат, Роман Ямпольский, Йошуа Бенжио, Тибо Соттио, Эндрю Ын, Гэри Вайнерчук, Эрик Бриньолфссон; Джон Мартинис о правилах говорит лишь попутно и здесь не разбирается. Цитаты по стенограмме; оценка их места в двух вопросах и пример с полномочиями помощника — автора. Технические примеры: координация адресации в интернете (ICANN); спецификация протокола Agent2Agent (A2A).