Статья · Плутон
Плутон на оси Лев — Водолей: правила, которые задают роли
Какие роли обеспечивают действие правил и какие роли задаются правилами — на примере ИИ-представителя
Павел Медведев · Опубликовано:
Утром человек открывает отчёт своего помощника. Пока он спал, тот нашёл подходящие вакансии, уточнил условия у работодателей и предложил время для собеседований. Несколько вариантов отбросил: не подходили обязанности или график. По одному вопросу остановился и ждёт решения человека: не хватило полномочий.
Такую возможность легко представить. Гораздо труднее понять, что должно быть устроено вокруг неё. Кто подтвердит, что помощник действительно представляет этого человека? Какие сведения ему разрешено сообщать? Может ли он согласиться на предложенные условия? Как остановить его, если поручение изменилось?
Это и есть содержательный разговор о регулировании ИИ — не «нужны правила», а какие правила и для какой возможности.
Два вопроса к правилу
В статье «Плутон в Водолее: правила для какого будущего?» разговоры об ИИ разбирались двумя вопросами Плутона. Без чего правило не действует? Что невозможно без него?
Лучше всего оба вопроса сошлись в эпизоде с Тибо Соттио из OpenAI: один агент выполняет работу, второй проверяет каждый его шаг, и поэтому агенту можно доверить более длительную работу с личными данными. Там был назван механизм. Теперь видно, какую роль он выполняет: проверяющий. В описанной схеме ему поручено следить за соблюдением ограничения. Необходима сама проверка; что выполнять её обязательно должен второй ИИ-агент, из этого ещё не следует. Это ответ на первый вопрос.
Ответ на второй — тоже роль, только другая: представитель человека. Правила поручения задают роль представителя: от чьего имени он действует, что вправе решать и где должен остановиться. Остальные участники получают способ проверить, с кем имеют дело.
Одни роли обеспечивают действие правил. Правила задают другие роли.
Чтобы понять, действует ли правило, нужно выяснить, кто и что делает для его соблюдения. Участники могут соблюдать его сами, проверка может быть встроена в программу, а разбор спорных случаев — поручен отдельному человеку. Чтобы понять роль, нужно выяснить, какие действия, полномочия и обязательства с ней связаны.
Само наличие запрета этого не объясняет. Табличку «по газонам не ходить» можно нарушить и добраться до места. Но добраться до места — цель прохожего; сохранить газон — возможная цель правила. Это разные результаты. Плутоновский вопрос здесь тот же: для какого результата необходимо ограничение, можно ли получить его иначе и что обеспечивает соблюдение?
Лев: что значит участвовать в определённой роли
В примере со Львом на главной Плутона Марина становится дирижёром не просто потому, что поднимает руку. Ансамбль принял порядок, в котором её жест направляет исполнение. Участники знают, на что и как отвечать.
С представителем возникает сходный вопрос. Человек поручает помощнику действовать от своего имени. Чтобы другие участники могли взаимодействовать с ним в этом качестве, им нужен способ проверить поручение, понять его границы и определить, какие действия помощника считаются действиями представляемого человека.
Работодатель может убедиться в полномочиях помощника и отказаться обсуждать вакансию. Представительство от этого не исчезает. Признать полномочия, вступить в переговоры и согласиться на предложение — разные действия. Правила должны позволять их различать.
Вот как это могло бы выглядеть — это сценарий, а не описание готовой системы. Соискатель поручает помощнику искать вакансии. Разрешает сообщать подтверждённые сведения об образовании и опыте. Запрещает раскрывать некоторые данные и обращаться в определённые компании. Помощник вправе согласовать собеседование, но решение о работе человек оставляет себе. Со стороны работодателя действует другой помощник: ему известны требования к вакансии и условия, которые он вправе предложить. Помощники разговаривают, выясняют, подходят ли друг другу, и готовят следующий шаг. Люди подключаются там, где нужны.
Чтобы это было представительством, надо различать три вещи: кого представляет участник, откуда взялись его сведения и что ему поручено. Университет может подтвердить диплом, но не разрешение принять предложение о работе. Тот, кто удостоверил личность, знает, с кем связан помощник, но не отвечает за каждую строку резюме. Сам человек может разрешить показать документ одному работодателю и не разрешить — другому.
Меняется и участие самого человека. Ему не нужно вести каждый предварительный разговор. Он задаёт поручение, проводит границы, рассматривает существенные предложения и может вмешаться.
Кто держит представительство
Записанные условия сами ничего не проверят. Пройдём по той же сцене.
Помощник сообщает работодателю, что у соискателя есть диплом инженера. Кто-то должен этот диплом подтвердить — университет или тот, кому он это поручил. Помощник назначает собеседование на четверг. Кто-то должен проверить, что назначать собеседования ему разрешено, а принимать предложение — нет. Работодатель просит скан паспорта. Кто-то должен не дать отправить его компании, которой человек паспорт показывать не разрешал. Человек передумал искать работу. Кто-то должен сделать так, чтобы помощник об этом узнал и остановился, а работодатели перестали считать его представителем.
Здесь нужны разные проверки. Их может выполнять одна система или несколько участников. Но подтверждение диплома не заменяет проверку полномочий, а проверка полномочий — ограничение передачи данных. Каждая функция должна быть обеспечена, даже если исполнитель у них общий.
В этой цепочке есть и компания, которая предоставляет сам ИИ-сервис: хранит данные, запускает программы. У неё свой участок и свои обязательства. Её собственный агент может следить за техническими ограничениями сервиса, но это не заменяет того, кто представляет интересы пользователя.
Выполнять эти функции можно разными средствами. Для Плутона важно, без какой работы представительство не получится. Что её должен делать отдельный агент или конкретный поставщик, из этого ещё не следует.
Разобраться после действия
Самостоятельному исполнителю нужна обратная связь. Если что-то пошло не так, должно быть видно, что произошло: какое поручение действовало, что было разрешено, какие сведения предъявлены, кто одобрил и что сделано на самом деле. Запись разговора этого может не содержать, поэтому нужны журналы, которые нельзя тихо подправить. И при этом для разбора не всегда нужно раскрывать всю переписку.
Разбор может найти нарушение известного правила. А может показать другое: каждый выполнил свою инструкцию, но нужной проверки не случилось, потому что её никому не поручили. Тогда меняют само устройство — полномочия, правила или состав ролей. Поручать больше можно тогда, когда есть способ проверить исполнение и исправить устройство после сбоя.
Так уже было
Представитель на ИИ — новое, но связка правила и роли старая. В каждом из примеров ниже есть оба ответа.
Вклад незнакомца. Разработчик находит ошибку в чужой программе и предлагает исправление. В открытых проектах для этого есть порядок: изменение предлагают отдельно от его принятия, а принимают те, кто сопровождает проект. Без чего порядок не действует: без того, кто рассматривает и принимает изменения. Что невозможно без него: внести вклад в чужой продукт, не нанимаясь на работу и не получая права единолично его менять.
Деньги, которые спишут, только если соберут все. На краудфандинговых площадках вроде Kickstarter деньги списываются, только если проект собрал нужную сумму в срок. Без чего правило не действует: без площадки и платёжной системы, которые учитывают обещания и выполняют условие. Что невозможно без него: условный коллективный взнос. Финансировать книгу или игру можно и иначе, но «заплачу, только если хватит всем» без этого правила не существует.
Проверяющий, которого пригласили. Организация приглашает независимых исследователей искать уязвимости в её системах и объявляет, что можно проверять, как сообщать о находках и что она обязуется делать в ответ. Умение найти уязвимость было и раньше. Правила программы задают роль приглашённого исследователя: какие проверки ему разрешены и какие обязательства организация принимает перед ним. Без чего программа не действует: без организации разрешённого доступа и работы с сообщениями о находках. Что невозможно без согласованных условий: участвовать в такой программе с понятными границами проверки и обязательствами сторон. Отсутствие приглашения само по себе ещё ничего не говорит о характере действий человека.
Связь в чужой сети. Человек приезжает в другую страну и пользуется своей мобильной подпиской через сеть другого оператора. Домашний оператор подтверждает право абонента на обслуживание, принимающий предоставляет связь по согласованному порядку. Без чего такой роуминг не работает: без согласования обслуживания и расчётов, а также проверки права доступа. Что невозможно без этого: пользоваться своей подпиской в сети другого оператора на согласованных условиях. Купить местную подписку можно и иначе — но это уже другая возможность. Правила роуминга связывают роли двух операторов, благодаря чему абонент получает обслуживание за пределами домашней сети.
Что даёт ось Лев — Водолей
Предметом остаётся правило. Мы задаём к нему два вопроса, и оба приводят к ролям — так Водолей связывается со Львом.
Без чего правило не действует? Ищем необходимую работу и тех, кто её выполняет: проверку полномочий, исполнение ограничения, отзыв доступа, разбор нарушения.
Что невозможно без правила? Ищем участие, которое без него не получится: представитель не предъявит проверяемое поручение, незнакомец не внесёт вклад по общему порядку, множество людей не сделают условный взнос.
Водолей даёт общее условие, на которое могут опереться все. Лев — участие в определённой роли: какие действия человек или система вправе совершать и как с ними взаимодействуют остальные. Проверяется это просто: недостаточно назвать рядом правило и роль, нужно показать, что перестанет работать без нужной функции. Если тот же результат достигается иначе, мы нашли заменяемое средство. Если без функции исчезает сама возможность, мы нашли необходимое.
Поэтому разговор о регулировании ИИ стоит начинать не с «нужны правила», а с вопроса: какие новые роли мы хотим открыть людям? И затем — кто и что нужны, чтобы этим ролям можно было поручать работу.
Правила задают роли. Роли обеспечивают действие правил. Благодаря этому участники знают, в каком качестве входят в общее дело, что могут поручить друг другу и кто за что отвечает.
Основная статья — Плутон: без чего не бывает и что без этого невозможно.
Источники примеров: документация GitHub о предложении и принятии изменений; правила финансирования Kickstarter; условия добросовестного исследования безопасности HackerOne; описание роуминга GSMA; модель проверяемых удостоверений W3C (роли издателя, держателя и проверяющего). Связь примеров с осью Лев — Водолей и сценарий взаимодействия ИИ-представителей — рассуждение автора.