012

Экономика намерений

Экономика приложений боролась за ваше внимание. Следующая будет бороться за нечто более ценное: разрешение действовать от вашего имени.

№ 012Август 20268 мин чтенияPedrum Shokouhi

Sunset Telephone Company

Сиэтл, около 1905

Алмон Строуджер

Канзас-Сити · патент 1891

Около 1905 года, в операторском зале телефонной станции в Сиэтле, ряды молодых женщин сидели перед стенами мигающих гнёзд и шнуров и выполняли работу, исчезнувшую так бесследно, что мы забываем, что она вообще была: они были интерфейсом. В 1905 году номер не набирали; вы снимали трубку, и человеческий голос говорил: «Номер, пожалуйста», и этот голос кое-что знал. Телефонистка знала, кому вы звоните и как часто. Она знала, что линия врача занята, но сам он на самом деле в аптеке по соседству. В маленьких городках она знала, кто с кем в ссоре, и могла, при желании, соединить вас чуть медленнее или упомянуть следующему абоненту, что вы показались взволнованным. Телефонная компания прекрасно понимала, что этот человеческий слой был одновременно её главным достоянием и главным риском; понимал это и, если верить одной из основополагающих легенд отрасли, гробовщик из Канзас-Сити Алмон Строуджер, убедившийся в конце 1880-х, что местная телефонистка (по слухам, жена конкурента-гробовщика) переключает звонки, предназначенные его похоронному бюро, на бюро мужа. Местью Строуджера стала автоматическая телефонная станция, запатентованная в 1891 году и продвигавшаяся под незабываемым слоганом «телефон без барышень и без ругани». Гудок, заменивший телефонистку, был не просто удобством. Он был обещанием нейтральности: между вами и тем, до кого вы пытаетесь дозвониться, нет никакого разума, нет посредника, знающего ваши дела и имеющего собственные интересы. На то, чтобы выполнить это обещание целиком, ушла большая часть столетия. Чтобы начать брать его назад, хватило примерно двух лет, потому что ИИ-агент, которого сейчас встраивают между каждым человеком и цифровым миром, – это возвращение телефонистки с коммутатора. Только эта помнит всё, служит компании стоимостью в триллион долларов и вот-вот возьмёт в свои руки не только ваши звонки, но и покупки, планы, информацию и выбор.

От пунктов назначения к посредникам

Чтобы увидеть, что надвигается, представьте, что через пять лет вы берёте телефон и не находите на нём сетки приложений: ни значка банка, ни папки с путешествиями, ни россыпи служб доставки, ни соцсети, требующей, чтобы её открыли. Вместо них есть интеллектуальная система, которая знает, какие сервисы существуют, и при необходимости управляет ими. Вы говорите ей, что хотите поехать в Париж в октябре; что предпочитаете ночной рейс; что встречу в четверг нужно перенести; что вы скорее поселились бы в тихом районе, чем рядом с достопримечательностями. Агент читает ваш календарь, сравнивает рейсы, взвешивает отели, проверяет поезд из аэропорта, замечает ресторан, который вам, скорее всего, понравится, и возвращается за вашим одобрением, прежде чем что-либо забронировать. Ни на одном шаге вы осознанно не выбирали компанию. Вы выразили намерение, и цифровой мир перестроился вокруг него. Таково будущее, заложенное в переходе от приложений к агентам, и оно переворачивает базовую геометрию экономики. Экономика приложений строилась вокруг пунктов назначения: компания боролась за место своего значка на вашем первом экране, потому что открыть этот значок означало войти на её территорию, где она распоряжалась полками, задавала рамки выбора и старалась превратить ваш визит в привычку. Экономика намерений будет выстроена вокруг посредников. Авиакомпания по-прежнему выполняет рейсы, а банк по-прежнему хранит деньги, но если вы больше не заходите в их интерфейсы, они разжалованы из пунктов назначения в поставщиков: взаимозаменяемых торговцев, что стоят на складе за единственным прилавком в надежде, что продавец назовёт их имя.

Геометрия переворачивается

Экономика приложений: вы управляете каждым сервисом сами. Экономика намерений: один агент управляет ими за вас.

Прежде чем перейти к предостережениям, признаюсь в пристрастности: я хочу этого будущего. Хочу с нетерпением, которое порой смущает критика во мне. Я устал от форм, паролей, музыки ожидания на линии, от семнадцати мелких административных интерфейсов между любым намерением и его исполнением, и в тот день, когда агент заработает, я с облегчением отдам ему свой календарь. Дальше – мелкий шрифт, который я хочу услышать вслух перед подписью; написал его человек, твёрдо намеренный подписать.

Поэтому самая ценная позиция в этой экономике достанется тому, кто интерпретирует человеческие намерения. Если одна система станет местом, откуда несколько миллиардов людей начинают свои решения, у неё будет больше влияния на то, что обнаруживают, рассматривают и покупают, чем у любого института в истории торговли: больше, чем когда-либо имели великие универмаги над ассортиментом, телекомпании над вечерними умонастроениями и чем сегодня имеет поисковик над видимой частью интернета. Уменьшенную версию мы уже видели. Поисковики упорядочили сеть, ранжируя страницы, и целые отрасли научились жить и умирать в зависимости от места на одном экране выдачи. Соцсети упорядочили культуру, ранжируя посты, и издатели, музыканты и политики перекроили всё, что выпускают, чтобы угодить ленте. ИИ-агенты могут упорядочить нечто большее: не то, что вы видите, а то, что делается – какую авиакомпанию забронируют, чью страховку вам предложат, какая статья попадёт в утреннюю сводку, а какая тихо не попадёт. Точек входа в цифровой мир не остаётся много. Каждый слой современного стека, начинавшийся как открытое поле, в итоге свёлся к одному-двум узким местам, под контролем которых почти вся территория.

Точки входа концентрируются

Доля крупнейших игроков в каждой цифровой точке входа (в мире, приблизительно)

Что на кону в борьбе за стек

Именно в таком свете стоит читать шумный спор об открытых и закрытых моделях ИИ: его обычно подают как технический спор о производительности, безопасности и лицензировании ПО, но по сути это спор о том, кому будет принадлежать инфраструктура, через которую общество мыслит и действует. У закрытых систем есть настоящие достоинства (целостность, надёжность, ясно, с кого спросить), но они требуют от пользователей бессрочного доверия на слово к ценностям, коммерческим интересам и невидимым рейтингам своих владельцев. Открытые системы допускают проверку, эксперименты и локальный контроль, но одной открытости для подотчётности недостаточно: модель с опубликованными весами можно развернуть за интерфейсом, который ничего не раскрывает. Политический вопрос, который переживёт любые бенчмарки, – в том, сохранят ли люди и институты реальные альтернативы (остаётся ли возможным переход, остаются ли открытыми выходы) или удобство постепенно сосредоточит власть внутри горстки планетарных систем, как это было с каждым предыдущим слоем стека. Моя позиция: настоящий разлом проходит между «есть выход» и «выхода нет», а не между открытым и закрытым; закрытого, отполированного агента я приму в тот день, когда смогу уйти от него, не потеряв свою историю, и ни днём раньше. Общую закономерность мы уже видели, и не только в софте. Фабрики девятнадцатого века централизовали производство, потому что промышленные машины требовали капитала, который не мог собрать ни один ремесленник. Газеты и вещатели централизовали внимание, потому что печатные станки и передатчики стоили дорого. Цифровые платформы централизовали общественную жизнь за счёт сетевых эффектов, которые делали уход тем дороже, чем больше людей уже присоединилось. Каждая система начинала с того, что давала доступ. Каждая заканчивала тем, что диктовала условия. ИИ-агенты могут продолжить этот ряд ещё на шаг, централизуя не производство, не информацию и не общение, а сырой исходный ресурс, из которого проистекает всё перечисленное: само намерение. А ставки растут ещё выше по мере того, как интеллект покидает экран, ведь те же модели уже встраивают в автомобили, роботов и здания: мир, где ИИ больше не пункт назначения, куда вы заходите, а среда, в которой вы движетесь, где магазин читает вас так же, как вы читаете его полки, а и без того размытая граница между онлайном и офлайном окончательно растворяется.

Что централизовала каждая система

Ряд, который прослеживает этот абзац, шаг за шагом

СистемаЧто централизовали

Фабрики девятнадцатого века

производство

Газеты и вещатели

внимание

Цифровые платформы

общественную жизнь

ИИ-агенты

само намерение

Это будущее может оказаться и человечным. Хорошо спроектированный агент мог бы растворить бюрократический хлам, пожирающий целые дни современной жизни: формы, музыку ожидания, возмещение расходов в семнадцать шагов. Он мог бы дать бизнесу из двух человек операционный размах корпорации, помочь пациенту по-настоящему понять диагноз, провести студента, первым в семье поступающего в университет, через процедуру поступления, придуманную своими для своих, и позволить восьмидесятилетнему человеку пользоваться системами, которые сегодня наказывают каждого, кто не вырос внутри них. Более глубокое обещание ИИ в том, что он мог бы отменить штраф, который цивилизация накладывает на людей за то, что они заранее не разобрались в её системах, штраф, всегда больнее всего бивший по бедным, старым, больным и новичкам. Телефонистка, не забывайте, тоже была сервисом: она нашла врача в аптеке. Вопрос никогда не состоял в том, может ли посредник помочь. Вопрос в том, что посредник знает, на кого работает и что делает со своим знанием.

Алмон Строуджер

Автоматическая станция, 1891

Вот почему наступающей эпохе нужно различие, которое нам никогда прежде не приходилось проводить так чётко: различие между делегированием и капитуляцией. Делегирование можно отозвать, проверить и ограничить. Вы знаете, когда агент делает значимый выбор, какие интересы его определили и как его оспорить; вы видите, что система помнит о вас, управляете тем, чем она делится, и можете перенести свою историю к конкуренту, как сегодня переносите номер телефона. Капитуляция – это когда ничего из этого не соблюдается, а никто не заметил: согласие свелось к тому, что вы однажды, много лет назад, нажали «принять» на экране, созданном для того, чтобы его закрывали, пока невидимая система копила власть, операция за операцией, каждая из которых была удобной. Экономика приложений научила нас, что удобство никогда не бывает бесплатным: мы платили вниманием, данными и зависимостью, и платили в основном, не читая ценника. Экономика намерений попросит у нас нечто принципиально большее: постоянное разрешение действовать от нашего имени. Это разрешение способно принести огромную пользу. Но это ещё и доверенность, и относиться к ней надо с той серьёзностью, которую подразумевает это слово. ИИ уже умеет исполнять наши намерения. Вопрос следующего десятилетия в том, будем ли мы, делегировав достаточно много, по-прежнему понимать решения, принимаемые от нашего имени, по-прежнему знать, как спросить, что известно телефонистке, и по-прежнему помнить, как помнил Алмон Строуджер: когда интересы посредника и наши расходятся, выход не в том, чтобы перестать звонить. Выход в том, чтобы настаивать на системе, где коммутатор у нас на виду.

---

Заметки

1. Тезис о переходе от приложений к агентам вырос из дискуссий на RAISE Summit (Париж).
2. Автоматическая станция Алмона Строуджера, запатентованная в 1891 году (история с конкурентом-гробовщиком – отраслевая легенда, которая встречается в печати с 1900-х годов).
3. Доли точек входа – приблизительные мировые данные StatCounter и отраслевые оценки рекламной выручки.
4. Историческая рамка централизации опирается на стандартные истории индустриализации и вещания.

P.S.Меня зовут Pedrum Shokouhi. Я одержим тем, как компании создаются, финансируются и управляются. Поэтому я пишу о них, разбираю их стратегию как инвестор и строю собственные. Здесь я делюсь тем, чему учусь.