База незнаний

Добро пожаловать. На пороге 2027-й, и с чем мы к нему подошли? Мы взяли самую мощную информационную машину в истории и употребили её на то, чтобы уничтожить единственное, что делало информацию хоть чего-то стоящей, — договорённость о том, что она значит. База знаний превратилась в базу незнаний.

Как? Да просто. Мы сломали два слова. Компьютер и протокол. Сейчас объясню — и потерпите, первая половина скучная специально.

Что такое компьютер

Компьютер — устройство, которое принимает, хранит, обрабатывает и раздаёт данные. Он исполняет программы. Программы состоят из алгоритмов. Алгоритм — это точная последовательность инструкций, которая что-то делает с данными внутри машины: обрабатывает, меняет, перекладывает. Ключевое слово — точная.

computer (n.) — “one that computes; specifically: a programmable usually electronic device that can store, retrieve, and process data.” — Merriam-Webster
(Тот, кто вычисляет; в частности — программируемое, обычно электронное устройство, способное хранить, извлекать и обрабатывать данные.)

algorithm (n.) — “a specific step-by-step procedure for solving a problem or accomplishing some end.” — Merriam-Webster
(Конкретная пошаговая процедура решения задачи или достижения цели.)

Примерно до 2023-го у нас было именно это. И как владелец финансового стартапа я был абсолютно уверен в одном: эта машина возьмёт мои данные, где бы они ни лежали, и обработает их без изменений, без мнений, без извращений. Просуммировать колонку десять тысяч раз — получить одно и то же число десять тысяч раз. Чего я не могу сказать ни об одном человеке в компании, включая себя. В этом и был весь смысл компьютера. Не в том, что он умный. В том, что он точный.

Что такое протокол

Компьютеры, которые обрабатывают данные алгоритмами, рано или поздно начинают разговаривать друг с другом, и у них неизбежно вырастают протоколы. Протокол — это формальная договорённость о том, как две стороны общаются: что общение происходит, в каком порядке и какими именно словами.

protocol (n.) —
1a. “a system of rules that explain the correct conduct and procedures to be followed in formal situations”
1b. “a set of conventions governing the treatment and especially the formatting of data in an electronic communications system”
3. “an original draft, minute, or record of a document or transaction”
4a. “a preliminary memorandum often formulated and signed by diplomatic negotiators as a basis for a final convention or treaty”
— Merriam-Webster

Посмотрите на порядок. Словарь ставит людей раньше пакетов. 1a — как людям вести себя в формальной ситуации; 1b, тот самый TCP/IP-смысл, идёт вторым. Это не случайность, и в этом весь аргумент раздела.

Потому что слово старое. Греческое prōtokollon — prōtos, «первый», плюс kolla, «клей», — это буквально первый лист, приклеенный к началу свитка: тот, что сообщал, что в свитке лежит. Оттуда — черновик договора, потом официальная запись сделки, потом дипломатический документ, подписанный дружественными державами, потом (к 1896-му, в английском) формула дипломатического этикета, а к 1952-му — просто «общепринятые правила поведения». (Etymonline приводит всю цепочку. Компьютеры там, на момент написания, не упомянуты вообще. И хорошо.)

То есть примерно две тысячи лет протокол не имел отношения к компьютерам. Он имел отношение к людям. Он объяснял человеку, как вести себя в заданной ситуации: кто говорит первым, кто где подписывает, как выглядит запись о договорённости. Компьютерное значение — младенец в этой семье, взятый по аналогии, и семейную черту оно сохранило: протокол объясняет компьютеру, как вести себя в заданной ситуации. Точно. Или никак.

Команды — и книги, в которых они хранились

Разберите любой протокол до основания — останутся команды. Разберите любой компьютерный протокол — останутся команды, которые одна машина шлёт другой, чтобы получить данные. И про эти команды все знают одно: они исполняются буква в букву, иначе протокол не работает. Не бывает «примерно GET». Не бывает «HELO, более или менее».

У людей было то же самое, и называлось оно словарём. Вот эти книжки объясняли человеческим существам, как друг с другом разговаривать. Не понял кого-то — или не понял, как работает штука, — открываешь и выясняешь, что последние несколько сотен лет слово собака означало мохнатое животное на четырёх лапах, с кусалкой, установленной спереди, и махалкой, установленной сзади. У нас была договорённость, что такое собака и как собака должна работать.

Да-да, кто-то уже печатает: «так словари тоже никогда не сходились». Верно. Вебстер, Оксфорд и Ожегов спорят друг с другом сто лет. Но они спорили в печати. В пронумерованном издании, с годом на корешке, говоря одно и то же каждому, кто его открыл. Разногласие было публичным и версионированным. Можно было положить два словаря на стол и ругаться. Запомните эту мысль — на ней держится весь текст.

Есть базовые слова, которые нужно будет понять исходя из наблюдения за миром, но после того, как у тебя есть база в 1000–3000 слов, ты можешь описать практически всё что угодно. Взять, например, собаку… Попробуйте описать её семилетнему. Кому нужна ваша полная латынь — бедный ребёнок вынужден слушать лекцию о слове собака. Но собака — лёгкий случай. В крайнем случае выводишь ребёнка на улицу и показываешь пальцем.

Где точность убивает

Возьмём что-нибудь потруднее. Что-нибудь, от чего зависит жизнь. Органы управления самолётом.

Не знать точного определения каждого органа управления на машине, которой ты управляешь, — смертельно в прямом смысле, и индустрия хоронила людей именно за это, в том числе не так давно — из-за органа управления, определения которого не было ни у кого в кабине. Да, моделей много, и работают они по-разному. Хорошо. Но если ты не знаешь, как триммировать, ты в лучшем случае устроишь всему салону неприятную встряску, а в худшем — американские горки в один конец, до конца их жизни.

Знать точное определение слова важно ровно настолько же, насколько знать точное определение команды в протоколе. Иногда это одно и то же.

Входит 2026-й, LLM и так называемая база знаний

Все знания равны, но некоторые знания равнее других.

Вот фокус. Откройте пару своих LLM — и не рассказывайте мне, что она у вас одна, — и попросите каждую дать точное и полное определение слова set. И посмотрите. Получите дико разные ответы, которые не совпадают ни с чем, даже друг с другом. Понесло — и понесло. (Словари, к слову, воюют за set уже век: оно держало рекорд по количеству значений среди английских слов, пока его не обогнало run. Но воевали они изданиями. С датами. В этом и дело.)

И что в итоге? Разные определения одного слова. А если у нас с вами разные определения set, объясните мне, пожалуйста, как мы будем разговаривать про set. Никак.

Возьмите политику. Все швыряются терминами, называют другую сторону так и сяк, и никто не знает определения слова, которым эту другую сторону унижает. А когда наконец идут выяснять? Словарь не открывает никто. Все достают ассистента — а у каждого крупного ассистента память теперь включена по умолчанию, так что он берёт то, что лежит у вас в профиле, и подкрашивает текст, дописывает текст, подгоняет текст, прежде чем вернуть. Триста миллионов человек — триста миллионов частных определений слов, которыми они друг друга называют. Не публичных. Не версионированных. Не на столе.

Так что никто не знает, что информация означает. Протокола нет. Алгоритма тоже больше нет, потому что нельзя иметь алгоритм в мире, где определение каждой команды меняется вместе с viewport’ом. Обрабатывать гигантские объёмы данных по-прежнему можно — нельзя только сказать, что значит результат. Надёжного источника информации нет, потому что вы взяли систему, которая по конструкции не умеет давать точный результат, и попросили у неё точный результат. А потом удивляетесь.

Нет, я не говорю «остановить»

Я говорю, что ИИ надо запретить навсегда и никогда не использовать? Разумеется, нет; это тупость. Иногда точный результат не нужен. Иногда хочется моделировать на шуме. Иногда шум — ровно тот результат, который вы и хотели увидеть.

Но как ни крути, работа программиста изменилась — и не в ту сторону, в какую думают буткемпы. Она больше не в том, чтобы знать конкретный язык и следовать его путям. Она в том, чтобы пройтись по инфраструктуре и провести черту: вот этой части нужны алгоритмы, высеченные в камне, — так напишите их формально, но так, чтобы потом можно было поменять; а вон той части алгоритм не нужен вовсе, и модель справится с ней лучше. Провести черту — это и есть работа. Всё остальное — набор текста.

Так что добро пожаловать в мир, где вы будете управлять потоками данных. Видимо, так теперь называется программирование. Ладно. Но управляйте ими. Не пускайте модель туда, где модели быть не должно. И сверяйте её выдачу с теми книжками, которые называются словарями.

Мёртвый груз

Ещё одно — и отпущу.

Практически всё, что вы сейчас читаете в сети, сгенерировано. Не спамные задворки — основная масса. Описания товаров, инструкции, новостные выжимки, обзоры, ответ на форуме, который читается чуть слишком гладко. Словарь во вкладке вашего браузера — в одном обновлении продукта от того, чтобы тоже стать сгенерированным. И я уже вижу следующий шаг: сайт, который генерирует содержимое по требованию, в зависимости от того, кто зашёл. Читает ваш профиль, решает, что вам хотелось бы, чтобы слово значило, и подаёт — свежим, уверенным тоном, со ссылкой, которую сгенерировали секундой раньше. Два человека открывают один URL и читают две разные статьи, и ни один никогда об этом не узнает. Это грядёт. Не волнуйтесь. Или волнуйтесь, вообще-то, — потому что не на что будет показать пальцем, когда вы начнёте спорить о том, что оба прочитали.

Поэтому моё главное сокровище теперь — бумажные книги, и их у меня много. Книгу, напечатанную в 1975-м, нельзя перегенерировать за ночь. Она не знает, кто её читает. Она не проверяет мой профиль, прежде чем сказать, что значит слово. Она говорит одно и то же мне, вам и семилетнему — ровно то свойство, которое мы только что потеряли везде.

Я даже урвал на гаражной распродаже стопку словарей семидесятых. Продавец думал, что избавляется от мёртвого груза. Я думаю, что купил последний надёжный протокол в своей жизни.

Лет через пять–десять эти книжки будут стоить очень дорого.