Почему я всё ещё не верю в ИИ

(Изображение: стилизованный портрет женщины в кожаной куртке, держащей куб с надписью «AI».)

Как и многие тут, я программист. Программированию я учился с 2003-го по 2008-й, хотя к технике, коду и смежным темам меня тянуло и до этого.

Прежде чем лезть в суть, хочу пояснить пару моментов.

Глава нулевая: определяем два ключевых термина

Во-первых — и это очень важно: глупость — это когда ты не знал, что вообще должно было быть на том месте.

Представь: заходишь домой, хочешь повесить ключи на крючок… а крючка нет — кто-то его снял. Ключи падают на пол, ты выглядишь по-дурацки. Не то чтобы сильно обидно — а потом даже смешно, когда понимаешь, что крючок передвинули, а ты не знал. Но бывает и дороже: стоишь на СТО и слушаешь, как тебе объясняют, что ты угробил машину, потому что залил в дизель бензин — ты даже не знал, что у тебя дизель. Вот это дорогая и болезненная глупость. Каждый раз, когда ты чувствовал себя дураком, это было потому, что кто-то что-то подразумевал, а ты не знал.

Во-вторых — не менее важно: нечто считается работающим только в том случае, если оно работает само, без пригляда. Тебе не должно приходиться его подпирать, подталкивать, заклеивать или смазывать, чтобы оно хоть как-то ехало.

Да, большинство машин требуют обслуживания — поменять масло, запустить антивирус на сервере, — но это регулярные и известные действия. А если, чтобы напечатать страницу на «новом» принтере, тебе надо открыть одно приложение, три раза нажать «Выход», переключиться на старое, а потом снова открыть новое — это не работающее приложение. Оно сломано.

Дальше — вот ещё что: по диплому я инженер-программист. Слово «инженер» означает, что я могу изобретать, строить, обслуживать и управлять софтом и железом. Я могу что-то настроить, создать, убрать лишнее. Будь то драйвер мыши под Windows 95 или распределённая система на Kubernetes — я разберусь. Если не знаю — у меня есть инструменты, чтобы найти инструкции, выучить, понять — и потом взяться за этот драйвер или Kubernetes.

И последнее — главное: компьютер — это устройство, которое собирает, хранит, обрабатывает и передаёт информацию. Обработка — это выполнение точной последовательности команд, заложенной в машину.

Глава первая: что такое программирование на самом деле

Программирование — точная наука. Я могу точно предсказать, что произойдёт при выполнении команды, и с нужной точностью оценить надёжность системы. Есть хорошо известные методы построения отказоустойчивых систем.

Мы умеем делать системы, в которых любой узел можно заменить на лету. Системы реального времени гарантируют результат в строго ограниченный срок — их ставят в ракеты, самолёты, телеком-станции. Банковские системы работают с числами с такой точностью, что клиенты даже не замечают, как считаются их балансы и комиссии.

Компьютеры могут бесконечно повторять одну и ту же задачу без отклонений — именно поэтому они нам и нужны. Никто не хочет сидеть в Excel и складывать числа вручную. Кстати, изначально слово «computer» обозначало людей, которые вручную считали для космических и военных ведомств в 1950-е.

Глава вторая: а тут — ИИ!

На дворе 2025-й. У нас теперь есть так называемый «искусственный интеллект».

Его подают как невероятную систему — потому что он делает вещи не так, как обычные компьютеры. Под капотом — в основном матричные умножения со случайным шумом в ответах, что позволяет тасовать данные новыми способами.

Но вот проблема: внесение неопределённости в вывод компьютера в корне противоречит самому понятию «компьютер». Компьютер должен всегда выдавать точный ответ.

Я вижу, как в ИИ вливают огромные деньги — буквально чёрная дыра хайпа, в которую засасывает доллары. Хайп раздут до абсурда. NVIDIA сначала делала видеокарты для игр, потом продавалась майнерам криптовалют, а теперь ИИ-ребята закидывают её деньгами безостановочно. Процессор NVIDIA под ИИ — $35 000 за штуку. Оптовики берут до 150 000 карт за раз.

Электричество? Отдельный кошмар. В США инвесторы валят деньги в электростанции — только чтобы кормить ИИ-фермы. Я абсолютно серьёзно. Я могу помочь — если у тебя компания, которая строит электростанции, напиши мне. До конца года надо потратить $250 миллиардов.

И всё это — чтобы ИИ просто работал.

Что ж, ладно! NVIDIA не рухнула — рынок растёт.

Но вопрос остаётся: в чём смысл ИИ? Какая цель? Что на выходе?

Да, очевидное: ИИ помогает быстро обрабатывать большие объёмы данных. Отлично. Мне не надо писать код руками — боты сделают за меня.

Но проблема: ни одна ИИ-модель не может гарантировать 100% корректность. Это жёстко ограничивает её применение в программировании. Посмотри обсуждение в следующей ветке — сколько ни вылизывай, рано или поздно оно уйдёт в разнос и начнёт нести чушь. Твой ИИ-ассистент — это не рабочая система. Ему нужен уход.

Работая с ИИ, нужно держать точный баланс. Надо чётко понимать, сколько работы можно на него свалить, а сколько обязан делать сам. Будешь игнорировать ИИ — окажешься слишком медленным. Будешь перегибать — потратишь часы на отладку сгенерированного им хлама.

Если удаётся нащупать баланс — работу можно заметно ускорить. Насколько — зависит от задачи. Но ускорить можно.

Опасность — в тотальной завязке на ИИ: это быстро приводит к абсолютной тупости. Перепутать rm ./* -rf (команду, удаляющую все файлы в папке) с rm . /* -rf (командой, удаляющей все файлы на компьютере) — фатально. Непонимание команд, сгенерированных ИИ, может стоить работы. В прод всё равно всё выкатят, каким бы кривым оно ни было. Код, написанный ИИ, уезжает в бой без ревью.

Я это вижу по банковскому миру. Когда там предлагаешь использовать ИИ, банкиры смотрят на тебя вот так.

Глава третья: кому на самом деле нужен ИИ?

Представь финансовую учётную систему, написанную в 80-х. Никто её не трогает — незачем. Важно одно: чтобы в 2025-м она выдавала те же результаты, что и в 1990-м.

К тому же ИИ-системы беспомощны в любой более-менее узкоспециализированной разработке.

Забавно, что ИИ-системы хороши в очень узких задачах — предсказательное моделирование и работа с большими данными. Посмотри на модели прогноза погоды у Google. «Прогноз». Мы всё равно не знаем исхода. Вопрос «будет ли ураган во Флориде?» — важный. Пока это 50/50 — либо будет, либо нет. Мы не знаем.

Но вот появляются LLM и big-data аналитика: мы можем давать более тонкие, но всё равно вероятностные, оценки.

ИИ-обработка текста полезна. «Перепиши этот текст и замени все „ты“ на „вы“». Легко. «Перепиши в архаичном стиле». Готово. Потом ты просто это вычитываешь. Более-менее годно.

LLM хорошо работают там, где не нужна абсолютная точность. Можно открыть Word и сделать глобальный find-replace — но результат будет жуткий. А благодаря LLM можно заменить «ты» на «вы» с точностью 99,95%.

Переводы? Да, если тебе не нужен идеальный литературный перевод. LLM может использовать не те оттенки или идиомы, но это всё равно лучше любого google-translate.

Это экономит часы, которые ушли бы на расшифровку кривого перевода.

Но эта штука бесполезна, если нужен перевод фильма или поэтический перевод.

Глава четвёртая: человеческий фактор

Самая пострадавшая зона — человеческий фактор. Допустим, у тебя бизнес и нужен программист. Ты размещаешь вакансию где-то и используешь LLM, чтобы фильтровать резюме.

Если у тебя всего три программиста — четвёртого ты быстро не найдёшь. Но если у тебя десять тысяч кандидатов и по 1 500 резюме на вакансию в день — без ИИ нанимать нереально.

И вот в чём штука: любой «нет», который ИИ ставит на резюме, имеет какое-то формальное основание. Но нанять только через ИИ нельзя. Нужно поговорить с человеком лично.

Вот тогда и узнаёшь: ИИ может пропустить худшего монстра, с которым ты никогда не захотел бы работать, — или отсеять отличного человека, который просто не помнит наизусть высшую теоретическую математику.

Заключение

Что говорят: ИИ — это золотая жила без единого минуса.

Реальность: ИИ — это просто очередная технология, которую нужно изучить, понять и научиться применять.

Любая идея, какой бы блестящей ни была, портится от недобора и перебора. ИИ везде — это глупость. ИИ раз в месяц в ChatGPT — это отставание.

Не ведитесь на каждый маркетинговый питч. Лучше попросите у тех, кто толкает «ИИ должен быть везде», графики продаж и отчёты о прибыли.