Потерянный компьютер

Раньше у нас была потрясающая штука, которую мы называли компьютером. Компьютер — это устройство, позволяющее собирать, обрабатывать, хранить и передавать информацию из точки А в точку Б.

(Просто сгенерированная ИИ картинка для заполнения пространства.)

Главное преимущество компьютера в том, что обрабатываемая им информация защищена, обрабатывается быстро и всегда точна. Информация, которую мы передаём от компьютера к компьютеру, не меняется — и это позволило нам выйти на новый уровень развития в самых разных областях.

Нашему финансовому учёту больше не нужно быть вечным бардаком. Сопоставить транзакцию по карте с бухгалтерским балансом теперь проще простого — потому что есть компьютеры и всё делается электронно. Многие компании давно используют электронный документооборот, и каждый раз, когда тебе нужен новый договор — или что-то подобное, — ты просто подписываешь его в #DocuSign. Никаких факсов и бумажной почты.

Компьютеры крутые, потому что они точные, быстрые, способны перемолоть огромные объёмы данных за очень короткое время и могут передавать информацию из точки А в точку Б почти со скоростью света — причём с высокой точностью.

А теперь — слава ИИ

ИИ — наше будущее. ИИ — это компьютерная система, которая, хоть и является компьютерной системой, лишена одного из самых фундаментальных её принципов: он не способен давать предсказуемый ответ. Вывод любой ИИ-системы требует проверки и правки.

Я помню, как в начале 2000-х мой начальник говорил: «Я не доверяю этим данным — проверь на компьютере». Теперь мы вывернули всё наизнанку. Мы говорим: «Я не доверяю этим данным. Это, наверное, сгенерировано #ИИ».

Наше базовое назначение

Так что в этот восхитительный век так называемого «прогресса» мы, люди, кажется, не поменяли своего базового назначения. Мы по-прежнему здесь ради одной вещи, которую не сможет всерьёз сказать ни одна компьютерная система: «Это правильно».

Компьютерная система не может сказать «Это правильно». У неё нет чувства ответственности. Если не веришь — скажи ChatGPT, что он провалил задание, и попроси взять вину на себя. Вся «ответственность», которую ты получишь, — это: «Я тебя прекрасно понимаю. Мне очень жаль. Давай попробую ещё раз».

Одно дело извиняться, когда ты сгенерировал картинку котёнка вместо собаки — да и плевать. И совсем другое — извиняться, когда ты отвечаешь за постройку самолёта, а этот самолёт должен летать. А если кто-то забыл перепроверить размер, и теперь самолёт падает на землю? «Ой, простите» никого с того света не вернёт.

Нужен человек, который выйдет и разрулит ситуацию. Человек, который берёт ответственность и говорит: «Это правильно. Мы это проверили и абсолютно уверены, что самолёт не упадёт. Мы готовы поставить на это свою репутацию — или свою жизнь». Вот как работает уверенность.

Так что да, все вокруг говорят, что ИИ заберёт работу и автоматизирует задачи. Но, по-моему, не это главная проблема. Настоящая опасность вот в чём: ИИ размывает нашу способность нести #ответственность за свои дела.