Что пугает лично меня в развитии искусственных помощников

Пока генераторы текста на базе языковых моделей соревнуются в скорости производства поверхностных текстов на тему отъема рабочих мест, мне тоже есть, что сказать про гонку вооружений человека искусственными помощниками (которых здесь и далее я для простоты буду называть малорелевантным, но устоявшимся термином «ИИ»).

Я не боюсь, что меня вышвырнут на улицу, потому что ИИ начнет писать код и проектировать системы лучше меня. Неважно даже, почему я так спокоен: оттого ли, что мой уникальный опыт — в некоторых областях — не получить путем всасывания и переработки всей мудрости интернета, или просто потому, что я — беспечный дурак. Речь не об этом.

Есть вещи, связанные с бешеным распространением ИИ в шарнармассах, которые меня по-настоящему, действительно беспокоят.

Для затравки, позвольте рассказать пару историй из моей карьеры автолюбителя. Лет двадцать назад мы с одной барышней поехали в отпуск в довольно гористую местность. Когда я рисовал маршрут, я уточнил, есть ли у нее права: права были в полном порядке, вкупе с уверением в десяти годах стажа. В результате я выбрал верхней границей ежедневного пробега тысячу километров, а когда в прокате нам сказали, что по такому рельефу нужна механика (или совсем уж премиумный автомат, которых в наличии нет) — выяснилось, что на механике моя спутница ездить не умеет. Не катастрофа, маршрут подкорректировали, но осадочек остался. Я тоже давно пересел на автомат, но раз в полгода беру в прокате дешевую ручку и проезжаю километров пятьсот, просто чтобы не утратить навык.

В той машине, на которой я езжу сейчас, куча электроники; в частности, датчики движения по соседним полосам; если сбоку едет одноразовый чувак на мотоцикле, левая часть торпеды начинает мигать, как новогодняя ёлка, помогая мне исподволь продлить чуваку жизнь. «Удобно!» — сказал я в салоне. «Очень удобно!» — говорил я пару лет. Пока лампочка не перегорела. Нет, я не перестал смотреть в зеркало перед перестроением (к счастью, за пару лет потерять этот навык непросто). Но определенные изменения в моем поведении произошли: я стал смотреть в зеркало на пару десятых секунд позже (ни один мотоциклист при этом не пострадал). И я нафиг отключил эту дискотеку.

---

Мои ровесники подтвердят, что в начале девяностых мы помнили наизусть телефоны всех легких на подъём девах и пары-тройки друзей. Свой домашний номер я помню до сих пор. Запоминание такого количества несвязанных между собой цифр обучило нас умению быстро выдумывать мнемоники. Тренировало память. Прочищало карбюратор. Я и сейчас способен запомнить номер банковского счета или кредитки человека, стоящего передо мной в очереди на кассу (шучу, конечно, проще подождать бабушку на выходе и забрать у нее карточку силой).

Полезный ли это навык? — Не знаю, но люди с университетским образованием в белых халатах говорят, что память тренировать полезно для профилактики Альцгеймера и других людей с труднопроизносимыми фамилиями.

---

Излюбленным аргументом людей, которых развитие ИИ не пугает вовсе, являются исковерканная цитата из Форда (про «они попросили бы лошадь побыстрее и повыносливее») и пример с калькуляторами, не убившими математику. Форд столько наговорил за свою жизнь, что обсуждать его реплики всерьёз я не возьмусь, а вот про математику — у меня есть, что сказать.

Математику ни калькуляторы, ни абак, ни счёты, ни компьютеры, — конечно же не убили. Но гетеродин адекватности людей, сталкивающихся с числами в повседневной жизни, — вывинтили на минимум. Я не пользуюсь доставками еды, потому что компоную меню на неделю непосредственно в магазине: кабачки сегодня свежее баклажанов, болгарский перец начал подвядать, а вон те бараньи рёбрышки — внезапно так и просятся на стол вместо обычной говяжьей вырезки. Выбирать еду по каталогу я стану непосредственно после того, как полностью перейду на безалкогольное пиво и резиновых женщин.

Так вот, каждый третий раз я становлюсь свидетелем сцены «посчитайте вот это, я потом скажу, буду ли брать вон то». Я уже очень давно читаю меню в ресторанах слева направо и уверен, что мне хватит денег на то, что я физически смогу унести из продовольственного магазина. Но я продолжаю для разминки мозга считать общий итог, когда складываю товары в корзину. И ошибаюсь максимум в пределах округления. Полезный ли это навык? — Не знаю. Но мне достатончо беглого взгляда на приборную доску, чтобы понять, когда будет пора заправляться, сколько дать забронировать на карточке, чтобы обойтись без возврата, или сколько будет через месяц весить вот этот лог. Не прикладывая специальных усилий, не доставая из кармана калькулятор, в фоне — я получаю мгновенную бесплатную экстраполяцию всего, что экстраполируется. Это удобно.

---

Вернемся к ИИ. Разумеется, я пользуюсь помощниками. Тесты, документация, джейсоноукладка, еще куча задач, вообще не требующих подключения мозга, — почему бы не делегировать? И я делегирую. Но я всерьез опасаюсь, что довольно быстро превращусь в ту самую девочку, которая умела ездить только на автомате.

Когда я поймал себя на том, что пальцы набирают «please extract file.tar.gz to /tmp directory», мне стало не по себе. Это длиннее и дольше, чем tar xf file.tar.gz -C /tmp. Я потерял в эффективности. Даже оставляя в стороне, что завтра я забуду про ключ -C, а послезавтра — про xf. Лень, которая всю мою сознательную жизнь была двигателем прогресса, помогала мне находить новые, нетривиальные, нестандартные решения для оптимизации всего вокруг — эта самая лень привела к моему отупению в последние несколько месяцев.

Когда я смотрю на некрасивый (но рабочий) код в кодревью, я всегда стараюсь поговорить с написавшим его человеком, показать, как было бы лучше, изящнее, идиоматичнее, быстрее. Когда я вижу вложенные if в своем пет-проекте, сгенерированные бездушной машиной, — я в большинстве случаев украдкой вздыхаю и стыдливо нажимаю кнопку «да, давай, порть мой проект уродливым спагетти». Потому что единственная ценность переписывания такого кода — научить человека, его написавшего, хорошему. А помощник всё забудет, как только закончится сессия.

Поэтому я не боюсь, что ИИ нас заменит: понять почему именно в этом проекте раббит предпочтительнее кафки он не сможет в обозримом будущем хотя бы из-за рамок контекстного окна (и еще по миллиону иных причин), а деньги хорошим разработчикам платят именно за это, а не за джейсоноукладку. Я не опасаюсь отупеть, но мне действительно тревожно облениться настолько, что я начну просить помощника «выведи мне список файлов в этой директории» и закрывать глаза на всё более серьёзную примитивизацию и успагеттивание кода.

Даже не способность, а желание. А ведь это желание — единственное, что пока еще нас отличает от амёбы.

Источник