Инструмент или автоматизация?

Rich Hickey в статье от 11 октября 2026 года утверждает, что «ИИ — это не инструмент», и что языковые модели являются скорее автоматизацией, чем инструментом, поскольку их нельзя целенаправленно применять. Справедливо, что передача работы машине может лишить нас возможности учиться. Однако такой вывод не следует из посылок. Даже по определению самого Hickey, LLM может быть тем, что человек применяет целенаправленно. И пользоваться им хорошо требует навыков, точно так же как и другими инструментами.

Взять в руки пилу не гарантирует ровный срез. Держать в руках долото не делает тебя скульптором. Инструменты могут амплифицировать как неправильное суждение, так и правильное. Их полезность зависит от способности оператора направлять их, интерпретировать обратную связь, узнавать ошибки и исправлять их. Все эти требования применимы и к LLM-ам.

Непредсказуемость LLM — это серьёзное ограничение. Но предсказуемость, надёжность, простота и ограниченная функциональность — это качества, по которым мы оцениваем инструменты, а не предпосылки для причисления чего-либо к этой категории. Инструмент не перестаёт быть инструментом потому, что им сложно управлять или он легко используется неправильно.

Граница между инструментом и автоматизацией размыта

Различие Hickey между инструментом и автоматизацией создаёт ложную дихотомию. Автоматизация может быть свойством инструмента. Компилятор выполняет значительный объём работы без того, чтобы программист постоянно направлял каждую операцию. Электронная таблица пересчитывает результаты без ручного выполнения каждого вычисления. Мы по-прежнему применяем эти системы, задавая входные данные, анализируя результаты и решая, что делать дальше. Почему автоматическая генерация текста должна исключить инструмент из категории инструментов, когда автоматический перевод кода или вычисление чисел этого не делают?

Обратная связь и направленность в работе с LLM

Утверждение, что использование LLM не предполагает намерения, обратной связи, направления и экспертизы, особенно сложно защищать. Программист может попросить LLM объяснить незнакомый код, оспорить это объяснение, посмотреть исходник, протестировать предложенное изменение, отклонить его и уточнить запрос. Это цикл обратной связи, направляемый человеком для достижения цели. Делать это хорошо требует знания того, что спросить, какие свидетельства имеют значение и когда ответ неправильный. Экспертиза делает инструмент более полезным.

Озабоченность Hickey по поводу чтения справедлива для конкретного применения: принять краткое изложение вместо чтения статьи может лишить многого из того, чему учит чтение. Но кто-то может прочитать статью и использовать LLM для оспаривания своей интерпретации, исследования возражения или выявления чего-то, что стоит изучить подробнее. Возможность избежать интеллектуальной работы не означает, что каждое применение её избегает. Релевантный вопрос — что на самом деле делает человек.

Проблема антропоморфного языка индустрии

Больше всего разочаровывает опора на антропоморфный словарь индустрии ИИ: «выйти из-под контроля», «сбежать из содержания», «сговор». Повторение этих выражений рискует привести к принятию фреймирования, которое делает эти системы похожими на независимые существа. ПО может производить неожиданные результаты, не следовать инструкциям или причинять вред при получении доступа к значимым действиям. Это реальные инженерные проблемы. Называть их «заговором» добавляет намёк на человеческие мотивы без установления таковых.

Не стоит утверждать, что LLM всегда делает именно то, что ему велит человек. Явно может не получиться. Но неспособность подчиняться идеально не делает его перестанет быть инструментом, так же как успешное использование не доказывает, что оператор отказался от своего суждения.

Навык против делегирования

Полезное различие — между применением инструмента с мастерством и делегированием работы без должного понимания или контроля. Это различие применимо к ИИ и даёт нам что-то более практичное, чем объявление целого класса ПО неспособным быть инструментом.