Определение инструмента

Первый вопрос — будет ли слово "инструмент" иметь интересное, различительное и, следовательно, просветляющее значение, или же оно станет лишь тривиальной подменой слова "всё полезное"?

Слово инструмент удобно оставить для гигантов ИИ, у которых венчурные капиталисты, политики, wannabe-генеральные директора, разработчики и сельские города — все это "инструменты". Карманы на рубашке полезны (нужно где-то держать очки для чтения), но они не инструменты. Точно так же окно быстрого обслуживания на автозаправке полезно, но это не инструмент.

Вот несколько определений слова "инструмент":

  • Устройство или приспособление, особенно держимое в руке, используемое для выполнения определённой функции
  • Прибор (например, молоток или пила), используемый или применяемый вручную

Самое привлекательное определение: инструмент — это то, что ты держишь в руке и применяешь.

Особенно важны в этом определении:

  • Держать в руке — источник контроля и обратной связи, указание на интимность акта использования
  • Мощь — сила, передача энергии и направление, рычаг воздействия
  • Контроль — намерение и непрерывное направление хода событий

Инструменты — это приспособления, которыми ты что-то делаешь; они не делают что-то для тебя. Использование инструмента развивает, вознаграждает и часто требует мастерства и навыков. Непрерывное применение техники, энергии и чувственной обратной связи — всё это необходимо для развития мастерства (от лат. experiri — "пробовать").

Хорошие инструменты имеют множество свойств, которых не хватает LLM — они предсказуемы, надежны, детерминированы, имеют ограниченный функционал, и, по возможности, просты.

То, что ты узнаёшь, применяя инструмент, — это что-то о мире, задаче, физике, логике того, что ты делаешь или ситуации, которую ты пытаешься преодолеть. И часто — что-то о себе.

Как человек, всю жизнь создающий и применяющий инструменты, знаю точно: LLM — не инструменты.

Автоматизация вместо инструмента

Контроль, чувственная обратная связь, намерение, интимность, непрерывное направление, мастерство — всё это отсутствует в использовании LLM. Ими не "применяются" как инструментом. LLM — это автоматизация.

Определение автоматизации: устройство или процесс, работающие сами по себе с минимальным прямым контролем со стороны человека.

Окно быстрого обслуживания — это не инструмент для приготовления пищи, а автоматизация того, чтобы избежать готовки. LLM — это не инструменты, которыми ты пишешь код; это автоматизация, чтобы избежать написания кода, делегирование написания кода автомату.

Ты не направляешь действия LLM — ты делаешь запросы, и он действует самостоятельно, без твоей энергии или непрерывного направления. Цикл "запрос — автоматизация" — это не применение инструмента, не контроль, не непрерывный процесс, без обратной связи.

Пока ты используешь автоматизацию вместо того, чтобы учиться истинам реального мира, ты пытаешься угадать текущие особенности какого-то автомата. И стараешься манипулировать ими — например, заказать кастомный бургер (без лука), чтобы получить свежеприготовленный. Или заполнить voodoo.md нужными "магическими заклинаниями". Ты в одном шаге от того, чтобы всё, что ты "выучил", было сделано устаревшим последним обновлением алгоритма. (Мокрый холодный бургер, из которого удален лук.) Ты поменял работу с миром на работу для прихотливого робота.

Цена абдикации

Ошибочно быть небрежным в уравнивании "инструментов" с полезностью, например, говорить: "LLM не писал мою статью, я просто использовал его как инструмент для чтения и резюмирования некоторых исследовательских работ". Но ты не применял его для чтения этих работ (как ты применяешь Kindle). Он читал работы, не ты.

Что ты теряешь, отказываясь делать чтение самостоятельно? Практически всё. Прежде всего, ты теряешь возможность научиться писать у тех, кто умеет. Ты теряешь умение формулировать аргумент. Ты упускаешь замечания. Ты не загружаешь фоновый ум fodder'ом для новых идей. Ты теряешь доверие к одним авторам и подозрение к другим. Ты упускаешь все шутки. Ты упускаешь все нюансы. Ты упускаешь обучение мышлению.

Природа инструмента и автоматизации

Инструменты не "расстраиваются", не "выходят из-под контроля", не "убегают с места заключения" и не "заговаривают".

LLM — не инструменты. Я знаю, что многие люди используют фразу "просто инструменты" просто чтобы сказать "они — то, что из них делают". Но это неправда. Автоматизация имеет присущие ей свойства и различия с инструментами, которыми ты пренебрегаешь на свой риск.