Иногда при чтении статьи возникает ощущение, что перед тобой — результат работы LLM. Точно объяснить почему сложно, хотя есть типичные признаки. По мере углубления в текст желание читать дальше угасает, иногда до состояния отвращения.
Существуют инструменты, обещающие различить текст, написанный LLM, и традиционный, созданный человеком. Но стоит быть осторожным: не только из-за сомнений в их точности, но и потому, что они упускают суть. Реакция на LLM-Voice — это человеческая реакция на зловещую долину прозы. К моменту, когда берёшься за инструмент проверки, уже поздно — даже если он уверенно скажет, что LLM здесь нет.
Стоит быть скептичным и к собственной способности узнавать LLM-Voice. Язык меняется со временем, и жаловаться на язык молодежи — признак возраста. Раздражает проза, в которой говорится о "внедрении новых подходов продаж" или "лаконичном обзоре новостей". Но эти конструкции слышны и из человеческих уст — это скорее поколенческие различия, чем граница между углеродом и кремнием. (А британцу, привыкшему к американскому английскому, лучше не начинать разговор об американизмах.)
Сейчас авторам стоит особенно опасаться LLM-Voice. В частности, нужно избегать соблазна попросить LLM написать черновик. Даже если его редактирует человек, очень сложно избавиться от LLM-Voice и преодолеть ощущение зловещей долины.1 Опасны даже предложения переформулировать текст от LLM. Известны случаи, когда LLM использовали для разработки структуры и плана — это может быть приемлемо, но только на уровне плана.2 Саму прозу должен писать автор.
1 Это очень сложно, но не невозможно. Известен один случай, когда первый черновик полностью написал LLM, но финальный текст не нёс признаков LLM-Voice. Однако его пришлось отредактировать профессиональному редактору крупного периодического издания.
2 Политика этого сайта — те, кто использовал AI при написании, должны задекларировать способ использования, обычно в благодарностях. Это нужно для прозрачности и чтобы читатели узнали полезные способы применения AI. Лично автор не использует AI для генерации текста и не помогает в структурировании. Единственный способ применения — как поисковый инструмент (но информация всегда проверяется по первоисточникам).
Проговаривание текста вслух становится ещё важнее в эпоху LLM. Обычно слова произносятся в голове, потом записываются, а затем редактируются. Этот совет особенно важен для тех, кто регулярно пишет. Как и многое в письме, умение писать хорошо требует практики. Это навык, достойный времени, но полагаться на LLM означает отказаться от прогресса.
Возможно, в будущем LLM станут настолько совершенны, что разницу не заметить. В некотором смысле это более тревожно. Большинство писателей считает письмо почти незаменимым инструментом мышления. Часто только записав мысль, можно привести её к ясности. Нередко работа над статьей начинается без полного понимания темы, но борьба со словами помогает преодолеть путаницу. Если люди будут делегировать письмо LLM, они также делегируют мышление и понимание. Но в чём же удовольствие писать тогда?
Хотя избегание LLM-Voice — общее правило, оно не абсолютно. Важный пример — Джим Хайсмит, который вносит вклад на этот сайт. Для него работа с LLM необходима, чтобы преодолеть последствия болезни Паркинсона. Готов мириться с LLM-Voice, чтобы продолжать получать мудрость старого друга.
Сложнее дело обстоит с переводом. Многие коллеги не уверены в английском — это их второй или четвёртый язык. Некоторые считают LLM-перевод важным для общения с теми, кто знает маратхи значительно хуже. Но хотелось бы всё же видеть неловкую прозу искренного человека, а не гладкую, но безжизненную работу LLM.
Есть ситуации, когда даже носителю английского было бы разумно позволить LLM писать прозу. Например, при написании формального письма чиновнику или подготовке отчёта, который никто, вероятно, не будет читать.3 Возможно, большинство документации в будущем будет прочитано только LLM, и их не будет волновать зловещая долина. Но если хочется общаться с людьми, то своё человечество должно светиться (или хотя бы сочиться) из текста.
3 Майкл Найгард заметил: "Здесь не идёт речь о передаче мыслей от одного человека к другим. Это общение с процессом, а не с человеком. Человек может распечатать конверт, но действует как компонент кибернетического организма."
Благодарности
Alessio Ferri, Caer Sanders, Ian Cartwright, Jie Jessie Xia, Joshua Kerievsky, Michael Feathers, Michael Nygard, Scott Davies и Wei Zhang прокомментировали черновики этого поста.
При написании этого поста автор не использовал AI или LLM.