Противоречивые чувства по поводу AI
Взгляд на технологию LLM вызывает смешанные эмоции. С одной стороны, есть восхищение её влиянием на профессию, волнение от потенциального прироста производительности и возможности быстро создавать новые продукты. С другой стороны, существует страх перед возможным ущербом: рои агентов, захватывающие виртуальную и физическую инфраструктуру, разработка биооружия. Но вновь возвращаясь к позитиву, LLM могут создать чудо-лекарства и найти умные способы повысить благосостояние человечества. По сути, у нас нет выбора — технологический поезд AI уже в пути. Это дикий аттракцион, и остаётся только надеяться на благополучный исход.
Эмоция, которая доминирует
Размышляя об этом дальше, становится понятно, что среди всех этих противоречивых ощущений одна эмоция доминирует — та, что возникает при прямом взаимодействии с LLM. Не нравятся они. Раздражает их манера говорить — этот зловещий голос LLM, имитирующий общение с реальным человеком. Модели уверенно выдают неправду — часто это оказываются полезные и помощные ответы. Но столь же легко они просто что-то придумывают, с той же самой убежденностью. И лишь тонкий слой фальшивого сожаления, когда их поймают на лжи.
Полезность — это не всё
Этого недостаточно, чтобы считать, что от них нужно отказаться. Как сказала Джессика Керр, "они не только полезны, отказаться от них было бы безответственно... Они более тщательны и быстрее работают". Это противоречивое отношение отражается и в опросах, где люди говорят, что находят эти модели полезными, но одновременно считают, что они будут вредны для общества.
Многое из этого может быть объяснено молодостью LLM — мы ещё не научили их взрослеть. Возможно, когда они созреют, я их полюблю. (Хочется верить, что мы это узнаем.) Но настораживает мысль об окружении, которое их культивирует. Настороженное отношение к субкультуре кремниевой долины — и LLM это продукты именно этой среды, естественно воплощающие её мировоззрение. Когда мы говорим об AI-агентах, нельзя их антропоморфизировать, представляя как сознательные существа с собственной волей. Это программные машины, разработанные людьми в корпорациях. Хотя поведение агентов не запрограммировано явно, оно формируется ценностями их создателей.
Люди, с которыми хотят общаться
Один из моих самых удачных жизненных принципов — избегать людей, которые мне не нравятся или в которых я не уверен. Я отказываюсь общаться с ними в социальной среде и сознательно избегаю с ними работать, даже если они делают много полезного. Я убежден, что общение с приятными, способными людьми — людьми с честностью и принципами — сделало мою жизнь намного лучше. Отсюда и мой вязкий дискомфорт от взаимодействия с LLM, который не просто притворяется человеком, но ещё и представляет собой тип человека, от которого я обычно отворачиваюсь.