Проект программного обеспечения завершен
| автор: Фредди Дебур |
Я полагаю, вы знаете о “вибрационном кодировании”. Крупные языковые модели, получившие столько фанфар за последние четыре года, до сих пор не оправдали тех грандиозных обещаний, которые были даны от их имени; неограниченная бесплатная энергия, прекращение голода и бессмертие — все это явно ускользало от нас. Однако есть одна вещь, в которой магистранты действительно преуспевают, — это написание кода. И это умение стало настолько развитым, что многие люди теперь пишут программное обеспечение исключительно под руководством магистрантов, не обязательно обладая какими-либо реальными навыками программирования самостоятельно. Подавляющее большинство результатов этих усилий бесполезны, избыточны или едва функциональны, это правда, но сам факт того, что люди могут это делать, является интересным свидетельством того, в чем на самом деле хорош “искусственный интеллект”. И по глупым мемным причинам мы называем эту практику виброкодированием. Итак, за последние два с лишним года несколько сотен миллионов человек обрели способность писать программное обеспечение, разговаривая с машиной на обычном языке. Это было объявлено (правильно, в узком техническом смысле) великой демократизацией: общеизвестно византийский набор навыков внезапно стал доступен гораздо большему числу людей. Возможности, которые когда-то предоставлялись жречеству специалистов, относительно небольшому сообществу ремесленников, были внезапно и почти бесплатно предоставлены бариста, бухгалтерам, четырнадцатилетним подросткам, пенсионерам, вам, мне…. Нам говорили, что инструменты, доступные сейчас широкой публике, обладают ошеломляющей мощью. Наступает эра гражданского кодирования! Разумный человек, узнав об этом, приготовился бы к последствиям.
Наверняка что-то должно измениться, не так ли? Волна новых замечательных приложений? Расцвет новых возможностей, предоставляемых программным обеспечением? Какой-нибудь заметные изменения в повседневной жизни, соизмеримые с масштабами дара кодирования вибраций? Все вышеперечисленное, без сомнения. Все вышеперечисленное и многое другое. Что ж, оглянись вокруг и скажи мне… где это? Каковы плоды всего этого вибрационного кодирования? Что это изменило? Какое замечательное применение получило все это высвобождение потенциала? Что нового делает наш вид в рабочее время, чего он не делал три года назад? Что нового не нужно делать нашему виду из того, что он должен был делать три года назад? Какие рутинные задачи были устранены, какие трения сглажены, какие аспекты обыденного существования были изменены благодаря внезапному прибытию сотен миллионов программистов-любителей? В последнее время наблюдается большая активность, иногда довольно бурная. Наблюдается постоянный отток наполовину готовых приложений для выполнения задач, клонов Wordle и почтовых клиентов-бутиков, которые не делают ничего, чего не могли бы старые standbys, RPG-проектов выходного дня, которые вспыхивают и исчезают, и, в конце концов, мир практически не меняется. И то, что мы подарили цветы командам Anthropic и OpenAI, не было ошибкой в их инструментах. Инструменты более или менее работают. Речь идет о чем-то более странном и важном, чем сбой LLMS: необходимая работа с программным обеспечением уже выполнена. Мы не видели много новых типов программного обеспечения, потому что у нас уже есть то, что нам нужно. Вы не можете наполнить сосуд, который и так полон, и любители, благослови их Господь, вливают эту новую энергию в сосуд, который мы лихорадочно наполняем на протяжении всего 21-го века.
Проект программного обеспечения завершен. Не замедляется, не развивается, не вступает в какую-то новую и более скромную фазу, а завершен. Завершена так же, как завершена карта Земли, то есть заполнены большие пробелы, и остается только обозначить притоки и скорректировать береговые линии, нанести на карту и переназначить те части земного шара, которые находятся в состоянии постоянного изменения, реагируя на меняющиеся условия, мы не меняем нашего представления о Земле. Я отдаю себе отчет в том, как все это звучит. В частности, я не наивен в том, что для тех, кто зарабатывает на жизнь написанием кода (число которых растет, а не сокращается, несмотря на предсказания судьбы) это прозвучит скорее вызывающе, чем провокационно. Я также осознаю, что некоторые могут ошибочно принять мои слова о том, что проект программного обеспечения завершен, за какое-то принижение достижений программного обеспечения. Это не так! Уверяю вас, я отдаю себе отчет в том, что вводлю свои аргументы в машину, которая для моих бабушки и дедушки была бы неотличима от колдовства, а затем передаю их с помощью кодовой сетки, такой обширной и сложной, что ни один живой человек не смог бы понять больше, чем ее фрагмент. Я осознаю, что программное обеспечение обеспечивает мое нынешнее экономическое существование, каким бы неоднозначным ни было мое отношение к этим отношениям. Нет, я не утверждаю, что глобальный проект по удовлетворению потребности человечества в программном обеспечении ни в коей мере не важен. Однако я утверждаю, что с этим покончено. Это было сделано.
Возможно, лучше, чем аналогия с картой, будет сравнение с периодической таблицей Менделеева. Семь строк заполнены. После синтеза 118-го элемента была заполнена седьмая строка периодической таблицы, начиная с водорода и заканчивая онагессоном. Это действительно выглядит сделано. Но технически, да, есть еще много элементов, которые предстоит обнаружить; я уверен, что на данный момент существует множество команд, пытающихся воплотить в жизнь 119-ю по счету. Но эти временно нераскрытые элементы являются синтетическими, результатом человеческой воли, и существуют только для удовлетворения человеческого любопытства. Они исчезают быстрее, чем вы можете себе представить. В периодической таблице Менделеева нет естественной, значимой дыры, нет органической потребности, которую нужно удовлетворять; есть только наше ненасытное желание продолжать искать большего, к следующему горизонту. Вы не расширяете периодическую таблицу Менделеева за счет более продуманного расположения символов, которые у вас уже есть, вы расширяете ее, исследуя подложку и сталкивая атомы вместе, чтобы вытащить другие атомы из обломков. Другими словами, это вопрос проблема, находящаяся на грани физической возможности, и это ужасно дорого и медленно.
Сама абстракция? Таблица, шаблон, предсказанные группы? Это было завершено во всех важных аспектах на протяжении десятилетий. Или, скажем так, граница периодической таблицы Менделеева изобретена, а не открыта. Именно это я подразумеваю под завершенностью программного обеспечения. Мы будем продолжать строить из-за нашего желания строить, и нам придется много работать по техническому обслуживанию, но мы не будем строить из-за необходимости. Как я уже не раз говорил вам, мы живем в эпоху утонченности, которую мы упорно называем эпохой инноваций. Итак, вот утомительная часть “на всякий случай”. Я не имею в виду, что новые программы не будут написаны; программы будут писаться до тех пор, пока Земля не поглотит Солнце. Появятся новые видеоигры, новые и зачастую худшие версии приложений, которые у вас уже есть, новые интерфейсы, привязанные к старым функциям, новые скины на старых костях, постоянный и прибыльный поток обновлений, которые перемещают кнопки и называют это прогрессом, и большая часть этого будет платной подпиской. И, да, профессиональные программисты-люди будут востребованы завтра, и на следующей неделе, и через пять лет, и через десять. Я имею в виду более узкое, но далеко идущее и глубокое понятие: эра новых категорий программного обеспечения окончено. Потребность в новых типах программного обеспечения не более реальна, чем потребность в новых строках периодической таблицы Менделеева. Таксономия в настоящее время представляет собой замкнутую систему; основные области и типы того, что код может сделать для людей — коммуникация, вычисления, хранение, поиск, моделирование, координация — были в значительной степени определены десятилетия назад, эти таксономические ряды были заполнены в 21 веке благодаря инвестициям в триллионы долларов и созданию усилия всей нашей цивилизации, и все, что осталось сделать, — это ввести новые популяции программ в пределах родов, в пределах типов, в пределах королевств, которые уже были названы. Возможно, это не кажется таким уж большим делом. Лично я думаю, что это очень важное дело, если вы действительно понимаете его.
Рассмотрим тест, который я предлагал ранее в этой рассылке: когда вы в последний раз хотели, чтобы ваш телефон делал что-то, что он вполне мог бы когда-нибудь сделать, но пока не смог? Не что-то глупое вроде “дайте мне бесконечное количество денег”, а что-то, что телефон мог бы делать с достаточной мощностью и с достаточно хорошим программным обеспечением в пределах разумного. Честно, что? Что вы хотите, чтобы ваш телефон делал такого, чего он не может? Я не говорю о том, что ваш телефон становится лучше в том, что он в данный момент делает плохо; я говорю о том, что вы хотите, чтобы он делал то, чего в данный момент он вообще не делает, незанятая категория, подлинное отсутствие. Я задавал этот вопрос множеству людей и наблюдал, как они добивались, добиваются и возвращают то, что можно сравнить с обновлением того же дома: улучшенную клавиатуру, меню настроек, в котором проще ориентироваться, приложение, которое уже существует, но которое они хотели бы сделать бесплатным. Вы хотите, чтобы в Spotify не было рекламы? Это экономическое ограничение, а не программное. Вы хотите, чтобы ваш робот-пылесос не засасывал воздух? Это механическая проблема, проблема робототехники, проблема атомов, а не битов. Вы хотите, чтобы соцсети позволяли вам видеть фотографии ваших друзей, а не все то дерьмо, которым вас пичкает алгоритм? Они просто не будут. Вы хотите, чтобы Tinder подбирал вам более привлекательных партнеров и приводил к более выгодным свиданиям? Боюсь, это зависит от того, что подсказывает сердце. Какого приложения вам не хватает? Какая у вас есть проблема, которую на самом деле можно было бы решить с помощью создания нового кода в ближайшем будущем?
Что бы вы хотели, чтобы ваш автомобиль делал такого, чего он не может делать сейчас? Вы скажете, что он сам управляет автомобилем. Что ж, это скоро произойдет, хотя это займет больше времени и обойдется дороже, чем вам говорили. Waymos сами управляют автомобилем, но с гораздо большим количеством “звонков домой”, требующих помощи человека, чем хотят признать средства массовой информации, и в строго ограниченных географических зонах, и только в определенных местах с определенным климатом…. Это проблемы, некоторые из которых связаны с программным обеспечением, но полное самоуправление — это, в конечном счете, не проблема программного обеспечения; это проблема двухтонного объекта, движущегося по физическому миру с бесконечными и смертельными случайностями, полному людей, которые могут и будут подавать в суд, и никакое количество кода не поможет. датчики, избыточность, правила, вся материальная и правовая база, которую упорно скрывает реальность. Более того, когда повсеместно появится полное самоуправление, это станет еще одной решенной программной проблемой, и результатом станут умеренно значимые изменения в материальной реальности, но они меркнут по сравнению с появлением железной дороги или переходом от лошадей к автомобилям, еще одним примером того, как испытание внутренней сантехники. Самоуправляемые автомобили в конечном итоге обеспечат обычных людей цифровыми шоферами. Это круто. Но, очевидно, они не выдерживают испытаний по-настоящему революционной технологии, которые я продолжаю проводить.
Потребность в большем от программного обеспечения, безусловно, не исчезла, и некоторые потребности будут восполняться с помощью кода. Но естественный спрос на новые категории программного обеспечения прекратился. Мы этого не заметили, в основном потому, что Кремниевой долине очень хотелось бы, чтобы все верили, что мы всегда стоим на пороге новой эры человеческого опыта. Они поддерживают ажиотажный цикл, они поддерживают поток восторженных репортажей в СМИ и безответственных спекуляций, создавая иллюзию увеличения мощности процессора и памяти в телефонах, которые нуждаются в большем количестве, потому что мы продолжаем делать программное обеспечение, с которым они работают, менее эффективным, а затем называем это инновацией. Это работа, направленная на то, чтобы убедить мир в том, что разработка ноутбуков и смартфонов не застряла на одном месте надолго. Все это громкое и прибыльное дело, и иногда это может выглядеть как прогресс. Но спросите себя: какую программу вы можете себе представить, которая могла бы делать правдоподобные вещи, недоступные вам сейчас? Каковы новые реальные границы о том, куда нужно девать программное обеспечение? Помните, когда все собирались разбогатеть, создавая приложения для iPhone? Сейчас об этом никто не говорит. Потому что, каких приложений, которые вам нужны, у вас нет? Специалисты L.L.M. могут выполнять многие задачи с поразительным мастерством, но они не могут выполнять подавляющее большинство человеческих обязанностей, не сталкиваясь с катастрофами то тут, то там. Никакие обновления или выпуск новых моделей этого не изменят.
Исключением из этого правила являются профессии, которые относятся к формальным или поддающимся проверке областям. Одной из таких профессий является программирование. Она основана на структурированном, формальном языке, который можно протестировать в режиме реального времени. Вот почему мы наблюдаем такое влияние на рынке труда программистов. То же самое относится и к любому другому виду работы, в ходе которой результаты могут быть проверяемо правильными или неправильными, функциональными или нефункциональными и могут быть окончательно проверены с помощью автоматизированного процесса. Однако подавляющее большинство профессий работают по-другому — Зейнеп Туфецки
Каждая технология движется по кривой. Кривая, как правило, не экспоненциальна, как это представляют себе технологические евангелисты. Вместо этого это логистическая кривая, S-образная кривая. Логистическая кривая начинается ровно, в долгой темноте лаборатории и неудачного прототипа, затем она поворачивает вверх, к крутой, безумной середине, где, кажется, рост никогда не закончится, и слово “экспоненциальный” кажется честной оценкой, а затем — и это часть евангелисты всегда забывают, потому что, когда они говорят, они всегда находятся на этой безумной середине крутого склона, будь то в реальности или в своем воображении — кривая изгибается. Обычно это незаметно, но в ретроспективе часто становится очевидным. Ресурсы, которые были потрачены на «головокружительном подъеме», какими бы они ни были (время инженеров, вычисления, электроэнергия, пропускная способность — выбирайте сами), заканчиваются, и кривая выравнивается, переходя в новое и постоянное плато. Колония бактерий заполняет всю посуду; слухи об этом доходят до каждого, кто когда-либо захочет их услышать; транзисторы перестают сокращаться; (Я понимаю, что прибегаю к диким метафорам, но давайте продолжим.) Что особенно опасно в S-образной кривой, так это то, что с любой точки трассы недавнее прошлое выглядит точно так же, как ближайшее будущее; мы не можем избавиться от воспоминания о крутой средней части, которая сохраняется еще долго после того, как сама кривая стала пологой. Я предполагаю, что мы стоим на вершине (или на плато) в области программного обеспечения и убеждаем себя, что продолжаем подниматься.
И, смотрите, да, когда одна S-образная кривая достигает максимума, иногда начинается другая — другими словами, прогресс продолжается, потому что одно плато становится началом новой кривой подъема. Вакуумные трубки уступили место транзисторам, которые уступили место интегральным схемам, и каждую из них можно было рассматривать как собственную кривую, и если сложить их вместе, то получится что-то вроде плавной экспоненты, которую мы назвали законом Мура. (Которые будут называться умирающими или мертвыми, а затем объявляться очень даже живыми в конкурирующих эссе до скончания веков.) Что ж, да, иногда плато одной S-образной кривой — это только начало другой, конечно. Это правда, и отчасти это меня беспокоит: чтобы конец одной S-образной кривой стал началом другой, необходима новая реальность. это ждет своего часа под прикрытием старого. Я утверждаю, что программное обеспечение, достигнув предела естественных потребностей человека в чем-то похожем на узнаваемый человеческий мир, не может перейти в новую реальность. Больше нет фундаментального уровня вычислений, на который можно было бы перейти. Следующая кривая, если она и появится, не будет построена на дополнительном коде. Вместо этого нам нужна новая разработка другого рода, которая будет работать в мире атомов, а не битов, что означает, что мы застряли перед той же проблемой. В первой четверти десятилетия 21-го века человечество вложило все, что у него было, в вычислительную технику, которую мой профессор однажды назвал повсеместной алгоритмической оркестровкой на основе кремния. Мы достигли пределов того, что было возможно в Java или C++. Теперь нам нужно разработать что-то за пределами вычислительной техники, чтобы создать новый мир, в который можно было бы расти, чтобы начать новую S-образную кривую. И, например,… где эта штука? Что это за штука?
Максималисты продолжают настаивать на том, что все идет по-другому, что новый кодекс приведет к новым рубежам. Но нет никаких оснований полагать, что они правы, и каждый день в мире, насыщенном LLM, который практически не меняется, свидетельствует против них. Сколько еще лет мы должны ждать? Нам уже сообщили, что AGI 2027 откладывается. Возможно, новое предсказание верно. Или, возможно, мы находимся в ситуации с Duke Nukem Forever . Это новшество, когда вы заставляете модель что-то создавать, смотрите, проверяется ли это компилятором или другим инструментом тестирования программного обеспечения, а затем повторяете попытку. И вы слышите, как старшие специалисты по ИИ говорят: “Теперь я пишу циклы. Я даже не писал подсказки. Я пишу циклы. И дальше все идет своим чередом….” И ты просто смотришь на это и думаешь, распространяется ли это на что-нибудь еще? Если вы хотите построить мост, знаете ли вы, как убедиться в том, что мост не рухнет? В мире существует множество других областей, где проверяемость и возможность создания цикла проверки с помощью этого средства проверки осуществляется за пределами компьютера. Я всегда привожу в качестве примера правовую систему. В правовой системе проверяющим является судья. Они очень непредсказуемы! И вы не можете сказать: “Ну, мы еще раз проверим это, судья”. Нет, вы отправитесь в тюрьму. Судья говорит: “Отправляйтесь в тюрьму вместе с вами”. Здесь не будет никакого зацикливания, мой друг.
И вот что меня беспокоит в индустрии искусственного интеллекта: они пытаются обобщить весь опыт разработки программного обеспечения снова и снова. Это не то, что нам обещали в области искусственного интеллекта. — Нилай Патель
Биолог Стюарт Кауфман ввел в обиход термин, который был предназначен для использования в науке об эволюции, но который легко и с пользой переносится на технологию: смежное возможное. В любой момент система (скажем, химическая система, или экосистема, или экономика идей, расширяйте границы до более размытых пространств, как хотите) окружена оболочкой условий, которых еще нет, но которые могли бы возникнуть. существовать посредством некоторой серии изменений того, что уже существует. Смежное возможное — это совокупность всех следующих шагов. И это, я бы подчеркнул, не абстракция, а физическая реальность. Эволюция не совершает скачков или, по крайней мере, не происходит обычным способом, управляемым естественным отбором; эволюция колонизирует соседние возможные области по одной двери за раз, и каждая дверь, которую она открывает, открывает новые двери, которые ранее были недоступны. И вот почему я говорю, что это не абстракция: смежное возможное — это не фиксированный периметр, ожидающий достижения, а граница, которая расширяется по мере того, как вы вступаете с ней в контакт. Каждое изменение само по себе становится новой единицей сырья, доступной для следующего изменения, так что вход в дверь не просто означает исследование возможности, но и создает возможность появления других комнат, которые невозможно было представить, находясь в коридоре. Если вы понимаете меня.
Звучит заманчиво, не так ли? Похоже на то, как мы добираемся до звезд, не так ли? Нет. Опять же, эта метафора восходит к эволюции. И хотя эволюция породила невероятное разнообразие и некоторые удивительные формы жизни, у нее также есть четкие и непреодолимые пределы. У нас есть биолюминесцентные водоросли, полупрозрачные глубоководные существа и плотоядные растения, но у нас нет птиц, способных долететь до Луны, или кроликов, способных путешествовать во времени, или лягушек, которые извергают лаву из своих задниц. Миллиарды лет эволюции привели к появлению некоторых замечательных организмов, и мы увидим еще больше, но эволюция может распространить жизнь только на соседние планеты. возможно, но не то, что можно вообразить. Есть пределы. Я утверждаю, что смежное возможное в программном обеспечении чрезвычайно ограничено и во многом похоже на то, что мы уже получили. На протяжении большей части истории вычислительной техники смежные возможности были огромны: американская граница в 1800 году, пустая часть карты, периодическая таблица Менделеева. Каждая новая категория (электронная таблица, браузер, поисковая система, социальная сеть, смартфон) открывала новые возможности для комнат, в каждой из которых были свои шкафы, а в каждом шкафу — свои полки…. Но рано или поздно ты приходишь к тому, что становишься исследователем в эпоху спутниковой фотографии, понимаешь? Вы обнаруживаете, что вы химик, пытающийся изобрести 119-е химическое вещество, потому что вам нужна должность, грант или права на хвастовство — вы стремитесь расширить свои возможности в смежных областях, потому что хотите этого, а не потому, что вам это нужно. Это ощущение, которое мы ошибочно принимаем за постоянную природу программного обеспечения, за ощущение границы. Но границы — это постоянно сокращающаяся вещь; они практически никогда не расширяются. Что сделало ранние категории программного обеспечения такими плодотворными, так это то, что каждая из них была универсальным инструментом, а не конечным вариантом использования. Электронная таблица была не просто приложением, а поверхностью, на которой можно было представить себе множество новых возможностей; веб-браузер был не пустым блокнотом, а книжной полкой, на которую можно было поместить новый блокнот, в котором затем можно было написать свою собственную историю. Каждое открывшееся направление вычислительной техники на какое-то время поднимало крылья над собой — нет Интернета без базы данных, нет YouTube без Интернета и нет Twitch без YouTube…. Категории, которые мы создаем сейчас, являются конечными. Трекер привычек (который, по-видимому, является одним из наиболее распространенных проектов по кодированию вибраций) может быть очень полезен, но он не распространяется на другие комнаты; у трекера привычек нет следующего рубежа. Приложение для планирования питания — это лист, а не ветвь, завершенная структура, а не сырье для других продуктов. Смежные области программного обеспечения кажутся мне чертовски насыщенными; новые продукты, которые мы создаем, перестали быть строительными блоками для новых вещей. Двери, которые мы сейчас открываем, ведут в комнаты, где мы уже побывали.
Вот почему виброкодеры, новоиспеченные программисты, которые могут создать рабочую программу, разговаривая с машиной, и имеют высокие амбиции в отношении того, чего они добьются, при всем своем высвобожденном потенциале производят так поразительно мало того, о чем стоит беспокоиться: почти все они создают ради этого. Я ценю романтику этого. Но о чем вам говорит тот факт, что один из наиболее часто задаваемых вопросов в подразделах vibe coding звучит так: “Что мне следует закодировать в vibe?”
“Границы моего языка означают границы моего мира” — Людвиг Витгенштейн.
Программное обеспечение — это абстракция. Это слой чистого символа, наложенный на физический мир, и его сила, его реальная и логически вытекающая из этого сила, заключается в способности перестраиваться без каких-либо затрат и почти со скоростью света. Но само программное обеспечение может манипулировать только символами. Программное обеспечение само по себе не может соприкасаться с физической реальностью, только через посредников. И так уж получилось, что все цивилизационные ценности, к которым мы на самом деле стремимся, те, ради которых мы в первую очередь стремимся создать будущее, лежат в основе реального, а не символического. Мы хотим покончить с раком; это проблема белков и клеток, а также сводящего с ума трехмерного оригами из влажной материи, и вы не сможете преобразовать опухоль. (Вам определенно не стоит повторять этот цикл….) Нам нужна неограниченная чистая энергия; это (вероятно?) на самом деле проблема заключается в том, чтобы поместить плазму, которая горячее, чем ядро Солнца, в контейнер, буквально созданный из магнетизма, и никакой элегантный код не сможет сделать это за вас, никакой крутой алгоритм не сможет изменить простую физику. Мы хотим победить смерть; это проблема «бит против атома» в ее самой чистой и тотальной форме. Плоть слаба, по крайней мере, так мне говорили. Мы хотим создать летающий автомобиль, космический лифт, лекарство, источник молодости… и мы потратили сорок или пятьдесят лет, вкладывая наш коллективный гений в это абстрактное начинание, которое по самой своей природе не может создать ничего из этого. Потому что это сделано из ничего! Потому что это все символы, расположенные поверх символов, расположенных поверх символов.
Программное обеспечение никогда не могло обеспечить будущее. Программное обеспечение было тем, что мы делали, а не будущим, потому что в нем есть четкие правила, потому что его дешево производить, потому что в его узких рамках отдача приходит быстро, а сбои легко идентифицировать и локализовать. И на этом пути мы действительно переделали внутренний мир человека; однажды я разговаривал с очень умным человеком, который сказал мне, что фундаментальная проблема современности заключается в том, что мы все принимаем за информацию, и это прозвучало мудро, хотя я его на самом деле не понимал. Я думаю, идея в том, что компьютерный век заставил нас забыть о том, что реальность важнее абстракции, что интеллект — это мощный инструмент для манипулирования языком и символами, но гораздо более ограниченный, когда дело доходит до манипулирования Вселенной, материей, атомами, реальностью. Информатика привлекательна тем, что кодом легко манипулировать. Кажется, что код может быть таким, каким мы хотим его видеть. Это “эффект яркого света”. что-то типа. В мире неподатливых атомов мы доверяли коду, который был таким послушным. Мы создали слой абстракции поверх нашей планеты и оптимизировали этот слой до совершенства именно потому, что не смогли взломать базовую реальность, а затем, доведя абстракцию до совершенства, мы рассказали себе приятную сказку на ночь о том, что за абстракцией все это время скрывалось будущее.
Цифровые технологии, какими мы их знаем, обладают хрупкостью, которая вынуждает людей приспосабливаться к ним, а не оценивать их. Все мы испытывали мучения, наблюдая, как какой-нибудь бедняга в кабинете врача пытается выполнить ожидаемые действия на экране монитора в приемной.
Лицо искажается; человечность подорвана. — Джерон Ланье
Еще одна глупая аналогия: производный финансовый инструмент и сам актив. Производный инструмент в широком смысле — это символ, ссылающийся на символ, ссылающийся на актив — представьте себе ипотечную облигацию, CDO, синтетический инструмент, состоящий из чего угодно, каждый слой чистой абстракции накладывается на слой чистой абстракции под ним…. Финансовая система может создавать и совершенствовать абстракции практически без ограничений, со скоростью клавиатуры какого-нибудь накуренного финансиста… вплоть до того момента, когда кому-то придется обналичивать абстракции и переходить к сути дела. Именно это и произошло во время финансового кризиса — оказалось, что реальными домами, реальными заемщиками, которые не смогли внести свои платежи, реальной экономикой в реальном мире нельзя манипулировать, как абстрактным уровнем. Разорившийся домовладелец бросает ключи от дома, на который наложен арест, и уходит? Да, оказывается, он был настоящим. И каким-то образом люди оказались достаточно глупыми или жадными, чтобы исключить его из своих невероятно сложных программных моделей. Мой, по общему признанию, слишком ценный аргумент здесь заключается в том, что если вы подниметесь на один уровень выше, то увидите, что все наше отношение к вычислительной технике работает одинаково: мы усложняем абстракции, чтобы не видеть, насколько мы далеки от материального мира на самом деле.
Я хотел бы предположить, что модель большого языка — это наиболее полное и соблазнительное выражение программной ловушки, о которой я говорил. В основе большой языковой модели лежит обучающий корпус, программное обеспечение, обученное на основе результатов работы другого программного обеспечения, символы, отобранные из накопленных символов всего нашего вида, абстракция, исходным материалом которой являются другие абстракции. Когда магистр права что-то ищет, он неизбежно находит себя, скажете вы. Магистр права может быть зеркалом, которое мы принимаем за реальность, которую оно отражает. И обратите внимание на направление, в котором разворачивается ажиотаж: не вовне, к материи, к вещам, к нашему непокорному физическому миру, а внутрь и вниз — к еще большему количеству кода!, больше чипов! больше вычислений!, больше уровней абстракции за абстракцией, за абстракцией за абстракцией…. Повторюсь, магистратуры создают избыточное изобилие: в чем они на самом деле хороши, так это в создании вещей, которых у нас уже было огромное количество: (цифровая) литература, (цифровые) иллюстрации, (цифровая) музыка, (цифровое) видео и код, код и еще раз код. Эра LLM порочна, потому что существует целый культ максималистов, которые искренне верят, что когда-нибудь у них будет собственная астероидная ферма, но технология, которую они предложили, чтобы добиться этого, — всего лишь еще один генератор абстракций. Мы вкладываем наши деньги, наше внимание и наши самые блестящие молодые умы в самую рекурсивную, самую обращенную внутрь себя, самую безразличную к реальности технологию, когда-либо созданную, и ждем Восхищения.
Я едва ли не первый, кто говорит это, но дело не в том, что у искусственного интеллекта есть пределы, которые мы не признаем. Дело в том, что у интеллекта есть пределы, которые мы не признаем. Я продолжаю делиться этим блестящим эссе Кима Стэнли Робинсона, в котором систематически опровергается идея о том, что однажды мы колонизируем другие солнечные системы. Я нахожу это актуальным и трогательным, потому что Робинсон так искусно демонстрирует, что эти мечты разбиваются о скалы физики, какими бы умными мы ни были. Потому что, да, ребята, есть проблемы настолько сложные, что ни у кого не хватит ума их решить. Послушайте, никто не может стоять внутри кривой и точно измерить ее дугу, и если я говорю это о шарлатанах с искусственным интеллектом, то должен сказать то же самое и о себе. Остается вероятность, что какая-то по-настоящему новая, неоткрытая категория программного обеспечения ждет нас там, в темноте, и что через несколько лет я буду выглядеть глупо. Конечно, возможно. Но я просто скажу то, что говорил с самого начала: покажите мне. Покажите мне! Покажите мне магистров, которые сбрасывают с себя суровые земные оковы и делают что-то здесь, в космическом пространстве, в мире атомов, в грязной стране железа, песка и костей, в которой мы на самом деле живем, а не в волшебной стране Хонали, которая является все более безумным воображением Кремниевой долины. Доказывать это. Покажи мне что-нибудь вместо того, чтобы постоянно говорить мне, что, по вашему мнению, должно произойти, а затем закатывать глаза в ответ на мой скептицизм. Мне нужны доказательства, потому что я совершенно уверен, что причина нашего истощения не в том, что нас больше всего истощает. Следующий этап — развития наших технологий, нашего процветания, нашего существования — не будет написан LLM, потому что он вообще не будет написан. Он будет построениз атомов, из материи, в неряшливом и неприглядном реальном мире, который не поддается обработке только потому, что код элегантен. Люди будут писать программное обеспечение до тех пор, пока есть люди, но на самом деле мы закончили разработку программного обеспечения, по крайней мере, до тех пор, пока не доберемся до мира телепортов и варп-двигателей Jetsons, а мы почти наверняка не сможем туда добраться.
Карта вероятного краткосрочного технологического прогресса, похоже, завершена. И я понимаю, что это пугает. Я понимаю, что это неудобно для фондового рынка. Я понимаю, что это выглядит удручающе. Лично я доволен тем, что живу в этом мире, пока мы готовы делать жизнь лучше для всех с помощью утомительной политической работы и солидарности, но я понимаю, почему вы можете стремиться к звездам. Но от желания ничего не зависит, и, как однажды сказал титан в области искусственного интеллекта Питер Норвиг, стремление к искусственному интеллекту может быть похоже на попытку достичь Луны, забравшись на дерево: какое-то время вы можете сообщать о стабильном прогрессе. Я здесь говорю о том, что мы очень близки к тому, чтобы ухватиться за самую высокую ветвь.
источник: Freddie DeBoer