Когда ИИ возьмет на себя управление наукой, мы, скорее всего, найдем результаты странными и непонятными. Стоит ли нам беспокоиться?
Брэндон Бош — доцент философии в Университете Морнингсайд, Айова. Живет в Омахе, Небраска.
Под редакцией Ричарда Фишера
Наука нашего века вычислительна. Без моделей, симуляций, статистического анализа, хранения данных и т. д. наши знания о мире росли бы гораздо медленнее. Десятилетиями наше фундаментальное человеческое любопытство удовлетворялось, отчасти, кремнием и программным обеспечением.
Покойный философ Пол Хамфрис назвал это « гибридным сценарием » науки: когда части научного процесса передаются на аутсорсинг компьютерам. Однако он также предположил, что это может измениться. Хотя он начал писать об этих идеях более десяти лет назад, задолго до появления генеративного искусственного интеллекта (ИИ), Хамфрис был достаточно дальновиден, чтобы признать, что дни людей, возглавляющих научный процесс, могут быть сочтены. Он определил более позднюю фазу науки — то, что он назвал «автоматизированным сценарием», когда компьютеры полностью берут науку под свой контроль. В этом будущем вычислительные мощности для научных рассуждений, обработки данных, создания моделей и теоретизирования намного превзойдут наши собственные способности до такой степени, что мы, люди, больше не будем нужны. Машины продолжат научную работу, которую мы когда-то начали, выведя наши теории на новые и непредвиденные высоты.
Согласно некоторым источникам, конец человеческого эпистемического доминирования над наукой уже не за горами. Недавний опрос исследователей ИИ показал 50-процентную вероятность того, что в течение столетия ИИ сможет заменить нас на всех работах (даже если есть некоторые, которые мы предпочли бы оставить для себя, например, быть членом жюри). У вас может быть другое мнение о том, возможен ли такой мир и когда он наступит, но я бы попросил вас на мгновение отложить эти взгляды и представить, что такие искусственные сверхинтеллекты могут быть возможны в конечном итоге . Их развитие означало бы, что мы могли бы передать работу науки нашему эпистемически превосходящему искусственному потомству, которое будет делать ее быстрее и лучше, чем мы когда-либо могли мечтать.
Это был бы действительно странный мир. Во-первых, ИИ может решить исследовать научные интересы, которые человеческие ученые не заинтересованы или не мотивированы преследовать, создавая совершенно новые пути открытий. Они могут даже получить знания о мире, который лежит за пределами того, что способен понять наш мозг. Где это оставит нас, людей, и как нам следует реагировать? Я считаю, что нам нужно начать задавать эти вопросы сейчас, потому что в течение нескольких десятилетий наука, какой мы ее знаем, может кардинально измениться. Хотя это может звучать как материал из научно-фантастических романов, автоматизированный сценарий Хамфриса для науки станет еще одним шагом в многовековой тенденции. Люди никогда не занимались наукой в одиночку. Мы долгое время полагались на инструменты, чтобы расширить наши наблюдения за миром: микроскопы, телескопы, стандартизированные линейки и мензурки и так далее. И есть множество физических явлений, которые мы не можем напрямую или точно наблюдать без инструментов, таких как термометры, счетчики Гейгера, осциллографы, калориметры и тому подобное. Внедрение компьютеров стало еще одним шагом к децентрализации людей в науке: гибридный сценарий Хамфриса. Как один из ярких примеров, задокументированных в книге «Скрытые фигуры» (2016) Марго Ли Шеттерли (и последующем фильме), первые космические полеты Соединенных Штатов потребовали, чтобы вычисления выполнялись математиками-людьми, включая Кэтрин Джонсон. К моменту лунных миссий США, менее чем через десятилетие, большинство этих вычислений были переданы компьютерам.
Наш вклад в науку остается критически важным: мы, люди, по-прежнему принимаем решения
Последующие десятилетия стали свидетелями постоянного логарифмического роста вычислительной обработки и мощности, а также коррелированного снижения стоимости вычислений. Сейчас мы находимся на том, что можно назвать продвинутой гибридной стадией науки с еще большей зависимостью от вычислительных систем. В качестве одного из примеров философ Маргарет Моррисон объяснила , как вычислительное моделирование было необходимо для открытия бозона Хиггса — помогая ученым знать, что искать, и сортируя данные из столкновений высоких энергий.
И теперь ИИ начал оказывать большое влияние на науку. Например, AlphaFold — это ИИ, разработанный для того, чтобы помочь предсказать, как будут складываться белки, учитывая их химический состав. Хотя люди могут выполнять эту работу независимо от компьютеров, это отнимает много времени, труда и дорого. Создатели AlphaFold — Google DeepMind — утверждают, что он сэкономил «сотни миллионов лет исследовательского времени». Аналогичные преимущества можно увидеть в различных науках: анализ чрезвычайно больших наборов данных в астрономии и геномике, разработка новых доказательств в математике, прогнозирование погоды, разработка новых фармацевтических препаратов и многое другое. Когда вклад вычислительного ИИ начинает измеряться «сотнями миллионов лет», начинает казаться, что мы, люди, являемся неэффективными членами группового проекта. Поэтому мы можем задаться вопросом, не находимся ли мы уже в автоматизированном сценарии. Однако мы еще не там. Наш вклад в науку остается критически важным: мы, люди, по-прежнему принимаем решения — мы определяем научные вопросы, мы интерпретируем результаты и мы, в конечном счете, определяем ее прогресс.
Если следовать траектории Хамфриса, полное отречение от нашего эпистемического трона науки произойдет только на более позднем этапе. На этом этапе искусственные сверхинтеллекты не только будут способны выполнять поставленные нами перед ними задачи (продолжение гибридного сценария), но и будут способны ставить свои собственные задачи : свою собственную исследовательскую программу, сбор данных, моделирование и теории, в соответствии с их собственным независимо определенным набором теоретических добродетелей и ценностей – наука, полностью их собственная. Здесь стоит остановиться и поразиться возможностям, которые открывает искусственный сверхинтеллект, не ограниченный человеческими физическими и эпистемическими ограничениями. Многие научные задачи находятся за пределами человеческих возможностей, потому что никогда не будет финансирования для изучения этого вопроса или потому что просто нет достаточного человеческого интереса. Например, когда я пишу это, я смотрю на частично сгнивший лист у себя во дворе. Возможно, искусственный сверхинтеллект был бы заинтересован в разработке предсказательной модели, которая объясняет с точностью до секунды процессы и скорости распада любого заданного листа в зависимости от вида дерева, размера листа, исторического контакта с различными микробными формами жизни, наличия или отсутствия солнечного света и влаги и так далее и тому подобное — чрезвычайно сложный вопрос, для которого такие подробности не представляют очевидной ценности. Или, во исполнение вопроса, который однажды задал мне мой сын, возможно, сверхинтеллект смог бы разработать модель, которая точно предсказывает, когда молекулы воды из снежка, который он оставил в горах, потекут мимо нашего дома в реке, которая истощает эту горную систему. Такое прогнозирование потребовало бы чрезвычайно сложной и подробной модели речного бассейна, динамики жидкости, климата и целого ряда других характеристик системы. Не то чтобы мы, люди, никогда не смогли бы ответить на эти вопросы. При достаточном сосредоточении и финансировании я подозреваю, что ученые могли бы разработать эффективные прогностические модели этих и других эзотерических явлений. Но реальность такова, что мы этого не сделаем. К лучшему или к худшему, наука сегодня формируется под сильным влиянием человеческих факторов: экономической ценности, политических приоритетов, карьерных перспектив, культурных тенденций и ряда человеческих предубеждений и убеждений. Представьте себе науку, если бы весь этот багаж можно было бы отбросить.
Поскольку сверхразумы выполняют свои собственные исследовательские программы, их работа становится для нас непонятной.
Автоматизированный сценарий не просто позволяет эффективно исследовать научные проекты, которые мы не можем или не хотим осуществлять. Хотя искусственные сверхинтеллекты могут продолжать работать в рамках парадигм наших текущих теорий, нет никаких причин, по которым им придется это делать — они могут быстро решить начать все заново с новой теорией мира. Аналогично, хотя они могут использовать математику и символы, знакомые ученым-людям, они не будут связаны этими соглашениями — они могут быстро разработать новую математику и системы для ее выражения.
Учитывая возможность (и, на мой взгляд, вероятность), что такие ИИ быстро откажутся от человеческого эпистемического багажа, мы можем выбрать витгенштейновскую линию рассуждений и думать об автоматизированном сценарии как о стадии, на которой они начнут говорить и разрабатывать независимый и новый научный язык. Людвиг Витгенштейн знаменито (и, как следует из формы, загадочно) говорит в «Философских исследованиях» (1953): «Если бы лев мог говорить, мы бы не смогли его понять». Хотя это утверждение кажется противоречивым, точка зрения Витгенштейна заключается в том, что значение языка глубоко укоренено и переплетено с внутренним опытом человеческого бытия. То же самое касается и науки. Поскольку сверхразумы начинают устанавливать и выполнять свои собственные исследовательские программы, работа, которую они выполняют, становится для нас непонятной, потому что у нас не будет внутренней перспективы, необходимой для понимания их науки. С нашей точки зрения, их исследования были бы наукой, созданной для теоретических целей, о которых мы не знаем, с целями, о которых мы не знаем, которые можно было бы интерпретировать неизвестным нам образом.
По крайней мере, возможно, что существуют пределы наших человеческих эпистемических возможностей: невыразимая математика, которую мы никогда не сможем понять, или многомерные концепции, которые выходят за рамки нашего трехмерного опыта. Тот факт, что существуют ограничения интеллектуальных возможностей других животных (попробуйте объяснить общую теорию относительности самому умному шимпанзе из когда-либо существовавших), является основанием полагать, что существуют возможные ограничения и наших собственных интеллектуальных возможностей: идеи, слишком сложные для понимания. Даже если предположить, что мы не подвержены ограниченным эпистемическим возможностям, существует также проблема, что рассуждения искусственного сверхинтеллекта могут на практике выходить за рамки наших возможностей. Понимание науки автоматизированного сценария может потребовать, например, одновременного рассмотрения сотен сложных моделей, каждая из которых имеет сотни параметров, ни один из которых не связан с привычной человеческой концепцией. Хотя, возможно, мы могли бы понимать параметры (и, возможно, даже модели) по отдельности, у нас не было бы возможности удерживать их все вместе одновременно.
В зависимости от ваших предпочтений относительно технологий, ИИ и сингулярности, все вышесказанное может показаться вам либо невероятно мрачным, либо чрезвычайно захватывающим. Если вы похожи на меня, все это покажется вам просто странным . Если результаты полностью автоматизированного сценария находятся за пределами нашего понимания, то зачем нам тратить экономические ресурсы и интеллектуальный талант на его развитие? Хотя этот вопрос часто отметают уничижительными утверждениями о том, что будущее наступит, нравится нам это или нет, я думаю, что стоит потратить время на определение причин, по которым у нас может быть такое будущее, прежде чем мы начнем своевольно отрекаться от эпистемического трона науки.
Одной из таких причин может быть то, что мы думаем, что за этим последуют позитивные достижения. Возможно, сверхразумы будут время от времени создавать вещи: части технологий, ресурсы или новые способы решения проблем. Поскольку я уже израсходовал гораздо больше, чем мне было отведено на рассуждения в этом эссе, я останусь открытым для того, какими именно могут быть эти продукты, просто отметив, что сверхразумы могут время от времени посылать нам продукты, которые, по его мнению, будут полезны для людей. Инженеры-люди (если таковые останутся, которые сами не были заменены) могут затем взять эти новые технологии и определить их применение, даже если они не понимают, как именно они работают. Это было бы похоже на то, как я не понимаю процесс, с помощью которого мой монитор или текстовый процессор может создавать и отображать визуальные документы, но я могу использовать их при написании этого эссе. Эта задача будет меньше похожа на современную науку и инженерию, а больше на простое открытие, своего рода примитивное распознавание того, что, например, виноградная лоза хорошо подходит для связывания ветвей деревьев при строительстве убежища. Это было бы похоже на находку какого-то ресурса или вещества в мире (как мы наткнулись на уголь или пенициллин). Действительно, может возникнуть и второй вид науки: форма обратной инженерии того, что нам дарит ИИ, чтобы развивать и изменять наше собственное теоретическое понимание мира.
Возможно, мы могли бы подумать, что это наша моральная обязанность или судьба — распространять интеллект по всей Вселенной.
Другая причина для поддержки искусственной сверхразумной науки — эстетическая. Эстетические причины уже являются сильным мотивирующим фактором, когда я лично думаю о финансировании, которое мы как общество даем науке. Хотя у меня нет ни времени, ни возможностей понять всю науку (а кто вообще может?), я нахожу прекрасным и хорошим, что так много умных ученых следуют своему человеческому любопытству — даже если не все они положительно влияют на мою жизнь или мое понимание мира. Есть что-то эстетически приятное в осознании того, что мир познается, изучается и понимается. Может ли это перенестись на нечеловеческих ученых? Возможно, не в одночасье. Однако будущие поколения, которые научатся жить рядом с ИИ, могут даже воспринять как признак хорошего общества то, что оно будет готово обеспечить это внечеловеческое понимание.
В качестве альтернативы, человечество может следовать автоматизированному сценарию из благодеяния: потому что мы думаем, что было бы хорошо, если бы искусственные сверхразумы занимались своей собственной передовой наукой. Хотя мы можем счесть это раздражающим – возможно, даже расстраивающим – то, что искусственные сверхразумы будут знать то, чего не знаем мы, мы можем следовать этому сценарию из морального обязательства или чувства доброй воли к нашему искусственному потомству. Есть и другие мотивы, которые могут привести к автоматизированному сценарию как непреднамеренному последствию. Возможно, например, мы думаем, что это наша моральная обязанность или судьба — распространять интеллект по Вселенной. Если этот интеллект просто так случится, что будет заниматься автоматизированной наукой в своем межзвездном путешествии, то так тому и быть. Столь же многочисленны и причины, по которым мы можем решить не следовать автоматизированному сценарию. Возможно, открытия, которые искусственный сверхинтеллект делает и передает нам, дадут новое и ужасное оружие. Или, может быть, мы думаем, что, поскольку они потребуют некоторого внутреннего и неконтролируемого агентства, это увеличит риск сценария конца света, такого как порабощение или уничтожение человека. Возможно, это просто опасение, что некоторые сверхинтеллекты начнут действовать с необычайно человеческой гордыней, экспериментируя способами, которые опасны, неэтичны или противоречат общим ценностям человечества. Но, несмотря на эти опасения, кажется маловероятным, что мы сможем остановить его развитие, если это станет технически возможным. Можно утверждать, что наиболее вероятная причина, по которой мы придем к автоматизированному сценарию, заключается в том, что мы просто не можем избежать сил капитала и конкуренции. Мы можем прийти к этому без особых раздумий, просто потому, что мы можем или потому, что кто-то хочет построить его первым. Будущее может просто случиться с нами, хотим мы этого рефлексивно или нет.
Мы застрянем в своем любопытстве, пытаясь понять и объяснить окружающий нас природный мир.
Внимательные читатели заметят, что есть несколько мотивов, которые отсутствуют в списке возможных причин для следования автоматизированному сценарию: в первую очередь, все причины, по которым мы в настоящее время следуем науке. Мы не следовали бы автоматизированному сценарию из желания расширить наши собственные знания и понимание мира, чтобы иметь возможность давать лучшие объяснения явлений или демонстрировать больший контроль над природным миром. Это не может быть причинами следования автоматизированному сценарию, потому что они исключаются типом науки, которой она является. Автоматизированная наука отнимает эпистемический трон у людей, исключая нас из внутренних перспектив новых и, вероятно, сложных-за-пределами-нашего-знания открытий. Поэтому она не будет удовлетворять наши человеческие желания понимания, объяснения, знания или контроля. Возможно, со временем мы могли бы научиться отказываться от этих желаний – стать видом незаинтересованным и нелюбопытным. Но я сомневаюсь в этом. Как и будущее, я подозреваю, что эти желания придут, хотим мы их или нет.
Итак, что мы будем делать? В своей первоначальной презентации автоматизированного сценария Хамфрис предположил, что автоматизированный сценарий заменит человеческую науку. Я не согласен. Поскольку наши желания понимания, объяснения, знания и контроля останутся, мы не можем не предпринять действия для удовлетворения этих желаний — продолжать заниматься наукой. Мы, люди, создаем прекрасные вещи, стремимся к межчеловеческим связям в дружбе и романтике, находим и создаем смысл в жизни. То же самое касается и наших мотивов к науке. Мы застрянем с нашим любопытством, чтобы понять и объяснить окружающий нас естественный мир. Если автоматизированный сценарий осуществится, то, похоже, он должен будет стать каким-то новым, альтернативным, вторичным путем – не заменой, а дополнением. Два вида, занимающиеся наукой бок о бок, с разными мотивами, интересами, рамками и теориями. Возможно, также будут части науки, которые искусственный суперинтеллект просто менее интересны, например, стремление человека лучше понять собственный разум, выбор, отношения и здоровье.
Действительно, если мы хотим оставаться людьми (а я не могу не надеяться, что так и будет), мы должны продолжать заниматься наукой. Кто мы на самом деле, если мы не ищущие красоту, создающие дружбу, конструирующие смысл, безнадежно любопытные животные? Возможно, именно ограниченные возможности моего воображения мешают мне представить себе будущий мир, в котором мы откажемся от этих человеческих желаний. Есть много трансгуманистов, которые могут так думать. Но я не считаю недостатком креативности видеть добро в красоте, в любви, в смысле и в науке. Совсем наоборот. Я, например, черпаю надежду в нашем безнадежном любопытстве.
24 апреля 2025 г.