Тайные вечеринки, роскошные фуршеты и разговоры об уничтожении на одной из крупнейших конференций по исследованию искусственного интеллекта
Автор: Алекс Рейснер
Illustration by Matteo Giuseppe Pani / The Atlantic
На прошлой неделе в маленькой комнате в Сан-Диего мужчина в черной кожаной куртке объяснил мне, как спасти мир от уничтожения с помощью искусственного интеллекта. Макс Тегмарк, известная фигура в движении за безопасность искусственного интеллекта, считает, что “искусственный интеллект общего назначения”, или AGI, может ускорить конец человеческой жизни. Я был в городе на NeurIPS, одной из крупнейших конференций по исследованию ИИ, и Тегмарк пригласил меня вместе с пятью другими журналистами на брифинг, посвященный индексу безопасности ИИ, который он должен был опубликовать на следующий день. Ни одна компания не получила более высокой оценки, чем С+.
Угроза, исходящая от технологического сверхразума, является предметом научной фантастики, однако в последние несколько лет она стала предметом серьезного обсуждения. Несмотря на отсутствие четкого определения — даже генеральный директор OpenAI Сэм Альтман назвал AGI “слабо определенным термином” — идея о том, что мощный искусственный интеллект таит в себе угрозу человечеству, получила признание.
Сэм Альтман — https://blog.samaltman.com/three-observations
Три наблюдения
Наша миссия — обеспечить, чтобы искусственный общий интеллект (AGI) приносил пользу всему человечеству.
Появляются системы, которые начинают указывать на принадлежность к категории искусственного общего интеллекта (AGI*), поэтому мы считаем важным понимать, в какой момент мы находимся. AGI — это довольно расплывчатый термин, но в целом мы подразумеваем под ним систему, способную решать все более сложные проблемы на человеческом уровне во многих областях.
Люди — создатели инструментов, обладающие врожденным стремлением к пониманию и созиданию, что делает мир лучше для всех нас. Каждое новое поколение опирается на открытия предыдущих поколений, создавая еще более совершенные инструменты — электричество, транзистор, компьютер, интернет, а вскоре и искусственный общий интеллект.
С течением времени, с перерывами, неуклонное развитие человеческих инноваций принесло ранее невообразимые уровни процветания и улучшения практически во всех аспектах жизни людей.
В каком-то смысле, искусственный общий интеллект — это всего лишь еще один инструмент в этом постоянно растущем каркасе человеческого прогресса, который мы строим вместе. В другом смысле, это начало чего-то, о чем трудно не сказать: «На этот раз все по-другому»; экономический рост, который нас ожидает, выглядит поразительным, и теперь мы можем представить себе мир, где мы излечим все болезни, будем иметь гораздо больше времени, чтобы проводить его с семьей, и сможем в полной мере реализовать свой творческий потенциал.
Возможно, через десять лет каждый человек на Земле сможет достичь большего, чем самый влиятельный человек сегодня.
Мы продолжаем наблюдать стремительный прогресс в развитии ИИ. Вот три наблюдения об экономике ИИ:
1. Интеллект модели ИИ примерно равен логарифму ресурсов, затраченных на её обучение и запуск. Эти ресурсы в основном включают вычислительные ресурсы для обучения, данные и вычислительные ресурсы для вывода результатов. Похоже, что можно потратить произвольные суммы денег и получить непрерывный и предсказуемый прирост; законы масштабирования, предсказывающие это, точны на протяжении многих порядков величины.
2. Стоимость использования ИИ определенного уровня снижается примерно в 10 раз каждые 12 месяцев, а более низкие цены приводят к гораздо более широкому применению. Это можно увидеть на примере стоимости токенов от GPT-4 в начале 2023 года до GPT-4o в середине 2024 года, где цена за токен упала примерно в 150 раз за этот период. Закон Мура меняет мир в 2 раза каждые 18 месяцев; это невероятно сильный пример.
3. Социально-экономическая ценность линейно возрастающего интеллекта носит сверхэкспоненциальный характер. Следствием этого является то, что мы не видим причин для прекращения экспоненциального роста инвестиций в ближайшем будущем.
Если эти три наблюдения останутся верными, последствия для общества будут значительными.
Сейчас мы начинаем внедрение агентов на основе искусственного интеллекта, которые в конечном итоге будут ощущаться как виртуальные коллеги.
Представим себе ситуацию с агентом-программистом, от которого мы ожидаем особой важности. Предположим, что этот агент в конечном итоге сможет выполнять большинство задач, с которыми справится программист в ведущей компании с несколькими годами опыта, и это займет до нескольких дней. У него не будет каких-то грандиозных новых идей, ему потребуется много человеческого контроля и руководства, и он будет отлично справляться с одними задачами, но на удивление плохо — с другими.
Тем не менее, представьте его как реального, но относительно молодого виртуального коллегу. Теперь представьте 1000 таких. Или 1 миллион таких. А теперь представьте таких агентов в каждой области работы с знаниями.
В некотором смысле, ИИ может оказаться в экономическом плане похожим на транзистор — крупное научное открытие, которое хорошо масштабируется и проникает практически во все сферы экономики. Мы не часто задумываемся о транзисторах или компаниях, производящих транзисторы, и выгоды от их использования распределяются очень широко. Но мы ожидаем, что наши компьютеры, телевизоры, автомобили, игрушки и многое другое будут творить чудеса.
Мир не изменится в одночасье; так никогда не бывает. В краткосрочной перспективе жизнь в основном останется прежней, и люди в 2025 году будут проводить большую часть времени так же, как и в 2024 году. Мы по-прежнему будем влюбляться, создавать семьи, ссориться в интернете, ходить в походы на природу и так далее.
Но будущее наступит так, что его невозможно будет игнорировать, и долгосрочные изменения в нашем обществе и экономике будут огромными. Мы найдем новые занятия, новые способы быть полезными друг другу и новые способы конкурировать, но они могут быть совсем не похожи на сегодняшние профессии.
Самостоятельность, воля и решительность, вероятно, окажутся чрезвычайно ценными. Правильное принятие решений и умение ориентироваться в постоянно меняющемся мире будут иметь огромное значение; стойкость и адаптивность станут полезными навыками, которые следует развивать. Искусственный общий интеллект станет самым мощным рычагом воздействия на человеческую волю и позволит отдельным людям оказывать большее влияние, чем когда-либо прежде, а не меньшее.
Мы ожидаем, что влияние искусственного общего интеллекта будет неравномерным. Хотя некоторые отрасли изменятся очень незначительно, научный прогресс, вероятно, будет намного быстрее, чем сегодня; это влияние искусственного общего интеллекта может превзойти все остальное.
Цены на многие товары в конечном итоге резко упадут (сейчас стоимость интеллекта и энергоносителей ограничивает многое), а цены на предметы роскоши и некоторые изначально ограниченные ресурсы, такие как земля, могут вырасти еще более резко.
С технической точки зрения, путь перед нами выглядит довольно ясным. Но государственная политика и коллективное мнение о том, как следует интегрировать искусственный общий интеллект в общество, имеют огромное значение; одна из причин, по которой мы запускаем продукты на ранних этапах и чаще, заключается в том, чтобы дать обществу и технологии время для совместной эволюции.
Искусственный интеллект проникнет во все сферы экономики и общества; мы будем ожидать, что всё будет «умным». Многие из нас ожидают, что нам придётся предоставить людям больше контроля над технологиями, чем это было исторически, включая более открытый исходный код, и признают, что существует баланс между безопасностью и расширением прав и возможностей личности, который потребует компромиссов.
Хотя мы никогда не хотим быть безрассудными, и, вероятно, будут приняты некоторые важные решения и введены ограничения, связанные с безопасностью ИИ, которые вызовут недовольство, в целом, по мере приближения к созданию ИИ, мы считаем, что тенденция к расширению прав и возможностей отдельных лиц имеет важное значение; другой вероятный путь, который мы видим, — это использование ИИ авторитарными правительствами для контроля над населением посредством массового наблюдения и лишения автономии.
Крайне важно обеспечить широкое распространение преимуществ искусственного общего интеллекта. Историческое влияние технологического прогресса показывает, что большинство важных для нас показателей (результаты в области здравоохранения, экономическое процветание и т. д.) в среднем и в долгосрочной перспективе улучшаются, однако повышение равенства, по-видимому, не обусловлено технологическими факторами, и для достижения этой цели могут потребоваться новые идеи.
В частности, кажется, что баланс сил между капиталом и трудом может легко нарушиться, и это может потребовать своевременного вмешательства. Мы открыты для таких необычных идей, как выделение «вычислительного бюджета», чтобы каждый человек на Земле мог активно использовать ИИ, но мы также видим множество способов, с помощью которых простое неуклонное снижение стоимости интеллекта до минимума может дать желаемый эффект.
В 2035 году каждый должен обладать интеллектуальным потенциалом, эквивалентным потенциалу всех людей в 2025 году; каждый должен иметь доступ к безграничному гению, чтобы направлять его так, как он только может себе представить. Сейчас существует огромное количество талантов, но им не хватает ресурсов для полного самовыражения, и если мы это изменим, то в результате творческая деятельность в мире принесет огромную пользу всем нам.
источник: https://www.theatlantic.com/technology/2025/12/neurips-ai-bubble-agi/685250/