Когда исследователь Джейкоб Коксон на этой неделе ушел из Anthropic и заявил, что есть большая вероятность того, что работа компании приведет к вымиранию человечества, мир отреагировал на ИИ со страхом и возмущением, но большая часть негативной реакции связана с несколькими проблемами, включая экологические издержки центров обработки данных, хакерские атаки и влияние ИИ на окружающую среду и рынок труда.

Если законодатели, регулирующие органы и руководители технологических компаний не будут подходить к каждой проблеме со всей тщательностью, отрасль рискует быть вынужденной следовать правилам, которые ничего не решают или, что еще хуже, замедляют инновации, в том числе в области разработок, которые могли бы сделать ИИ более безопасным и полезным для экономики.

Например, многие сторонники безопасности ИИ на самом деле предпочли бы, чтобы центры обработки данных строились здесь, на наших собственных задворках. Если они переместятся за границу, их будет сложнее контролировать и регулировать. Проблема, которую необходимо решить, связана с растратой энергии, а не с их существованием.

Слепо верить сторонникам, которые говорят, что ИИ может убить нас, означает упускать из виду некоторые реальные риски, такие как экономическая или социальная дестабилизация, поскольку ИИ меняет способы работы и общения людей. Эти сторонники, во многих случаях, не обеспокоены этими проблемами и верят, что если человечество каким-то образом переживет эпоху искусственного интеллекта, то нас ждет утопическое будущее, полное изобилия здравоохранения и научных открытий.

Мы также находимся в начале кризиса кибербезопасности, с которым мир практически не в состоянии справиться. Мы можем столкнуться с риском биотерроризма, о чем компания Anthropic предупредила в своем блоге на этой неделе. И хотя искусственный интеллект, вероятно, создаст много новых рабочих мест, мы мало что сделали для того, чтобы обычные люди, не связанные с технологической индустрией, получили экономическую выгоду от бума искусственного интеллекта.

“Еще в марте 2024 года я писал о том, что термин “безопасность ИИ» расширяется и включает в себя все больше и больше проблем, которые выходят за рамки «исчезновения”. Сторонники, такие как Элиэзер Юдковски, сказали мне тогда, что использование этого термина было плохой идеей. Это по-прежнему так. И отставка Кэксона используется в качестве универсального оружия для всех, кто имеет что-либо против ИИ.