Когда сенатор Крис Мерфи посмотрел видео “A.I. Dilemma”, он увидел знакомое лицо.
Тристан Харрис, специалист по технической этике, хорошо известный среди законодателей тем, что бил тревогу по поводу вредного воздействия социальных сетей, теперь утверждал, что искусственный интеллект представляет собой потенциально катастрофический шаг вперед — возможно, более опасный для выживания человечества, чем появление ядерного оружия.
Послание видео, которое было воспринято некоторыми технологическими светилами, такими как соучредитель Apple Стив Возняк, нашло отклик у Мерфи (D—Conn.), который быстро опубликовал твит.
“Что-то приближается. Мы не готовы”, — предупредил сенатор.
Шумиха вокруг искусственного интеллекта и страх достигли Вашингтона. После долгих лет споров о вреде социальных сетей политики обеих партий обращают свой взор на искусственный интеллект, который захватил Кремниевую долину. Законодатели с тревогой следят за гонкой вооружений в области искусственного интеллекта, вызванной взрывом чат-бота ChatGPT от OpenAI. Сверхъестественная способность технологии вести человеческие беседы, писать эссе и даже описывать изображения ошеломила ее пользователей, но вызвала новые опасения по поводу безопасности детей в Интернете и дезинформации, которая может сорвать выборы и усилить мошенничество.
Но политики приходят к новым дебатам в синяках от сражений за регулирование технологической отрасли — они не приняли всеобъемлющих законов о технологиях, несмотря на годы слушаний в Конгрессе, исторических расследований и предложений, поддерживаемых двумя партиями. На этот раз некоторые надеются действовать быстро, чтобы избежать подобных ошибок.
“Мы совершили ошибку, доверив технологической индустрии самоконтроль социальных сетей”, — сказал Мерфи в интервью. “Я просто не могу поверить, что мы находимся на грани того, чтобы совершить ту же ошибку”.
Защитники прав потребителей и титаны технологической индустрии съезжаются в округ Колумбия, надеясь повлиять на законодателей в том, что, вероятно, станет определяющим обсуждением технологической политики на месяцы или даже годы вперед. Лишь горстка вашингтонских законодателей обладает опытом в области искусственного интеллекта, что дает возможность как сторонникам развития отрасли, так и критикам влиять на дискуссии.
“Искусственный интеллект собирается коренным образом переделать общество, а мы к этому не готовы”, — сказал представитель. Тед Лью (штат Калифорния), один из немногих членов Конгресса со степенью в области компьютерных наук.
Наступление в Силиконовой долине
Компании, стоящие за ChatGPT и конкурирующими технологиями, начали упреждающее наступление charm, подчеркивая свои попытки создать искусственный интеллект ответственно и этично, по словам нескольких человек, которые говорили на условиях анонимности, чтобы описать частные разговоры. После инвестиций Microsoft в OpenAI, которые позволяют ей внедрять ChatGPT в свои продукты, президент компании Брэд Смит обсуждал искусственный интеллект во время поездок в Вашингтон. Руководители OpenAI, которые годами лоббировали интересы Вашингтона, встречаются с законодателями, которые вновь заинтересовались искусственным интеллектом после выхода ChatGPT.
Двухпартийная делегация из 10 законодателей из комитета Палаты представителей, которому поручено бросить вызов правящей Коммунистической партии Китая, на этой неделе отправилась в Силиконовую долину, чтобы встретиться с топ-менеджерами технологических компаний и венчурными капиталистами. По словам человека, близкого к комиссии Палаты представителей и компаниям, который говорил на условиях анонимности, чтобы описать частные беседы, их обсуждения были в основном сосредоточены на последних разработках в области искусственного интеллекта.
За обедом в аудитории Стэнфордского университета законодатели встретились со Смитом, президентом Google по глобальным вопросам Кентом Уокером и руководителями Palantir и Scale AI. Многие выразили готовность к тому, чтобы Вашингтон регулировал искусственный интеллект, но один из руководителей также предупредил, что существующие антимонопольные законы могут подорвать способность страны конкурировать с Китаем, где меньше ограничений на получение массовых объемов данных, сообщили the people.
Смит не согласился с тем, что искусственный интеллект должен привести к изменению законодательства о конкуренции, заявила пресс-секретарь Microsoft Кейт Фришманн.
Они также призвали федеральное правительство — особенно Пентагон — увеличить свои инвестиции в искусственный интеллект, что является потенциальным благом для компаний.
Но компании сталкиваются со все более скептическим отношением Конгресса, поскольку предупреждения об угрозе искусственного интеллекта бомбардируют Вашингтон. По словам представителя Палаты представителей, во время встреч законодатели услышали “оживленную дискуссию” о потенциальных рисках искусственного интеллекта. Майк Галлахер (R-Wis.), председатель комиссии Палаты представителей. Но он сказал, что покинул встречи, скептически относясь к тому, что Соединенные Штаты могут пойти на крайние шаги, которые предлагали некоторые технологи, например, приостановить внедрение искусственного интеллекта.
“Мы должны найти способ установить эти ограждения, в то же время позволяя нашему технологическому сектору внедрять инновации и быть уверенными, что мы внедряем инновации”, — сказал он. “Я ушел с чувством, что пауза послужит только интересам КПК, а не интересам Америки”.
Встреча в кампусе Стэнфорда проходила всего в нескольких милях от митапов на 5000 человек и вечеринок AI house, которые оживили технологический бум в Сан-Франциско, вдохновив венчурных инвесторов вложить 3,6 миллиарда долларов в 269 сделок в области искусственного интеллекта с января по середину марта, согласно данным инвестиционной аналитической компании PitchBook.
По всей стране официальные лица в Вашингтоне были заняты своей собственной бурной деятельностью. Президент Байден во вторник провел совещание, посвященное рискам и возможностям искусственного интеллекта, на котором он заслушал мнения различных экспертов из Совета советников по науке и технологиям, включая руководителей Microsoft и Google.
Сидя под портретом Авраама Линкольна, Байден сказал членам совета, что индустрия несет ответственность за то, чтобы “убедиться в безопасности своей продукции, прежде чем обнародовать ее”.
Когда его спросили, опасен ли искусственный интеллект, он сказал, что это вопрос без ответа. “Может быть”, — ответил он.
Два ведущих национальных регулятора Силиконовой долины — Федеральная торговая комиссия и Министерство юстиции — дали понять, что они внимательно следят за развивающейся сферой. Недавно FTC выпустила предупреждение, в котором говорилось, что компаниям могут грозить штрафы, если они ложно преувеличат перспективы продуктов с искусственным интеллектом и не оценят риски перед выпуском.
Главный специалист по антимонопольному надзору Министерства юстиции Джонатан Кантер заявил в прошлом месяце в South by Southwest, что его ведомство запустило инициативу под названием “Проект Гретцки”, чтобы оставаться на шаг впереди в вопросах конкуренции на рынках искусственного интеллекта. Название проекта является отсылкой к знаменитой цитате звезды хоккея Уэйна Гретцки о катании “туда, куда летит шайба”.
Несмотря на эти усилия избежать повторения одних и тех же ошибок в регулировании социальных сетей, Вашингтон продвигается гораздо медленнее, чем другие страны — особенно в Европе.
Правоохранительные органы в странах с всеобъемлющими законами о конфиденциальности уже рассматривают вопрос о том, как эти правила могут быть применены к ChatGPT. На этой неделе канадский комиссар по вопросам конфиденциальности заявил, что начнет расследование в отношении этого устройства. Это объявление последовало за решением Италии на прошлой неделе запретить чат-бота из-за опасений, что он нарушает правила, направленные на защиту частной жизни граждан Европейского союза. Германия рассматривает аналогичный шаг.
OpenAI отреагировала на новую проверку на этой неделе в сообщении в блоге, где объяснила шаги, которые она предпринимает для обеспечения безопасности искусственного интеллекта, включая ограничение личной информации о людях в наборах данных, которые она использует для обучения своих моделей.
Тем временем Лью работает над законодательством о создании правительственной комиссии по оценке рисков искусственного интеллекта и создании федерального агентства, которое будет осуществлять надзор за технологией, подобно тому, как Управление по контролю за продуктами питания и лекарствами проверяет поступающие на рынок лекарства.
Добиться согласия Палаты представителей, контролируемой республиканцами, на создание нового федерального агентства будет непросто. Он предупредил, что Конгресс в одиночку не способен достаточно быстро разработать законы, регулирующие искусственный интеллект. Предыдущие попытки разработать законодательство, затрагивающее узкий аспект искусственного интеллекта — распознавание лиц, — показали Лиу, что Палата представителей не является подходящим местом для выполнения этой работы, добавил он.
Бьющееся стекло
Харрис, специалист по технической этике, также посетил Вашингтон в последние недели, встретившись с членами администрации Байдена и влиятельными законодателями от обеих партий на Капитолийском холме, включая председателя Сенатского комитета по разведке Марка Р. Уорнера (D-Va.) и сенатора Дж. Майкл Ф. Беннет (штат Колорадо).
Вместе с Азой Раскин, с которой он основал Центр гуманных технологий, некоммерческую организацию, специализирующуюся на негативных последствиях социальных сетей, Харрис в прошлом месяце созвал группу тяжеловесов из Вашингтона, чтобы обсудить надвигающийся кризис в Национальном пресс-клубе за напитками и закусками. Они призвали к немедленному мораторию на внедрение искусственного интеллекта компаниями перед аудиторией, в которую вошли генеральный хирург Вивек Х. Мерти, республиканский социолог Фрэнк Лунц, сотрудники Конгресса и делегация сотрудников FTC, включая Сэма Левина, директора бюро по защите прав потребителей агентства.
Харрис и Раскин сравнили текущий момент с появлением ядерного оружия в 1944 году, и Харрис призвал политиков рассмотреть крайние меры для замедления внедрения искусственного интеллекта, включая исполнительный указ.
“К тому времени, когда законодатели начали пытаться регулировать социальные сети, они уже были глубоко переплетены с нашей экономикой, политикой, СМИ и культурой”, — сказал Харрис The Washington Post в пятницу. “Искусственный интеллект, вероятно, будет внедряться гораздо быстрее, и, решив проблему сейчас, пока не стало слишком поздно, мы сможем использовать мощь этой технологии и обновить наши институты”.
Это сообщение, похоже, нашло отклик у некоторых настороженных законодателей — к разочарованию некоторых экспертов по искусственному интеллекту и специалистов по этике.
Сенатор Майкл Ф. Беннет (штат Колорадо) процитировал твиты Харриса в мартовском письме руководителям Open AI, Google, Snap, Microsoft и Facebook, в котором призвал компании раскрыть меры предосторожности, защищающие детей и подростков от чат-ботов на базе искусственного интеллекта. В Твиттере было показано, как искусственный интеллект чат-бота Snapchat рассказывает вымышленной 13-летней девочке о том, как солгать своим родителям о предстоящей поездке с 31-летним мужчиной, и дает советы о том, как потерять девственность. (Snap объявила во вторник, что внедрила новую систему, которая учитывает возраст пользователя при вступлении в разговор.)
Мерфи воспользовался примером из видео Харриса и Раскина, написав в Твиттере, что ChatGPT “научился заниматься продвинутой химией”, подразумевая, что у него развились человеческие способности.
“Пожалуйста, не распространяйте дезинформацию”, — предупредил в ответ Тимнит Гебру, бывший соруководитель группы Google, занимающейся этичным искусственным интеллектом. “Наша работа по противодействию шумихе достаточно сложна и без участия политиков”.
В электронном письме Харрис сказал, что “политики и технологи не всегда говорят на одном языке”. В его презентации не говорится, что ChatGPT сам обучался химии, но в ней цитируется исследование, которое показало, что чат-бот обладает химическими возможностями, которые ни один человек-дизайнер или программист намеренно не предоставлял системе.
Множество представителей отрасли и экспертов выразили несогласие с твитом Мерфи; его офис направляет запросы на проведение брифингов, сказал он в интервью. Мерфи говорит, что он знает, что искусственный интеллект не обладает разумом и не обучается сам по себе, но что он пытался рассказать о чат-ботах в доступной форме.
Критика, по его словам, “согласуется с более широкой кампанией позора, которую индустрия использует, чтобы заставить политиков замолчать”.
“Технологический класс думает, что они умнее всех остальных, поэтому они хотят создать правила для внедрения этой технологии, но они также хотят получить экономическую выгоду”.
Ниташа Тику внесла свой вклад в этот отчет.