New York CNN — Папа Франциск одет в массивный белый пуховик. Илон Маск идет рука об руку с генеральным директором конкурирующей GM Мэри Барра. Бывший президент Дональд Трамп был драматически задержан полицией.
Ничего из этого на самом деле не произошло, но сгенерированные искусственным интеллектом изображения, изображающие это, за последнюю неделю стали вирусными в Интернете.
Изображения варьировались от явно поддельных до, в некоторых случаях, убедительно реальных, и они ввели в заблуждение некоторых пользователей социальных сетей. Модель и телеведущая Крисси Тейген, например, написала в Твиттере, что, по ее мнению, пуховик Папы Римского был настоящим, сказав: “Не придала этому значения. я ни за что не переживу будущее технологий”. Изображения также вызвали множество заголовков, поскольку новостные организации поспешили развенчать ложные изображения, особенно изображения Трампа, которому в конечном счете было предъявлено обвинение большим жюри Манхэттена в четверг, но он не был арестован.
Ситуация демонстрирует новую онлайн-реальность: появление нового поколения мощных инструментов искусственного интеллекта сделало создание реалистичных изображений, а также аудио- и видеозаписей более дешевым и простым, чем когда-либо. И эти изображения, вероятно, будут все чаще появляться в социальных сетях.
В то время как эти инструменты искусственного интеллекта могут предоставить новые средства выражения креативности, распространение компьютерных МЕДИА также угрожает дальнейшим загрязнением информационной экосистемы. Это может усложнить задачу пользователям, новостным организациям и платформам социальных сетей по проверке того, что реально, после многих лет борьбы с онлайн-дезинформацией с гораздо менее изощренными визуальными эффектами. Существуют также опасения, что изображения, сгенерированные искусственным интеллектом, могут быть использованы для домогательств или для дальнейшего разобщения разделенных пользователей Интернета.
“Я беспокоюсь, что дело дойдет до того, что в Интернете будет так много поддельного, в высшей степени реалистичного контента, что большинство людей просто будут руководствоваться своими племенными инстинктами в качестве руководства к тому, что они считают реальным, больше, чем на самом деле обоснованными мнениями, основанными на проверенных доказательствах”, — сказал Генри Айдер, исследователь эксперт по синтетическим МЕДИА, который работает советником в компаниях и правительственных учреждениях, включая Европейский консультативный совет Meta Reality Labs.
Изображения, по сравнению с текстом, генерируемым искусственным интеллектом, который также недавно получил распространение благодаря таким инструментам, как ChatGPT, могут быть особенно мощными в провоцировании эмоций при просмотре их людьми, сказала Клэр Лейбович, глава отдела искусственного интеллекта и целостности МЕДИА некоммерческой отраслевой группы Partnership on AI. Это может затруднить людям замедление и оценку того, является ли то, на что они смотрят, реальным или поддельным.
Более того, скоординированные злоумышленники могут в конечном итоге попытаться массово создавать поддельный контент — или предположить, что реальный контент сгенерирован компьютером, — чтобы запутать пользователей Интернета и спровоцировать определенное поведение.
“Паранойя из-за надвигающегося ареста Трампа… создала действительно полезное тематическое исследование для понимания потенциальных последствий, и я думаю, нам очень повезло, что все не пошло наперекосяк”, — сказал Бен Декер, генеральный директор threat intelligence group Memetica. “Потому что, если бы большему количеству людей пришла в голову эта идея в массовом порядке, скоординированным образом, я думаю, что есть вселенная, где мы могли бы начать видеть эффекты от онлайн до оффлайн”.
Быстро развивающийся инструмент
В последние годы технология создания компьютерных изображений быстро совершенствовалась: от отфотошопленного изображения акулы, плывущей по затопленному шоссе, которым неоднократно делились во время стихийных бедствий, до веб-сайтов, которые четыре года назад начали выпускать в основном неубедительные поддельные фотографии несуществующих людей.
Многие из недавних вирусных изображений, сгенерированных искусственным интеллектом, были созданы с помощью инструмента под названием Mid journey, платформы, которой меньше года, и которая позволяет пользователям создавать изображения на основе коротких текстовых подсказок. На своем веб-сайте Midjourney описывает себя как “небольшую самофинансирующуюся команду”, состоящую всего из 11 штатных сотрудников.
Беглый взгляд на страницу Facebook, популярную среди пользователей Midjourney, показывает созданные искусственным интеллектом изображения, на первый взгляд, нетрезвого Папы Франциска, пожилых версий Элвиса и Курта Кобейна, Маска в роботизированном комбинезоне Tesla и многих жутких созданий животных. И это только за последние несколько дней.
Последняя версия Midjourney доступна только избранному числу платных пользователей, сообщил CNN генеральный директор Midjourney Дэвид Хольц в электронном письме в пятницу. Midjourney на этой неделе приостановил доступ к бесплатной пробной версии своих ранних версий из-за “чрезвычайного спроса и злоупотреблений в пробной версии”, согласно сообщению Discord от Holz, но он сказал CNN, что это не связано с вирусными изображениями. Создатель изображений ареста Трампа также утверждал, что его забанили на сайте.
Страница правил на сайте Discord компании просит пользователей: “Не используйте наши инструменты для создания изображений, которые могут воспламенить, расстроить или вызвать драму. Это включает в себя кровь и контент для взрослых”.
“Умеренность — это сложно, и скоро мы отправим улучшенные системы”, — сказал Хольц CNN. “Мы получаем множество отзывов и идей от экспертов и сообщества и стараемся быть действительно вдумчивыми”.
В большинстве случаев создатели недавних вирусных изображений, по-видимому, не действовали злонамеренно. Изображения ареста Трампа были созданы основателем интернет-издания Bellingcat, занимающегося журналистскими расследованиями, который явно назвал их своими измышлениями, даже если другие пользователи социальных сетей были не столь проницательны.
Разработка методов обеспечения безопасности
Платформы, компании, занимающиеся технологиями искусственного интеллекта, и отраслевые группы предпринимают усилия по повышению прозрачности в отношении того, когда часть контента генерируется компьютером.
Платформы, включая Facebook и Instagram Meta, Twitter и YouTube, имеют политику, ограничивающую или запрещающую совместное использование поддельных медиа, которые могут ввести пользователей в заблуждение. Но по мере роста использования технологий, созданных с помощью искусственного интеллекта, даже такая политика может угрожать подорвать доверие пользователей. Если, например, поддельное изображение случайно проскочит через систему обнаружения платформы, “это может вселить в людей ложную уверенность”, — сказал Айдер. “Они скажут: ”Есть система обнаружения, которая говорит, что это реально, значит, это должно быть реально».
Также ведется работа над техническими решениями, которые могли бы, например, нанести водяной знак на изображение, сгенерированное искусственным интеллектом, или включить прозрачную метку в метаданные изображения, чтобы любой, кто просматривает его через Интернет, знал, что оно создано компьютером. Партнерство по искусственному интеллекту разработало набор стандартных, ответственных практик для синтетических МЕДИА совместно с такими партнерами, как создатель ChatGPT OpenAI, TikTok, Adobe, Bumble и BBC, который включает такие рекомендации, как раскрытие информации об изображении, сгенерированном с помощью искусственного интеллекта, и как компании могут обмениваться данными о таких изображениях.
“Идея заключается в том, что все эти учреждения привержены раскрытию информации, согласию и прозрачности”, — сказал Лейбович.
Группа технологических лидеров, включая Маска и соучредителя Apple Стива Возняка, на этой неделе написала открытое письмо, в котором призвала лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта по крайней мере на шесть месяцев, сославшись на “серьезные риски для общества и человечества”. Тем не менее, неясно, пойдут ли какие-либо лаборатории на такой шаг. И поскольку технология быстро совершенствуется и становится доступной за пределами относительно небольшой группы корпораций, приверженных ответственной практике, законодателям, возможно, потребуется принять участие, сказал Айдер.
“Эта новая эра искусственного интеллекта не может находиться в руках нескольких крупных компаний, разбогатевающих на этих инструментах, нам нужно демократизировать эту технологию”, — сказал он. “В то же время, существуют также очень реальные и законные опасения по поводу того, что радикальный открытый подход, при котором вы просто открываете исходный код инструмента или имеете очень минимальные ограничения на его использование, приведет к массовому масштабированию вреда … и я думаю, что законодательство, вероятно, сыграет свою роль в воцарении в некоторых из более радикально открытые модели”.
Published 6:13 AM EDT, Sun April 2, 2023
Источник: https://edition.cnn.com/2023/04/02/tech/ai-generated-images-social-media/index.html