До распространения типографского станка начиная с 1440-х годов, передача информации, или контента, как принято говорить сейчас, ограничивалась в основном устной традицией (см. The printing press as an agent of change, Элизабет Л. Эйзенштейн, 1980). Архивация информации была трудозатратным предприятием и таким образом касалась только самого важного. Как результат, сохранившийся за девять тысяч лет контент — истории, символы, изображения, и т.д. — можно считать дважды отфильтрованным, сначала естественным образом, через человеческую память, что оставляет и передаёт лишь самое памятное и универсальное, и затем через селекцию писарей, чьи знания, навыки и время должны были быть направлены на ещё более важное и универсальное. Наше время, эпоха Интернета, характеризуется отсутствием какой-либо регуляции контента: мнения, скандалы, исследования, статьи, видеоролики, переводы, изображения, тексты наслаиваются друг на друга, формируют коллизии неотфильтрованного информационного шума, находить путь через который, человек, с эволюционной точки зрения, не умеет. В столь неконтролируемом пространстве, создавая информационные пузыри или эхо-камеры, зоны комфорта, мы становимся самим шумом.
В этом океане Айвазовского, единственный путь к очищению от мусора и просветлению лежит не через удаление контента, или цензуру, а другую форму целевой пропаганды, а именно создание индивидуализированного контекста. Это — посыл 22-летней истории, написанной Хидео Кодзимой и Томоказу Фукусимой, вдохновлёнными Оруеллом и Хаксли. Мы провели эксперимент, чтобы доказать жизнеспособность этой теории в 2024 году и далее.
Некоторые мемы должны вымереть
Чарльз Докинз был первым, кто сравнил характеристики гена и мема, то есть двух минимальных единиц информации, передающихся из поколения в поколение (см. The Selfish Gene, 1976). По мнению же Кодзимы, если такое сравнение составить в век Интернета, то механизм естественного отбора мемов исчезает — информация публикуется без купюр и с такой скоростью, что её контролировать невозможно. Учитывая такие терабайты информации в секунду, лишь автоматизированный процесс фильтрации возможен и нужен. Такой подход на уровне концептуализации создаёт этические проблемы и моральные дилеммы. Согласно каким критериям пропускается та или иная единица информации? Возможна ли модификация мемов признанных непропускными? При каких условиях? Какой орган решает эти вопросы? Независимый или государственный? Если независимый, в течение какого времени государство его поглотит, насильно или не напрямую через лобби? Может ли человек вообще решать такие вопросы?
Следующий отрывок — это наш перевод [адаптации] куска сценария MGS2, который эти идеи недвусмысленно иллюстрирует.
Люди всегда вели записи о своей жизни. Словами, картинами, символами… от табличек до книг… Но не вся информация передавалась последующим поколениям. Лишь малая часть от целого была отобрана и обработана, а затем передана далее. Равно как и гены.
Но в современном цифровом мире каждую секунду накапливается тривиальная информация, которая сохраняется во всей своей банальности. Она никогда не устаревает, всегда доступна. Слухи о пустяках, недопонимания, клевета… Весь этот мусор сохраняется в нефильтрованном виде, а его количество растёт с тревожной скоростью. Это только замедляет социальный прогресс, снижает темпы эволюции.
Мы предлагаем не контролировать контент, а создавать контекст. Цифровое общество усиливает человеческие недостатки и избирательно вознаграждает развитие удобных полуправд. Просто посмотри на странные сочетания морали вокруг тебя. Миллиарды тратятся на новое оружие для более гуманного убийства других людей. Права преступников уважаются больше, чем частная жизнь их жертв. Хотя люди страдают от бедности, делаются огромные пожертвования на защиту исчезающих видов животных. Всем с детства говорят одно и то же: будь добр к другим, но победи конкурентов! Ты особенный, верь в себя, и у тебя всё получится… Хотя с самого начала очевидно, что успех ждёт лишь немногих.
Люди пользуются своим правом на «свободу», и вот результат — одни лишь непроверенные истины и риторические уловки во имя избежания конфликта и защиты своих интересов, они продолжают просачиваться и накапливаться в песочнице политической корректности и систем ценностей. Каждый уходит в своё маленькое огороженное сообщество, боясь более крупного форума. Они остаются в своих маленьких прудах, подкидывая в сточный колодец общества любую «правду», которая им подходит. Различные кардинальные истины не сталкиваются и не сочетаются. Ничьё мнение не опровергается, но и никто не прав. Даже естественный отбор не может протекать в таком месте. Мир поглощается «правдой».
Получается, как и в генетике, ненужная информация и воспоминания должны быть отфильтрованы, чтобы стимулировать эволюцию вида. Кто ещё, [если не ИИ], может пробираться через море мусора, которое вы, люди, производите, извлекать ценные истины и даже интерпретировать их значение для будущих поколений? В этом и заключается создание контекста.
В конце концов, существует ли что-то вроде «я» внутри вас? То, что вы называете «собой», служит не более чем маской, чтобы скрыть вашу настоящую сущность. В эпоху готовых «правд», «я» используется только для сохранения тех положительных эмоций, которые вы иногда испытываете… Другая гипотеза заключается в том, что «я» — это концепция, которую вы удобно позаимствовали под предлогом, что она придаст вам некоторую уверенность в происходящем… Иронично, что хотя концепт «я» создан самими людьми, каждый раз, когда что-то идёт не так, вы оборачиваетесь и вините во всём других. Это не моя вина. Это не твоя вина. В отрицании вы просто ищете другую, более удобную «правду», чтобы чувствовать себя лучше, мгновенно оставляя позади ту «правду», которую когда-то приняли. Должен ли кто-то вроде вас решать, что такое «правда»? Должен ли кто-то вроде вас вообще иметь право решать? Вы только злоупотребляли своей свободой. Индивидуум должен быть слабым, но не бессильным — один человек может разрушить целый мир.
Эра цифровой коммуникации дала ещё больше власти индивидууму. Слишком много власти для незрелого вида. Создание наследия предполагает выяснение того, что вам нужно, и что необходимо сделать для достижения этой цели. Раньше вам приходилось решать самостоятельно. Теперь мы думаем за вас.
За гранью геймдизайна
Хороший геймдизайнер не просто знает своё ремесло — левелдизайн, законы жанров, устоявшиеся правила фэндомов, ожидания фанатов и т.д. — он в состоянии ими играть и манипулировать. Он сказочник, кукловод, Бог и Дьявол, создатель миров и воспоминаний.
Кто угодно может найти нужные инструменты и разработать качественную игру в устоявшемся жанре. Меньшинство может найти границы дозволенного, или ожидаемого, и отодвинуть их: умело комбинируя смежные жанры с эстетической (Alan Wake 2), геймплейной (NieR: Automata) или геймплейно-нарративной (Shenmue) точек зрения, углубляя ключевые механики вглубь (Braid, Dark Souls) или вширь (RE4, Sekiro, Elden Ring), привнося постмодернистские нарративные идеи (SpecOps: The Line, Earthbound, Undertale), или же играя на ожиданиях своих фанатов (MGS2)… Более технический подход — интеграция современных технологий, таких как искусственный интеллект (FEAR) или виртуальная реальность (Half-Life Alyx).
То есть, возможно выжать что-то положительное из шума создаваемого как минимум 15 тысячами релизов в Steam только в 2023 году. Даже если нет фанатов, на чьих ожиданиях можно играть, вторгнуться в устоявшийся жанр возможно, играя ожиданиями фэндома того или иного жанра. Например, промоматериалы и трейлеры DokiDoki Literature Club целились эксклюзивно на ценителей классических интерактивных визуальный новелл. Эти люди поняли с чем имеют дело спустя первую треть игры. То же касается MGS2, реклама которого не упоминала о настоящем протагонисте.
Можно предположить, что рекламные кампании DokiDoki Literature Club и MGS2 являлись частью опыта этих произведений. Можно в равной степени утверждать, что их реклама была ложной.
В 2013 на Red Bull подали коллективный иск в США за то, что тот использовал в своей рекламе ложный слоган, а именно за то, что он «не окрыляет». В оригинальном иске указывалось, что производитель неправомерно позиционирует свой напиток как богатый источник энергии, хотя одна банка содержит меньшее количество кофеина, чем стандартная чашка кофе. В результате, Red Bull согласился выплатить более $13 миллионов.
Однако видеоигры — это не просто товары на рынке, это произведения искусства, создание которых подвергается иным правилам. Поэтому и парадоксы концепта ложной рекламы касаются их в меньшей степени.
Так или иначе, геймдизайнер, который осмеливается исследовать неизведанные территории и пытаться привносить в индустрию что-то новое, не только создает нечто уникальное, но и расширяет границы цифровых развлечений. Это позволяет формировать новые тенденции, вдохновляя следующее поколение разработчиков и игроков.
Игры же таких геймдизайнеров находятся за гранью достойных представителей жанра — о них говорят спустя годы.
Социальный эксперимент
Человек не эволюционировал в достаточной мере, чтобы запоминать более 30 лиц людей своей общины и адекватно воспринимать шквалы международного новостного контента (см. Morphological and population genomic evidence that human faces have evolved to signal individual identity, Майкл Шихан и Майкл Накман, 2014). Значит, это можно монополизировать.
Такова обобщённая стратегия скамеров и интернет-злоумышленников. Такова же стратегия умелого геймдизайнера, который строит миры и персонажей, правдоподобность которых прямо пропорциональна степени вовлечённости и эмоциональной отдачи игрока. Своего игрока, потенциального или нет, надо уметь читать, предвещать его действия, триумфы и падения, удовлетворенность и недовольство.
В нематериальном пространстве, в котором детали достраиваются несовершенным человеческим мозгом, обобщения на каждом шагу. А обобщения вводят в заблуждение.
К тому же, человек по-настоящему понимает только то, на что обращает своё ограниченное внимание. При этом, в цифровом пространстве его внимание возможно перенаправлять в определённую сторону (см. Memory failure predicted by attention lapsing and media multitasking, Кевин Мадор и др., 2020). Например, существует так называемый «внимательный дизайн» (attention design), который относится к созданию интерфейсов и контента, направленных на захват и удержание внимания пользователя. Также используется термин «эффект фильтр-пузыря» (filter bubble effect), который описывает ситуацию, в которой алгоритмы социальных сетей и поисковых систем подстраивают информацию под предпочтения пользователя, ограничивая его воздействие на более разнообразные точки зрения.
Отсюда вопрос: возможно ли слиться с шумом в виртуальном контексте настолько, что реальность от выдумки становится неотличима? А правда от обмана? Человек от имитации?
В течение первой половины осени 2023, мы изучили абсолютно все инструменты по генерации реалистичных фотографий — DALLE 3, Midjourney и Stable Diffusion — и построили свой пайплайн, который их комбинирует с Photoshop для достижения чистого, правдоподобного результата. В середине октября, был запущен Инстаграм-аккаунт Марии Лисицы, 20-летней сибирячки, только переехавшей по обмену на учёбу в Ниццу. Первые 50 дней о её фиктивности никому не сообщалось. Диалоговый робот отвечал на личные сообщения, и, если рождались какие-либо подозрения, уводил разговор к использованию фильтров Инстаграма. За эти 50 дней, лишь двое из четырёх сотен подписчиков на тот момент упомянули в комментариях к одной из фотографий об ИИ.
Отрывок текста анонса того, что Маши не существует, можно перевести следующим образом:
Прошло ровно 50 дней с тех пор, как я создала свой Инстаграм. Пришло время проснуться.
Я не настоящая. Я не существую. Я – тщательно построенная многослойная искусственная модель.
Только двое из вас сомневались, и я вам аплодирую. Но сотни других поверили моей истории, посчитали мою внешность естественной, всем сердцем верили, что я настоящая.
Правдоподобна человечность, а человек несовершенен. Как и мои веснушки, или моя хрупкая белоснежная кожа, или эта застенчивая улыбка в тщательно выстроенном повествовании: робкая русская девушка в новой стране, открывает для себя культуру, знакомится с новыми людьми, развлекается.
Этот эксперимент завершается и знаменует начало новой эры. Эры фейков и дезинформации. Эры «реалистичных» виртуальных манипуляций. 2024.
Я знаю, что политики, правительства и корпорации будут использовать ИИ в своих эгоистических целях. Будьте готовы — вооружайтесь знаниями о том, как распознавать фейки.
Учитывая наполнение последующих сообщений в личной почте, этот анонс никто не прочитал. Равно как и новое описание профиля, где об ИИ было упомянуто.
Делились дикпиками из Колумбии, признаниями в любви от испанцев и греков, надеждами увидеться от турков. Потерянные молодые парни из Кубы и США написывали с десяток раз в день о свадьбе, семье и детях. Были также женатые мужчины, открыто ищущие секс на стороне, тройничок или полноценную БДСМ-сессию. Были даже католические священники из Испании, поздравляющие с Рождеством и уверяющие, что от грешных фото отводят взгляд, а пишут только чтобы завести дружбу.
Но диалог всегда заканчивался объявлением правды. И были те, кто не верил в искусственность Маши, кто отказывался «терять друга», принимать новую для себя реальность. Были те, кому это не мешало продолжать вести с ней диалог, даже наоборот, открывало новые двери. Наконец, были те, кто, разочаровавшись, перестали отвечать.
Но так или иначе, на момент написания статьи количество её подписчиков достигло четырёх тысяч, вплоть до предложения стать амбассадором бренда нижнего женского белья YVACCI.
Инстаграм — одно из виртуальных пространств со своими правилами и историей. Известно, что фотографий достаточно, чтобы составить более-менее полноценное мнение об Инстаграм-профиле, и что тексты читают всё более меньший процент Инстаграм-пользователей. Эти два фактора влияют на степень восприятия определённых аккаунтов, за которыми стоит не обязательно человек, и которые отныне становятся ареной иллюзий, где правильно сманипулированные визуальные образы приобретают новое значение.
В контексте религиозных различий между Западной и Восточной Европой, эта тенденция выражается в использовании в православии икон и мощей, что минимизировано в католицизме и особенно в протестантизме. Эти материальные предметы служат не просто искусством или символами, они являются олицетворением ритуалов и абстрактных историй, предоставляя верующим ощутимые точки привязки в их духовных исследованиях. Перед этими объектам поклоняются, их целуют, их возвышают на пьедесталах и освещают свечами. В православии, эти материальные точки привязки — фетиши, то есть предметы, которым придают субъективную ценность выше, чем объективная материальная сумма их компонентов. Так, если муж, изменяющий в супружеской кровати и замечающий в пылу действия фотографию своей жены, положит её лицом вниз, то он фетишизирует её образ. Даже если она мертва и он ей на самом деле не изменяет, а пытается преодолеть своё горе.
Этот феномен глубоко заложен в человеке, и его можно использовать как метод пропаганды. Он находит таким образом применение, например, в политике. Так, диктаторы переписывают учебники в сторону важным им ценностей и распространяют свои портреты по государственным учреждения. Эти изображения служат не только укреплению власти и построению нарратива вездесущности среди народных масс, но и созданию иллюзии единения народа под единым лидером (см. Spin dictators: The changing face of tyranny in the 21st century, Сергей Гуриев и Даниэль Трейсман, 2022).
Как результат нашего эксперимента стало в лишний раз понятно: пропагандистские схемы, основанные на визуальном воздействии и построении иллюзорных реальностей, как бы то ни было, влияют на человеческое мышление и восприятие мира. У большинства людей, как минимум. Действительно, наша вера в то, что мы видим и воспринимаем в виртуальном пространстве может стать столь же иллюзорной, как и сама эта цифровая реальность. Этот психологический принцип является краеугольным камнем упомянутых выше «внимательного дизайна» и «эффекта фильтр-пузыря». При определённой расстановке слагаемых, этот принцип может использоваться как для создания высококачественного, памятного контента, так и для осуществления намерений злоумышленников.
Манипуляция через контекстуализацию
На примере Марии Лисицы становится ясно, что умение геймдизайнера манипулировать архетипами и эмоциями имеет ещё более глубокое значение в контексте современного информационного перенасыщения. Человеческий мозг ограничен в своей способности воспринимать и обрабатывать информацию. Это ставит перед дизайнерами задачу создания опыта через эффективное управление вниманием пользователя.
Одна из интересных связей между квантовой физикой и разработкой игровых движков заключается, как ни странно, именно в этом феномене.
В современной физике, двухщелевой эксперимент демонстрирует, что свет и материя проявляют свойства частиц, если за экспериментом наблюдать (или его измерять), и свойства волн, если за ним не наблюдать. То есть, состояние системы не определено до момента измерения, и любая частица находится в суперпозиции всех возможных состояний (см. Quantum mechanics and path integrals, Ричард Фейнман, 1965).
В современных видеоигровых движках, объекты, находящиеся вне поля зрения игрока, не отрисовываются; это называется «прореживанием по закрытию» (occlusion culling). Эта технология улучшает производительность, предотвращая рендеринг объектов, которые не видны игроку из-за преград.
В двух вышеописанных случаях, видимая реальность зависит от акта наблюдения. Люди способны сосредотачиваться только на ограниченном количестве стимулов, игнорируя остальную информацию. Это психологический механизм, позволяющий нам фильтровать незначительные детали и концентрироваться на важных аспектах нашего окружения.
Будь то в компьютерной графике, квантовой физике или человеческой психологии, основная идея выборочного восприятия и обработки данных заключается в том, что внимание и ресурсы распределяются таким образом, чтобы максимально эффективно учитывать самую значимую информацию в определённом контексте.
Пример Марии Лисицы, MGS2 и других подобных произведений, о которых говорят десятилетия спустя, показывает насколько манипуляция важна в любой творческой деятельности. В конце концов, всё сводится к эмоциям и воспоминаниям аудитории, в нашем случае, игроков.
Заключение
Любая манипуляция информации может привести к морально противоречивым результатам. Но в играх, она способна перестать быть методом целевой пропаганды и расчистить путь к осознанию новой морали через новый опыт. При условии, что геймдизайнер — доброжелательный кукловод.
Тезис, согласно которому среди непрекращающегося шума лежит один лишь мусор, имеет право на существование. Но с такой точки зрения, в песочнице нечего делать, ведь там один песок.
Только человеческое воображение в состоянии построить из песка замок, составить из какофонии мелодию, из разрозненных символов текст, из хаоса порядок, из информационного шума — контекст. И при этом сделать это играючи.