Теория "темного леса" Интернета говорит о том, что пребывание в сети становится все более похожим на жизнь, но безжизненным.
Большинство открытых и общедоступных пространств в Интернете заполонили боты, рекламодатели, тролли, сборщики данных, кликбейт, набивающие ключевые слова "создатели контента" и алгоритмически манипулируемый информационный мусор.
Это похоже на темный лес, который кажется жутко безжизненным - все живые существа спрятаны под землей или на деревьях. Если они проявят себя, то рискуют подвергнуться нападению автоматических хищников.
Люди, которые хотят участвовать в неформальном, неоптимизированном, реальном человеческом общении, вынуждены прятаться в закрытых сообществах или небольших блогах, которые ведут действительно живые люди.
Этот темный лес скоро расширится. Большие языковые модели (LLM), способные мгновенно генерировать связные фрагменты человекоподобного текста, только что присоединились к этой команде.
За последние шесть месяцев мы стали свидетелями наплыва продуктов для копирайтинга и генерации контента на основе LLM: Jasper, Moonbeam, Copy.ai и Anyword - вот лишь некоторые из них. Они предназначены для создания рекламных текстов, постов в блогах, электронных писем, сообщений в социальных сетях и маркетинговых страниц. И они действительно хороши в этом.
Эти модели стали компетентными копирайтерами гораздо быстрее, чем люди ожидали - слишком быстро, чтобы мы успели полностью осознать последствия. Для многих людей этот момент настал несколько недель назад, когда OpenAI выпустила ChatGPT, чуть более способную версию GPT-3 с доступным интерфейсом в стиле чат-бота.
Чтобы усложнить ситуацию, языковые модели - не единственные мимикрирующие машины, набирающие скорость. Генераторы изображений, такие как Midjourney, DALL-E и Stable Diffusion, находятся в состоянии гонки в течение года. В январе они едва могли воспроизвести изуродованное человеческое лицо с низким разрешением. К осени они надежно создавали изображения, неотличимые от работ человеческих фотографов и иллюстраторов.
Сгенерированная паутина
В воздухе витает оптимизм по поводу того, что эти модели избавят нас от множества скучной работы: написания официальных электронных писем, внутренних служебных записок, технической документации, маркетинговых текстов, анонсов продуктов, рекламных объявлений, сопроводительных писем и даже переговоров с компаниями медицинского страхования.
Но нам также придется считаться с компромиссами, связанными с созданием ""мгновенных" текстов и изображений для обложки в один клик". Эти новые модели могут наводнить Интернет общим, сгенерированным контентом.
Вы думали, что первая страница Google раньше была заполнена мусором? Вы еще не видели Google, где братья SEO-оптимизаторы вываливают миллиарды вполне связных, но предсказуемо скучных информационных статей для каждого длиннохвостого ключевого слова под солнцем.
Маркетологи, эксперты и специалисты роста настроят конвейеры OpenAI → Zapier, которые будут автоматически публиковать непрерывный и до невозможности банальный поток постов LinkedIn #MotivationMonday, "увлекательных" твитов, монологов возмущения в Facebook и постов в корпоративных блогах.
Это не ограничивается только текстом: видеоэссе на YouTube, ролики TikTok, подкасты, презентации слайдов и истории Instagram - все это может быть создано путем объединения систем ML. А затем перерабатываются для каждого СМИ.
Мы скоро утонем в море штампов и дублей. Взрыв шума, который заглушит любой сигнал. Прощайте поиск оригинальных человеческих идей или подлинных ценностей под этой кучей мусора.
Многие скажут, что мы уже живем в этой реальности. Мы уже научились просеивать бесполезные кучи "оптимизированного контента", созданного для сбора кликов и рекламных показов.
4chan много лет назад предложил теорию мертвого интернета: большая часть интернета "пуста и лишена людей" и захвачена искусственным интеллектом. Более мягкая версия этой теории заключается в том, что нас заполонили боты. Большинство из нас сейчас принимает это как должное.
Но я думаю, что объем и масштаб того, что грядет, будет существенно отличаться. И я думаю, что мы не готовы к этому. Хотя это началось не вчера. Людей давно начали отуплять и готовить поглощать бесполезный и не несущий никакого смысла контент. И все это якобы управлялось исключительно "алгоритмами".
И ведь люди привыкли к поглощению полной чепухи на подобии бесконечных "Купил консерву показываю что внутри". А все эти "Лидеры мнений" по факту не представляющие из себя ничего, как личности. Это эфемерные пустышки созданные путем денег и работы команд людей и ботов.
И даже «ученые» не остались в стороне, бомбардируя заголовки в СМИ статьями о том, что «… современные люди не способны усваивать тексты свыше 500 знаков».
Политика упрощения и отупления. Тексты короче. Еще короче. Короче. И ведь это действительно стало работать. Люди начали процесс обратной интеллектуальной эволюции.
Прохождение обратного теста Тьюринга
Наша новая задача как людей - доказать, что мы не являемся языковыми моделями. Это обратный тест Тьюринга.
После того как лес разрастется, мы станем глубоко скептичны в отношении реальности друг друга. Каждый раз, когда вы будете находить в сети новый любимый блог, аккаунт в Twitter или личность Tiktok, вам придется задаваться вопросом: действительно ли это целый человек с богатой и сложной жизнью, похожий на меня? Есть ли на другом конце этого веб-интерфейса существо, с которым я могу установить отношения?
Прежде чем продолжить, сделайте паузу и подумайте: Как бы вы доказали, что вы не языковая модель, генерирующая прогнозируемый текст? Какие особые человеческие трюки вы можете сделать, чего не может языковая модель?
1. Триангулировать объективную реальность
Поскольку языковые модели становятся все более способными и впечатляющими, мы должны помнить, что по своей сути они являются системами лингвистического прогнозирования. Они не могут (пока) рассуждать как человек.
У них нет убеждений, основанных на доказательствах, утверждениях и принципах. Они не могут обращаться к внешним источникам и проводить эксперименты с объективной реальностью. Они не могут выйти на улицу и потрогать траву.
Короче говоря, у них нет доступа к той же общей реальности, что и у нас. У них нет воплощенного опыта, и они не могут ощущать мир так, как ощущаем его мы; у них нет зрения, звука, вкуса или осязания. Они не могут испытывать эмоции или придерживаться последовательного набора ценностей. Они не являются частью культур, сообществ или истории.
Они представляют собой языковую модель. Если историческое событие, факт, человек или концепция не были частью их обучающих данных, они не смогут рассказать вам о них. Они не знают о событиях, произошедших после определенной даты выключения.
Я нашел статью Мюррея Шанахана "Разговор о больших языковых моделях" (2022) полной полезных размышлений на эту тему:
Люди являются членами сообщества пользователей языка, населяющих общий мир, и этот первичный факт делает их принципиально отличными от больших языковых моделей. Мы можем обращаться к миру, чтобы разрешить наши разногласия и обновить наши убеждения. Мы можем, так сказать, "триангулировать" объективную реальность.
Таким образом, у нас остается еще немного плодов для развития человечности. Мы можем рассказывать богатые детализированные истории, основанные на наших конкретных контекстах и культурах: географические названия, чувственные описания, местные знания, и, в общем, "je ne sais quoi" того, что мы живы. Языковые модели могут достойно подражать такому стилю письма, но большинство из них не могут этого сделать без тщательной разработки. Они придерживаются обобщений. Они сбиваются. Они упускают детали. Им трудно сохранить последовательное самоощущение на протяжении тысяч слов.
Здесь вам на помощь придут хипстеризм и предвзятость к повторению. Ссылки на непонятные понятия, реальных, но не знаменитых друзей, нишевые интересы и недавние события - все это делает вас правдоподобно более человечным.
2. Будьте оригинальными, критичными и изощренными
Легче сказать, чем сделать, но один из лучших способов доказать, что вы не являетесь предсказуемой языковой моделью, - это продемонстрировать критическое и сложное мышление.
Языковые модели выплевывают текст, который звучит как эссе на оценку B+ в колледже. Последовательный, кажущийся исчерпывающим, но никогда по-настоящему глубокий или оригинальный (по крайней мере, пока).
В отталкивающе вызывающей метафоре, они участвуют в "эпистемологии человеческой сороконожки". Языковые модели регенерируют тексты из Интернета, которые одни люди читают и перерабатывают в "оригинальные творения", которые затем становятся кормом для обучения других языковых моделей, и так по кругу мы перерабатываем общие идеи, аргументы, тропы и способы мышления.
Для того чтобы выйти из этого цикла, необходимо придумать несомненно оригинальные мысли и теории. Это значит видеть и синтезировать закономерности в широком диапазоне источников: книги, блоги, культурные нарративы, подаваемые СМИ, разговоры, подкасты, жизненный опыт и рыночные тенденции. Мы сможем наблюдать и анализировать гораздо более полный спектр входных данных, чем это могут сделать боты и генеративные модели.
Это повысит ставки для всех. Как потребители контента и его создатели, мы должны будем воспитывать в себе большее чувство критического мышления и скептицизма.
Все это звучит немного грубовато, но в этом видении есть много надежды. В мире автоматизированного интеллекта наши цели в отношении интеллекта изменятся. Мы поднимем планку качества того, что мы ожидаем от человека. Когда машина сможет подготовить отличный обзор литературы или краткое изложение существующей работы, не будет смысла в том, чтобы это делал человек.
Разрабатывайте креативные языковые причуды, диалекты, мемы и жаргоны
Лингвист Фердинанд де Соссюр утверждал, что существует два вида языка:
La langue - это формальное понятие языка. Это слова, которые мы печатаем в словаре, распространяем через учебные заведения и отчитываем друг друга за неправильное понимание.
La parole - это речь повседневной жизни. Это неформальные, разнообразные и творческие речевые акты, которые мы совершаем в разговорах, на общественных собраниях и в текстах в WhatsApp. Именно здесь происходит эволюция языка.
Мы разработали систему, которая автоматизирует стандартизированный способ письма. Мы кодифицировали язык в определенный момент времени.
Все, с чем нам остается играть, - это la parole. Ни одна языковая модель не сможет угнаться за темпами появления странных интернет-языков и мемов. Я ожидаю, что мы будем склоняться к этому. Использование неологизмов, жаргонизмов, эвфемистических эмодзи, необычных фраз, диалектов ингруппы и мемов текущего момента поможет показать вашу человечность.
Это не похоже на то, как подростки используют язык, чтобы подмять под себя старших, или как угнетенные сообщества разрабатывают диалекты, которые позволяют им безопасно общаться между собой.
Рассмотрите возможность институциональной проверки
Это решение кажется наименее интересным. Мы уже слышим разговоры о том, что "верификация" централизованными учреждениями или компаниями может помочь нам отличить мясные мозги от металлических.
Идея примерно такова: вы лично являетесь для регистрации своих онлайн-счетов или доменов. Затем вы получаете в Интернете какой-то специальный значок или знак, подтверждающий, что вы настоящий человек. Он может быть или не быть на блокчейне.
5. Появиться в пространстве
Последнее преимущество перед языковыми моделями заключается в том, что мы можем доказать, что мы настоящие люди, появляясь IRL с нашими настоящими человеческими телами. Мы можем договориться о встрече с друзьями за чашечкой кофе. Мы можем организовывать встречи, мероприятия, конференции, неконференции, тусовки и вечера в пабах.
В книге "Рынки для лимонов и великий уход с рынка" Ларс Дусе предложил несколько побочных эффектов этого будущего, основанного на офлайне. Мы можем увидеть усиление фетишизации культуры "против экрана", а также рост цен на недвижимость в густонаселенных районах.
На данный момент мы все еще можем проверить человечность через Zoom, но создание живого видео становится достаточно хорошим, поэтому я не думаю, что эта защита продлится долго.
Конечно, есть много людей, которые не могут перейти к жизни в автономном режиме: люди с физическими недостатками. Люди, живущие в отдаленных сельских районах. Люди с ограниченным временем и обязанностями по уходу за маленькими или пожилыми людьми. Им будет сложнее подтвердить свою человечность в Интернете. У меня нет грандиозных идей, как решить эту проблему, но я надеюсь, что мы найдем лучшие решения, чем мой скудный список.
Поскольку лес становится все темнее, шумнее и менее человечным, я рассчитываю уделять больше времени личным отношениям и сообществам. И хотя я люблю пространство, это все равно ощущается как потеря.
Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения.
Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.
