Двадцать лет назад, когда я только начинал заниматься разработкой и вообще пришел в IT, задачи были простыми: как сделать так, чтобы система просто работала, чтобы пользователь мог найти нужную информацию, чтобы интерфейс был понятным (ну, условно, потому что правил не было). Наивные времена. Сейчас мы решаем другую задачу: как удержать внимание пользователя как можно дольше, как заставить его кликать, свайпать, покупать, потреблять.
Где-то между этими двумя точками произошла незаметная революция. Мы перестали создавать инструменты и начали создавать зависимость. И самое забавное — большинство из нас даже не заметили этого перехода.
Фрейд писал о принципе удовольствия, но он не мог представить, что через век этот принцип будет реализован в виде алгоритмов, которые знают о наших желаниях больше, чем мы сами. Каждый лайк, каждая пауза при просмотре видео, каждое движение мыши — все это данные для машинного обучения, которое учится нас программировать.
Пока я это писал, воображение нарисовало картинку: кафе, компания из четырех человек, каждый смотрит в свой телефон. Они физически вместе, но их внимание распределено между четырьмя разными алгоритмическими реальностями. Один листает ТикТок (алгоритм решил, что ему нравятся видео про войну и политические дебаты), другая смотрит Инстаграм (алгоритм кормит ее контентом о фитнесе и путешествиях), третий читает новости (алгоритм подобрал ему коктейль из сенсаций и «шока»), четвертая играет в мобильную игру (алгоритм рассчитал оптимальную кривую сложности, чтобы держать ее в состоянии почти-победы).
Каждый из них уверен, что он свободно выбирает, на что смотреть. Но их выбор — это иллюзия, тщательно сконструированная армией людей с профессиями, которые еще вчера звучали как шутка: аналитики бигдаты, UX-архитекторы и специалисты по поведенческой экономике (неловкая пауза) — то есть люди, которые получают зарплату за то, чтобы выяснить, какой цвет кнопки заставит их купить то, что им не нужно, и в какое время дня они наиболее уязвимы для рекламы нижнего белья. Мы создали идеальную реализацию платоновской пещеры, только теперь тени на стене персонализированы под каждого зрителя.
Ницше говорил о смерти Бога, но он не предвидел рождения алгоритмических богов. И в отличие от старых богов, эти действительно всеведущи в рамках своих доменов.
Я помню времена, когда мы говорили об информационной перегрузке как о проблеме будущего. Забавно, что решили мы ее не фильтрацией, а созданием еще более совершенной системы доставки информационного мусора. Вместо того чтобы научить людей выбирать, мы научили машины выбирать за них, но так, чтобы они, люди, при этом чувствовали себя свободными.
Кови в «Семи навыках» писал о важности различения срочного и важного. Но алгоритмы превращают все в срочное. Каждое уведомление — это маленький пожар, который нужно потушить прямо сейчас. Каждый новый пост — это возможность упустить что-то важное. FOMO перестал быть психологическим феноменом и стал бизнес-моделью. Парадокс в том, что создатели этих систем сами стали их жертвами. Инженеры Facebook не дают своим детям пользоваться Facebook, ну, понятно, 20+ лет уже.
Сёрл в своем мысленном эксперименте с китайской комнатой показал, что система может демонстрировать разумное поведение, не понимая смысла. Современные рекомендательные алгоритмы — это китайские комнаты планетарного масштаба, где смысл заменен на машинную статистику, а интуиция — на корректно обученную регрессию. Они отлично имитируют понимание наших потребностей, но на самом деле просто очень быстро перебирают паттерны в данных.
Проблема не в том, что машины стали слишком умными — это мы стали слишком предсказуемыми. Наши когнитивные биасы, эволюционные программы поведения, эмоциональные триггеры — все это было тщательно изучено и превращено в таблицы с конверсией в выделяемый эндорфин.
Мы живем в эпоху, когда архитектура наших цифровых пространств определяет архитектуру нашего сознания. И эта архитектура спроектирована не для того, чтобы люди стали лучше, умнее или счастливее, а чтобы дольше держать их онлайн.
Фрейд описывал механизмы вытеснения и сублимации как способы психики справляться с неприемлемыми импульсами. Но что происходит, когда эти импульсы не вытесняются, а постоянно стимулируются? Когда вместо сублимации нам предлагают прямое удовлетворение в виде бесконечной ленты контента? Понятно что: девальвация удовольствия, все более сильные стимулы как наркотик и в итоге послушное стадо немотивированных вечно подавленных инфантильных потребителей с плоской культурой и отсутствием внятной стратегии развития.
Каждый раз, когда мы автоматически тянемся к телефону в момент скуки, мы участвуем в эксперименте по изучению оперантного обусловливания в масштабах всего человечества.
Мне, разумеется, все давно понятно, потому что в моей голове мысли как и раньше возникают не как ответ на внешние стимулы, а как результат внутреннего диалога, но не всем так повезло.
— Единственный автор этого блога (прекрасный, кстати, человек!)
В последние годы часто вижу, что «собственное мнение» у людей появляется после многочасового листания ленты и подозрительно совпадает с мнением других думскроллеров, на которых «никак не влияет реклама» и вообще «stop violating me with your different opinion». Точка зрения мягко и понятно навязывается человеку, не оставляя никаких сомнений в ее правильности. «Если все думают одинаково, значит я не ошибаюсь». И перепроверять не надо.
Любая новая технология мгновенно применяется капиталистами, а бедные программисты ненавидят свои детища, но ничего не могут с этим поделать.
Человек имеет ценность только в мире гуманизма, капитализм же видит в нем источник данных и лид. Когда люди действуют одинаково и выглядят одинаково, ценность их в многомиллиардном мире снижается до нуля, их медленно заменяет AI и они исчезают в массе таких же свободных индивидуальностей.
«Член общества» ведет себя так, как «принято в обществе» (потому что супер-эго сильнее, очевидно), совершенно забыв, как (самостоятельно) проводить над собой работу по взращиванию в себе человека с собственным мнением, критическим мышлением и желанием быть чуть выше среднего в своей социальной группе.
AI дешевле и покорнее человека и, разумеется, заменяет его везде, где знаний интернета достаточно для автоматизации. И тем дороже становится все «уникальное», включая знания. Когда вытеснение заменяется бесконечной стимуляцией, а сублимация — прямым дофамином из алгоритмической кормушки, человек перестает быть субъектом и становится интерфейсом. В культуре, где все можно сразу, желание исчезает первым.
Кажется, вся индустрия внимания построена на техническом долге перед будущими поколениями. Мы создали системы, которые эксплуатируют древние механизмы мозга, не предназначенные для цифрового мира. Дофаминовые петли, изначально нужные для выживания («о, ягоды!»), теперь запускаются каждый раз, когда приходит лайк в соцсетях. Эволюция не успевает за технологиями.
Особенно забавно наблюдать за попытками регулирования. Старики, которые путают жесткий диск и браузер, пытаются написать законы для индустрии, где ключевые решения принимаются на основе машинного обучения, работающего со скоростью миллисекунд.
Это как если бы люди XIX века пытались регулировать квантовую физику. Благие намерения, но инструментов для понимания проблемы просто нет. В итоге получаются законы типа «обязать алгоритмы быть справедливыми» — красиво звучит, ок, «договорились».
Кстати, о справедливости, раз уж речь случайно зашла. Алгоритмы, в отличие от людей, не имеют предрассудков — они их приобретают на основе наших данных . В уловном нерегулируемом расистском обществе алгоритм будет расистским с понятным разделением на нормальных и «других». Машинное обучение — это увеличительное стекло для человеческих предрассудков. Ну и понятно, регулирование предрассудков в условном обществе привело к глобальной фильтрации контента (белым показывают преимущественно белых, BLM — неграм, всякие прайды и инклюзивность — своей ЦА). Сейчас AI уже активно эти же правила использует и уже не отвечает на некоторые чувствительные и провокационные вопросы. Справедливость, равенство, «… lives matter!».
Иногда мне кажется, что мы участвуем в самом масштабном психологическом эксперименте в истории человечества. Только в отличие от экспериментов Павлова или Скиннера, контрольная группа — 98% населения планеты.
Разрешили быть собой — и стало некультурно быть лучше.
Жизнь постепенно превратилась в череду обязательных действий, где каждое новое утро напоминает предыдущее, а каждый шаг — это еще одно заранее прописанное движение в чужом сценарии. Казалось бы, ежедневных активностей много: встречи, задачи, разговоры, но в этой суете теряется жизнь — постоянное ощущение, что через неделю детали сегодняшней суеты забудутся и стресс, который вся эта суета создает сегодня, вообще не нужен. Ну, мне точно. Фрейд утверждал, что «Сверх-Я» (супер-эго, the Over-I) может взять верх, превращаясь в строгого внутреннего цензора, который диктует, что можно и чего нельзя, подавляя желания и заставляя эго играть по чужим правилам. Мое эго! По чужим правилам! А вот если вдруг возникнет вопрос о собственных желаниях — тут же включается тревожная сирена и голос внутреннего Фрейда (почему-то гнусавого): «Так, вапгосики!». Mundo not goes where he pleases, ага.
Короче, теряется ощущение целостности. На поверхности остаются лишь отдельные фрагменты: работа, привычные разговоры, мелкие дела, которые почему-то вытесняют все остальное, создавая иллюзию занятости и значимости (ИИ в банке — круто же, большое дело, ага). В этом хаосе теряется не просто последовательность, но и сама суть — тот внутренний компас, который раньше указывал, куда и зачем двигаться. Желания начинают теряться в потоке несвязанных импульсов, которые вспыхивают и тут же гаснут, не успевая даже оформиться в понятные стремления, не говоря уже о планах и действиях. Ну и ладно. Супер-эго довольно — все под контролем.
Фрейд утверждал, что «Сверх-Я» — это голос общества, который внедряется в нас с самого детства, превращаясь в строгого надзирателя, не допускающего отклонений от нормы. Каждый раз, когда человек соглашается на «надо», откладывая свое «хочу», «Сверх-Я» становится немного сильнее, еще больше отодвигая личные желания на периферию сознания. В результате внутренний конфликт становится все более очевидным: из вежливости сказать «да», хотя хочется сказать «нет» или вообще нахер послать; сделать то, что не хочется, но важно и нужно по мнению окружающих; оставить свое мнение при себе, потому что так принято. И чем чаще говоришь «надо», тем сложнее потом вспомнить, а что вообще хотелось.
Подавленные желания не исчезают бесследно — они уходят вглубь и образуют слой непрожитого, который со временем накапливается до такой степени, что начинает прорастать сквозь толщу привычек и условностей. Но распознать эти проблески непрожитого не так просто, особенно когда внутренний надзиратель настолько стал частью личности, что любые желания кажутся чужими и воспринимаются как глупые хотелки, без которых можно обойтись.
Фрейд говорил, что задача не в том, чтобы победить Сверх-Я, а в том, чтобы найти баланс между ним и другими инстанциями психики. Работать не только с этим внутренним цензором, но и с тем, что он подавил — с «ОНО» («the It», Id. Freud saw the id as the unconscious source of instincts and desires, driven by the pleasure principle — the push for immediate satisfaction of urges.). Вытаскивать подавленные желания, перерабатывать и восстанавливать целостность. «ОНО» — не только желания, но и та часть, которая свободна от всех этих «надо».
Современные рекламные щиты, социальные сети, люди с экранов постоянно повторяют одну и ту же мантру: «Выбор — это свобода!».
Ты — не просто человек, ты — концепция выбора, олицетворение свободы. Ты решаешь, что с тобой будет происходить. Ты сам себе архитектор судьбы, мать твою!
Сначала ты выбираешь трансформера на школьном дневнике — кажется вроде несложно. Потом выбор становится серьезней — карьера, отношения, семья, место в жизни, потом кризисы со своими вопросами «жизни, вселенной и вообще». И в какой-то момент понимаешь, что за каждым решением скрывается еще одно, и каждый шаг — это не победа, а очередной контрольный вопрос. Больше вариантов, больше путаницы.
Весь этот выбор, который так изначально казался заманчивым, превращается в синдром распахивающихся дверей, а каждое принятое решение — это не радость, а всего лишь еще один тик в списке задач, которые не хочется выполнять. Это как стоять в магазине с 146 сортами виски и думать: «Могу взять любой, но уже не уверен, что мне вообще нужен виски». А еще можно взять что-то новое и разочароваться во вкусе. Потом переходишь в другие отделы, проверяешь еду — все так же неясно. Конечно, потому что красный соус к птице вроде как не подходит, а если все же взять птицу и белый соус, то и вино надо белое, а я уже красное взял, полчаса выбирал! И этого всего сотни разновидностей. И вот в какой-то момент ты уже не выбираешь — просто берешь что-то, что не пугает, либо привычно, да и устал уже. Да и зачем так-то, если эти лепешки с колбасой и сыром в целом годные. И коньяк дома есть. Универсальный напиток для всего, потому что универсальность избавляет от необходимости выбирать.
Qwen generated.
Мир, который должен был стать местом для самовыражения, в итоге становится полнейшим замешательством. Странная ирония. У нас есть все ресурсы, чтобы быть кем угодно, делать что угодно, но мы находим себя застрявшими между полок супермаркета, где никак ничего не можем выбрать, потому что боимся ошибиться, а со временем начинаем бояться и даже избегать чего-то нового в принципе. Свобода выбора превращается в тяжкий груз, который надо нести как работу, а не как удовольствие.
Все эти решения, все эти бесконечные возможности, вечная нужда что-то из чего-то выбрать. В конечном итоге становишься мастером на все руки, но ни к чему не готовым. Владеешь всей палитрой вселенной, но картину нарисовать нечем. И 10 купленных в Steam новых игр так и останутся под слоем пыли, потому что старые проходить по 100 раз уютнее и понятнее.
Придумал 3 заголовка для этой записи, надо выбрать.
Вчера моя жена слушала какой-то подскаст про травмы, отношения каких-то девочек-ведущих со своими отцами и как это на них в жизни глобально сказалось. Так вот, они так часто упоминали, что они какие-то все травмированные с детства, что надо проработать эти травмы, что вот отец всему виной и с личной жизнью теперь не складывается (потому что какой-то абьюзер или нарцисс бросил — про это вообще через слово).
И вот у меня возник вопрос: почему современный человек вдруг так яростно начал искать в себе какие-то травмы? Да потому, думается мне, что гораздо проще переложить ответственность либо на какого-то члена семьи, либо на абьюзера, нарцисса, тюбика, кого-то еще — из-за которого у тебя в жизни любви было меньше, чем у других, и возложить ответственность за решение этой проблемы на психолога. А сам посередине: «проблема не из-за меня, и решать ее не мне».
Психологам отлично — прорабатывать с бесконечным потоком обиженных на жизнь девочек их травмы можно бесконечно, а в головах у людей как было насрано, так и осталось. И дальше — хуже.
Вот еще одна штука, которую я понял. Связь с реальностью — это не абстракция, это диалог. Делаешь → смотришь на результат → корректируешь курс → шаг дальше. Последовательно. Маленький — это же эксперимент. Глобально — эволюция, но в микромасштабах. Это прям реальный способ понять, что работает, а что нет. Никаких гипотез, только результаты действий (страданий иногда).
Когда-то мне нравилось думать, что я могу предсказать будущее, что я один вот прям точно понимаю, куда все идет и почему. А потом понял, что оказывается людей, которые через ошибки и неудачи дойдут до того, что мне сейчас кажется (или всегда казалось) очевидным, всегда будет много и с годами, вероятно, больше. Не исключаю, что путь своего развития я выбрал (и/или мне выбрали) верно, и все благодаря этому, но кажется, что как минимум не только. Скорее это всего лишь эволюционный результат множества случайных мутаций и перебора вариантов. Очевидно, «эго — плохой советчик».
Даже удачные траектории жизни — часто результат проб и ошибок, а не гениального плана.
Вот, например, бабочки. Они себе отрастили узоры, чтобы отпугивать хищников. Это случайные мутации, закрепленные природой. А может, были бабочки с узорами в виде гигантских жоп — может же быть? Они не знали, что это не сработает. И мы тоже не знаем, в чем наш «узор» сработает. Мир — это хаос, и все еще никто не знает, как всё устроено. Поэтому мы постоянно меняем себе узоры с жоп на одуванчики в надежде, что сработает.
Чем дольше что-то существует, тем выше вероятность, что это не просто случайность.
Когда уже понял, что мир до смешного хаотичен и бабочки с узорами чего угодно все равно вымирают, грустно пожимаешь плечами и делаешь себе лепешку из хлеба и воды, делая вид, что так и должно быть. Я вообще часто убеждаюсь и нередко говорю близким, что все происходит так, как должно быть. Любимая мантра последних лет. Эпиктет бы гордился — мы с потрясающей эффективностью превращаем его учение в интеллектуальный щит от собственного бардака.