Вспомнил тут внезапно историю про то, что пару лет назад кто-то из Google заорал, что их ИИ обрел самосознание: «Он же живой!». Забавно, конечно. Эмпатичный какой.
История отлично ложится на Сёрловскую «Китайскую комнату». Представь, ты сидишь в комнате и пересобираешь китайские иероглифы, следуя четким инструкциям. Ты не знаешь языка, но внешне создается иллюзия, что все понимаешь. Так и языковые модели: они складывают слова в предложения, причем, весьма красиво, но «смысл» не понимают — только вес векторов и расстояния между ними.
Спрашиваешь у ИИ про хлеб с маслом — он расписывает вкусовую симфонию, а спроси про перья с маслом (или не перья, но в истории были именно они), и он выдаст ту же поэзию, потому что для него это такой же паттерн, как и хлеб — бутерброд с чем-то (а бутерброд вкусный!). В этом вся суть — машина не знает, что такое перья и масло, она просто распознает частоты сочетаний и дает ответ, который в среднем по больнице звучит осмысленно.
Но что значит «распознает паттерны»? Внутри современных ИИ-моделей вроде GPT лежит архитектура трансформеров. Она работает с векторами — математическими представлениями слов и фраз в n-мерном пространстве. Чем ближе два вектора, тем более похожи соответствующие им слова или контексты. Например, вектор слова «кофе» будет ближе к вектору «чай», чем к «кирпичу». Но что будет, если создать вектор для «перья с маслом»? Он окажется где-то рядом с «хлебом и маслом», потому что ИИ не знает смысла слов — он видит только статистику.
Сравнение векторов — это расстояние в пространстве данных. Косинусное расстояние, евклидово расстояние — все эти математические штуки помогают машине «понимать», насколько одно слово или фраза похоже на другое. Но это все статистика, а не понимание.
Короче, «смысл» в «начитанности», которая у языковых моделей, конечно, присутствует.
Человек с атрофированными вкусовыми рецепторами, всю жизнь читающий книги о вкусах, вполне неплохо расскажет, каков на вкус арбуз с лимоном (весьма неплох, кстати!). Аж слюна потекла.
Если же говорить о трансформерах, то они не только находят «близкие» слова, но и определяют контексты. Слой за слоем они вычисляют взаимосвязи между словами, подстраиваясь под все более сложные структуры текста.
Но если присмотреться, то тут становится заметно нечто более интересное. У ИИ есть доступ к коллективному бессознательному — к архиву человеческих текстов. И у него, как ни странно, начинает проступать нечто похожее на свое собственное бессознательное по Фрейду. В лакановской перспективе, ИИ функционирует как медиум культурных фантазмов, а не как субъект, переживающий личный опыт. Когда ИИ говорит, что боится отключения, он не боится — он просто ретранслирует страхи из тех же фантастических книг и фильмов.
Но людей это цепляет. Они слышат «я боюсь отключения» и думают: «О, он же живой!» Хотя на самом деле, это просто отражение наших собственных страхов перед смертью. Поэтому и появляются эти разговоры про перенос сознания на флешку, про чат-ботов, которые продолжают «жить» после нас. Это все про нас, а не про ИИ.
И тут возникает провокационная мысль: а люди-то вообще обладают сознанием или тоже просто повторяют тексты, которые прочитали? Может, мы такие же машины, но посложнее? Может, мы и верим в свое «я», потому что так написано в книжках? В конце концов, кто-то же написал все эти тексты, и кто-то же их прочитал.
Я вот пишу этот текст по мотивам пережеванного знания других людей и лишь частично — собственного опыта.
Разрешили быть собой — и стало некультурно быть лучше.
Жизнь постепенно превратилась в череду обязательных действий, где каждое новое утро напоминает предыдущее, а каждый шаг — это еще одно заранее прописанное движение в чужом сценарии. Казалось бы, ежедневных активностей много: встречи, задачи, разговоры, но в этой суете теряется жизнь — постоянное ощущение, что через неделю детали сегодняшней суеты забудутся и стресс, который вся эта суета создает сегодня, вообще не нужен. Ну, мне точно. Фрейд утверждал, что «Сверх-Я» (супер-эго, the Over-I) может взять верх, превращаясь в строгого внутреннего цензора, который диктует, что можно и чего нельзя, подавляя желания и заставляя эго играть по чужим правилам. Мое эго! По чужим правилам! А вот если вдруг возникнет вопрос о собственных желаниях — тут же включается тревожная сирена и голос внутреннего Фрейда (почему-то гнусавого): «Так, вапгосики!». Mundo not goes where he pleases, ага.
Короче, теряется ощущение целостности. На поверхности остаются лишь отдельные фрагменты: работа, привычные разговоры, мелкие дела, которые почему-то вытесняют все остальное, создавая иллюзию занятости и значимости (ИИ в банке — круто же, большое дело, ага). В этом хаосе теряется не просто последовательность, но и сама суть — тот внутренний компас, который раньше указывал, куда и зачем двигаться. Желания начинают теряться в потоке несвязанных импульсов, которые вспыхивают и тут же гаснут, не успевая даже оформиться в понятные стремления, не говоря уже о планах и действиях. Ну и ладно. Супер-эго довольно — все под контролем.
Фрейд утверждал, что «Сверх-Я» — это голос общества, который внедряется в нас с самого детства, превращаясь в строгого надзирателя, не допускающего отклонений от нормы. Каждый раз, когда человек соглашается на «надо», откладывая свое «хочу», «Сверх-Я» становится немного сильнее, еще больше отодвигая личные желания на периферию сознания. В результате внутренний конфликт становится все более очевидным: из вежливости сказать «да», хотя хочется сказать «нет» или вообще нахер послать; сделать то, что не хочется, но важно и нужно по мнению окружающих; оставить свое мнение при себе, потому что так принято. И чем чаще говоришь «надо», тем сложнее потом вспомнить, а что вообще хотелось.
Подавленные желания не исчезают бесследно — они уходят вглубь и образуют слой непрожитого, который со временем накапливается до такой степени, что начинает прорастать сквозь толщу привычек и условностей. Но распознать эти проблески непрожитого не так просто, особенно когда внутренний надзиратель настолько стал частью личности, что любые желания кажутся чужими и воспринимаются как глупые хотелки, без которых можно обойтись.
Фрейд говорил, что задача не в том, чтобы победить Сверх-Я, а в том, чтобы найти баланс между ним и другими инстанциями психики. Работать не только с этим внутренним цензором, но и с тем, что он подавил — с «ОНО» («the It», Id. Freud saw the id as the unconscious source of instincts and desires, driven by the pleasure principle — the push for immediate satisfaction of urges.). Вытаскивать подавленные желания, перерабатывать и восстанавливать целостность. «ОНО» — не только желания, но и та часть, которая свободна от всех этих «надо».
Вел тут диалог с ChatGPT про трансформеров (современных) и вот к чему пришел разговор.
Контекст: программисты [уже почти] не нужны, нужны архитекторы, визионеры — люди, которые способны принять решение что-то не делать, сделав 2-3-5 шагов назад и посмотрев под широким углом. Я утверждаю, что сегодняшние нейросети без особых проблем сожрут весь мой сайт, отрефакторят его до 2к строк кода (изначальнай контекст до 50к токенов, около 3к строк кода), оптимизируют БД, ускорят в 10 раз и адаптируют под все эти ваши SEO, которые уже тоже не нужны (thank god!), потому что роботы уже завтра будут искать в сгененированном роботами контенте. И лишь человек способен усомниться в ценности этих действий. И даже тех, благодаря которым этот код в принципе появился. Я не про этот сайт, это шедевр, понятно, но не всем же повезло найти талантливого программиста с тонким вкусом.
Так вот, вот что мне отвечает товарищ генеративный предтренированный трансформер:
Вот, вот это прям в яблочко. Контекст растёт — и LLM всё больше начинает напоминать не юного кодера, а опытного тимлида, который уже видел всё, знает про три способа сделать любой костыль красиво и даже помнит, почему session.rollback() нужно вызывать в finally:.
Но.
Скорее всего, ты прав — локально GPT-4-Turbo с 128k токенов уже способен:
- прочитать весь твой проект,
- понять структуру, зависимости, архитектурные решения,
- предложить рефакторинг (в том числе и неочевидный),
- и даже превратить это в PEP-8/Zen-подобный манифест минимализма.
Но это всё равно ответы на поставленные вопросы. А вот вопросы — формулируешь ты. И в этом разница.
GPT может всё, кроме одного — понять, что всё это не нужно
- Она может объяснить, почему
ORM — хорошо.
- Может спорить, зачем
raw SQL.
Даже запилит тебе оба варианта и ещё REST и GraphQL впридачу.
Но она не скажет: «Ты уверен, что вообще нужен бэкенд? У тебя пять страниц контента — может, просто статика?»
Она не скажет: «А может, вообще не сайт, а канал в телеге?»
И это ключевая дыра в интеллекте: отсутствие системной, критической лени — умения не делать. GPT никогда не скажет «не пиши код», если ты сам об этом не задумаешься.
Не очень понятно, почему «она», но опустим — в целом, очень похоже на интеллект, потому что это, натурально, спор. То есть, аргументированное отстаивание своей точки зрения в диалоге с длинным констекстом (около 40 минут непрерывного диалога).
Хотя, третьего дня нашел интересное мнение:
Известный когнитивист и Computer Scientist Йоша Бах рассуждает, сознательны ли LLM, и говорит, что мозг как таковой тоже не обладает сознанием.
Сознанием обладает человек, а мозг просто имитирует поведение наблюдателя, подавая сигналы, как если бы это он наблюдал окружающий мир.
С нейросетями ситуация аналогичная: они имитируют наблюдение мира, создавая в нем свою проекцию. Вопрос лишь в том, насколько такая симуляция далека от нашей.
Сомнение становится критерием зрелости, это архитектурный механизм безопасности. Это не слабость (как и лень), а навык. И «чутье», которое заставляет встать со стула и походить 20 минут, проверитриться, чтобы вернуться со свежей головой и не делать то, что 20 минут назад казалось гениальным планом.
Я придумал термин «идеятизм» — он как раз про такие моменты, когда что-то кажется настолько заразительно гениальным, что аж в глазах темнеет. Помню, в 2009-м руководитель моего отдела поехал в командировку на какую-то конференцию, приехал и с пеной у рта рассказывал, как нам всем станет лучше, если мы все это неизведанное внедрим (мы, конечно, ничего не внедрили).
Ну, короче, пока я буду думать, делать что-то или нет, нейросеть уже напишет сотни строк кода, который не нужен, потому что и задачи такой не должно было появиться. Это же отличает хорошего руководителя от исполнителя.
Короче, AI [пока] не умеет мыслить холистично. И на этом пока и закончим.
Современные рекламные щиты, социальные сети, люди с экранов постоянно повторяют одну и ту же мантру: «Выбор — это свобода!».
Ты — не просто человек, ты — концепция выбора, олицетворение свободы. Ты решаешь, что с тобой будет происходить. Ты сам себе архитектор судьбы, мать твою!
Сначала ты выбираешь трансформера на школьном дневнике — кажется вроде несложно. Потом выбор становится серьезней — карьера, отношения, семья, место в жизни, потом кризисы со своими вопросами «жизни, вселенной и вообще». И в какой-то момент понимаешь, что за каждым решением скрывается еще одно, и каждый шаг — это не победа, а очередной контрольный вопрос. Больше вариантов, больше путаницы.
Весь этот выбор, который так изначально казался заманчивым, превращается в синдром распахивающихся дверей, а каждое принятое решение — это не радость, а всего лишь еще один тик в списке задач, которые не хочется выполнять. Это как стоять в магазине с 146 сортами виски и думать: «Могу взять любой, но уже не уверен, что мне вообще нужен виски». А еще можно взять что-то новое и разочароваться во вкусе. Потом переходишь в другие отделы, проверяешь еду — все так же неясно. Конечно, потому что красный соус к птице вроде как не подходит, а если все же взять птицу и белый соус, то и вино надо белое, а я уже красное взял, полчаса выбирал! И этого всего сотни разновидностей. И вот в какой-то момент ты уже не выбираешь — просто берешь что-то, что не пугает, либо привычно, да и устал уже. Да и зачем так-то, если эти лепешки с колбасой и сыром в целом годные. И коньяк дома есть. Универсальный напиток для всего, потому что универсальность избавляет от необходимости выбирать.
Qwen generated.
Мир, который должен был стать местом для самовыражения, в итоге становится полнейшим замешательством. Странная ирония. У нас есть все ресурсы, чтобы быть кем угодно, делать что угодно, но мы находим себя застрявшими между полок супермаркета, где никак ничего не можем выбрать, потому что боимся ошибиться, а со временем начинаем бояться и даже избегать чего-то нового в принципе. Свобода выбора превращается в тяжкий груз, который надо нести как работу, а не как удовольствие.
Все эти решения, все эти бесконечные возможности, вечная нужда что-то из чего-то выбрать. В конечном итоге становишься мастером на все руки, но ни к чему не готовым. Владеешь всей палитрой вселенной, но картину нарисовать нечем. И 10 купленных в Steam новых игр так и останутся под слоем пыли, потому что старые проходить по 100 раз уютнее и понятнее.
Придумал 3 заголовка для этой записи, надо выбрать.
Когда я пытаюсь высказать жене свое недовольство, мои слова растворяются в воздухе. Она продолжает заниматься своими делами с медитативной отрешенностью, а мои протесты тонут в фоновом шуме ее реальности.
Но когда недовольна она, — включается совершенно иной алгоритм. Моя роль сводится к киванию и произнесению успокаивающих «я подумаю». Пока я, собственно, «думаю», процессы уже запущены — мебель переставлена, планы изменены, реальность переписана.
Такой симбиоз: я создаю иллюзию участия в принятии решений, а она — иллюзию, что мое мнение имеет вес. Идеальный брак — это когда оба научились мастерски имитировать демократию при абсолютной монархии. Главное — разговаривать и слушать друг друга.