Современные рекламные щиты, социальные сети, люди с экранов постоянно повторяют одну и ту же мантру: «Выбор — это свобода!».
Ты — не просто человек, ты — концепция выбора, олицетворение свободы. Ты решаешь, что с тобой будет происходить. Ты сам себе архитектор судьбы, мать твою!
Сначала ты выбираешь трансформера на школьном дневнике — кажется вроде несложно. Потом выбор становится серьезней — карьера, отношения, семья, место в жизни, потом кризисы со своими вопросами «жизни, вселенной и вообще». И в какой-то момент понимаешь, что за каждым решением скрывается еще одно, и каждый шаг — это не победа, а очередной контрольный вопрос. Больше вариантов, больше путаницы.
Весь этот выбор, который так изначально казался заманчивым, превращается в синдром распахивающихся дверей, а каждое принятое решение — это не радость, а всего лишь еще один тик в списке задач, которые не хочется выполнять. Это как стоять в магазине с 146 сортами виски и думать: «Могу взять любой, но уже не уверен, что мне вообще нужен виски». А еще можно взять что-то новое и разочароваться во вкусе. Потом переходишь в другие отделы, проверяешь еду — все так же неясно. Конечно, потому что красный соус к птице вроде как не подходит, а если все же взять птицу и белый соус, то и вино надо белое, а я уже красное взял, полчаса выбирал! И этого всего сотни разновидностей. И вот в какой-то момент ты уже не выбираешь — просто берешь что-то, что не пугает, либо привычно, да и устал уже. Да и зачем так-то, если эти лепешки с колбасой и сыром в целом годные. И коньяк дома есть. Универсальный напиток для всего, потому что универсальность избавляет от необходимости выбирать.
Qwen generated.
Мир, который должен был стать местом для самовыражения, в итоге становится полнейшим замешательством. Странная ирония. У нас есть все ресурсы, чтобы быть кем угодно, делать что угодно, но мы находим себя застрявшими между полок супермаркета, где никак ничего не можем выбрать, потому что боимся ошибиться, а со временем начинаем бояться и даже избегать чего-то нового в принципе. Свобода выбора превращается в тяжкий груз, который надо нести как работу, а не как удовольствие.
Все эти решения, все эти бесконечные возможности, вечная нужда что-то из чего-то выбрать. В конечном итоге становишься мастером на все руки, но ни к чему не готовым. Владеешь всей палитрой вселенной, но картину нарисовать нечем. И 10 купленных в Steam новых игр так и останутся под слоем пыли, потому что старые проходить по 100 раз уютнее и понятнее.
Придумал 3 заголовка для этой записи, надо выбрать.
Когда я пытаюсь высказать жене свое недовольство, мои слова растворяются в воздухе. Она продолжает заниматься своими делами с медитативной отрешенностью, а мои протесты тонут в фоновом шуме ее реальности.
Но когда недовольна она, — включается совершенно иной алгоритм. Моя роль сводится к киванию и произнесению успокаивающих «я подумаю». Пока я, собственно, «думаю», процессы уже запущены — мебель переставлена, планы изменены, реальность переписана.
Такой симбиоз: я создаю иллюзию участия в принятии решений, а она — иллюзию, что мое мнение имеет вес. Идеальный брак — это когда оба научились мастерски имитировать демократию при абсолютной монархии. Главное — разговаривать и слушать друг друга.
Человеческий мозг — удивительный орган, способный в любой момент выдать «озарение» такой разрушительной силы, что окружающие начинают сомневаться в эволюционной состоятельности говорящего. Это и есть идеятизм (новый термин, дарю) — спонтанная генерация концепций, чья ценность обратно пропорциональна уверенности, с которой они произносятся. Механизм прост: чем нелепее идея, тем сильнее убежденность в ее гениальности, а критические аргументы воспринимаются лишь как досадные помехи на пути к неминуемой славе.
Феномен особенно коварен своей цикличностью — отвергнутая сегодня гениальная концепция завтра может возродиться в новом, еще более сомнительном виде. Адепты идеятизма не учатся на ошибках, они просто ждут момента, когда окружающие достаточно устанут, чтобы принять бред за инновацию.
Руби
В семье с 22.03.2025
UPD.: спустя 5 дней выяснил, что активный щенок — это очень дорогая подписка на бессонницу.
По работе мне нужно хорошо разбираться в LLM, RAG, ML и так далее — в постоянно развивающихся технологиях и глупеющих людях, короче. Я постоянно учусь, много читаю, даже сделал себе на сайте подборку актуальных новостей про AI.
Так вот, помимо RAG, который я еще толком не успел попробовать руками, в мире уже начали появляться экстеншены и фреймворки для разных задач. Изучил вопрос, делюсь с собой из будущего.
Начнем с RAG (Retrieval Augmented Generation). Это инструмент, который позволяет LLM не просто генерировать текст, а опираться на актуальные внешние данные. Представляем чат-бота, который не ограничен своими устаревшими знаниями, а может заглянуть в свежие источники. Полезно? Безусловно. Особенно в справочных системах, поиске информации, да и в целом везде, где важна актуальность информации и отсутствие галлюцинаций. Но у него есть нюанс — он не анализирует связи между данными, а просто подставляет их в контекст.
CAG (Cache Augmented Generation) расширяет возможности RAG, управляя объемом и глубиной извлекаемых данных. Это как юрист, который сначала просматривает краткую справку, а при необходимости читает весь документ. Такой подход полезен там, где важен баланс между скоростью работы и уровнем детализации — например, в юридических и финансовых системах.
Ключевая концепция CAG заключается в использовании кэша Key-Value (KV). Когда LLM обрабатывает запрос пользователя, она создает пары ключ-значение, где ключом является метка, а значением — информация, связанная с этой меткой. В традиционных системах после генерации ответа все созданные пары удаляются. Однако CAG сохраняет эти метки для дальнейшего использования, что позволяет эффективно повторно использовать информацию в последующих запросах. Таким образом, при обработке коллекции документов мы вычисляем и сохраняем кэш KV для всех документов, что ускоряет процесс вывода и повышает точность ответов.
(Верхняя часть иллюстрирует конвейер RAG, включая динамическое извлечение данных и подачу текстов для ссылки в процессе инференса, тогда как нижняя часть демонстрирует подход CAG, который предварительно загружает KV-кэш, исключая необходимость извлечения данных и подачи текстов для ссылки на этапе инференса.)
| Dataset Size |
RAG Response Time |
CAG Response Time |
Speedup |
| Small |
9.25 seconds |
0.85 seconds |
10.9x |
| Medium |
28.82 seconds |
1.66 seconds |
17.4x |
| Large |
94.35 seconds |
2.33 seconds |
40.5x |
Вот так — в 40 раз!
KAG (Knowledge Augmented Generation) идет дальше. Он использует не только извлечение данных, но и работу со структурированными знаниями: базами, семантическими графами, онтологиями. Его задача — не просто найти нужную информацию, а выстроить из нее логически связанный ответ. Это дает более осмысленный результат. Но есть обратная сторона — такой метод не всегда подходит для задач в реальном времени. Точнее, почти всегда не подходит, но тут надо определиться, в какой момент время становится реальным.
А еще в отличие от RAG, который ограничен векторным поиском и извлечением через модели, такие как BM25 или dense retrieval, KAG требует гораздо более высоких вычислительных мощностей.
Итак, RAG использует векторное сходство для поиска информации, что эффективно в большинстве случаев, однако в областях, где требуется высокая точность и логическое обоснование, такой подход может быть недостаточно надежным. KAG же улучшает обработку информации за счет интеграции графов знаний в RAG, что улучшает логическое мышление и способности к рассуждению.
Для крупных банков эти технологии — инструмент оптимизации. Если важно оперативно отвечать клиентам или обрабатывать большие массивы данных — RAG или CAG подойдут. Если же задача в глубоком анализе и прогнозировании — здесь KAG интереснее.
Примерно так на момент середины марта 2025 это все работает. Для моих задач пока нужен только RAG, но сильно интересно было бы попробовать KAG на реальных задачах крупного банка.
