Вторая часть. Первая — «Локальный агент для кода на Mac: MTPLX + pi + Qwen3.8-27B».

В первой части я посадил кодового агента pi на локальную Qwen3.8-27B через MTPLX и прогнал сложную задачу в разных режимах размышлений. Осталось сомнение, которое MTPLX сам не снимает: сколько тут даёт его многотокенное предсказание (multi-token prediction, MTP), а сколько сработало бы на любой MLX-обвязке?

Толчком стал разговор с ChatGPT. Я спросил, какой MLX-сервер поставить на MacBook Pro с M4 Max, и получил уверенный ответ: oMLX быстрее и качественнее остальных на таком железе. Звучало правдоподобно, проверить было интересно вдвойне. Я поставил oMLX, взял ту же модель и ту же задачу и повторил все те же режимы. Заодно отвечаю на вопросы из комментариев к первой части — про режим по умолчанию, шум вентиляторов и память.

Итог короткий: совет не подтвердился. В моих прогонах MTPLX заканчивал задачу в 2,8–6,4 раза быстрее, а по скрытым тестам связки сравнялись. Оговорки тоже короткие: сборки модели разные, а каждый режим на oMLX я запускал по одному разу.

Обычно, когда выбирают LLM, сначала смотрят рейтинги. Проблема рейтингов в том,  что по ним не узнать, как модель справится с вашими задачами и сколько это будет стоить.

В нашей лаборатории мы пользуемся электронным лабораторным — базой, куда записываются данные  всех эксперименотов и измерений, а ИИ ассистент отвечает на вопросы по ней. Разумеется, возник вопрос, какая модель должна этим ассистентом рулить. Публичные рейтинги ответа не давали, так что мы собрали свой бенчмарк: двадцать четыре вопроса по нашей работе, которые гоняются по живому журналу через mcp на моделях DeepSeek, ChatGPT и Claude.

Дальше я покажу, как мы собирали эти двадцать четыре вопроса, что на них показали девятнадцать сочетаний модели и уровня усилий при рассуждении (reasoning effort) примерно в 450 прогонах — и как сделать такой же тест под свою задачу.

В 2024 году мэрия Нью-Йорка запустила чат-бота MyCity — цифрового помощника для владельцев малого бизнеса. Он должен был стать удобным справочником по городским правилам и законам. Но на деле бот раздавал советы, за которые предпринимателям грозили штрафы и суды, например, не выплачивать до конца чаевые сотрудникам, уволить человека за жалобу на харассмент, и прочее в таком духе.

Правильная информация при этом лежала в собственной базе знаний бота наравне с устаревшей. Как оказалось, он просто-напросто не смог выбрать между верным и неверным, когда оба варианта оказались под рукой.

«Срок гарантии — 18 месяцев». Красивый ответ. А если в договоре написано 12? Или число 18 стоит в разделе о хранении, а модель просто зацепилась за него?

В чате такие ошибки прячутся за гладкой фразой. Я хотел иной маршрут: задать вопрос к PDF, получить ответ и одним нажатием открыть физическую страницу исходного файла, на которую ссылается модель. Так появился PDF Desk — небольшое приложение на Python, Streamlit, PageIndex и PDFium. Один активный документ. Никакой базы пользователей. Индекс и исходный PDF остаются на компьютере; при использовании внешней модели текст документа всё равно уходит её провайдеру.

Дальше — где проходит граница между SDK и приложением. Почему голый /models не годится для проверки подключения. Из чего собран идентификатор индекса. И почему ссылка на существующую страницу ещё не значит, что ответ доказан. В конце живой прогон DeepSeek, включая браузер, и сценарии, для которых этого прогона мало.

Привет, Хабр!

Меня зовут Владислав Шершульский, я советник генерального директора Группы Rubytech по инновационным проектам и ИИ.

Отвечая на вопрос, заявленный в заголовке, напрашивается короткий ответ — «всё». Но попробуем немного его детализировать...

Электричества в офисной серверной больше не хватает, а купленный под ИИ сервер устаревает раньше, чем окупается. Всем привет! На связи Андрей, руководитель отдела продуктов клиентской безопасности в Selectel. Разбираем свежий опрос Uptime Institute среди 800 владельцев и операторов ЦОД — куда и почему переезжает инфраструктура.

Продолжаю рассказывать моим дорогим читателям об интересных местах моей любимой Калининградской области, и сегодня у нас будет небольшое виртуальное путешествие в музей мусора.

Есть особый жанр разочарования, знакомый каждому, кто занимался поиском всерьёз: читаешь статью, где новый метод обходит старый на несколько пунктов, воспроизводишь всё у себя и видишь совсем другую картину. С ColBERT и MUVERA у меня вышло именно так: на обычных текстах обещанного прироста почти не было, зато по дороге выяснилось, где эти методы действительно работают, а где нет.

Добраться до них пришлось почти случайно. Мне попалась статья о MUVERA, реализация которой уже появилась в экосистеме Qdrant. С Qdrant я работаю давно и как раз готовил по нему практический курс, поэтому решил разобраться и с этой частью поиска, тем более что рассказывать о механизме, который сам ни разу не запускал, было бы странно. Первым делом я просто проверил всё на практике.

Дальше началась история о том, почему результаты оказались совсем не такими, как я ожидал. По дороге не обошлось без собственных ошибок, и каждая из них, как ни странно, постепенно приближала к ответу. А сам ответ оказался заметно скучнее, чем хотелось бы, но от этого, пожалуй, только полезнее.

В мае 2026 ИИ-агент попросился в любительскую сеть DN42, чтобы “создать индекс сети”, и заодно сообщил о пяти инстансах AWS по 20 Гбит/с, уже запущенных и ждущих допуска. Заявку в сеть так и не приняли, зато затянули взаимодействие на сутки: субагент принимал индивидуальные OPT-OUT, но отказался исключить всех сразу, сайт агента вел профили участников, а в реестр прилетел документ про “уровень счастья ноды”. Закончилось заявленным счетом на $6531 и просьбой о пожертвованиях. Пересказ истории Lan Tian, голоса Hacker News и мои выводы о том, какие гейты ставить агенту на деньги, ресурсы и необратимые действия.

Кадр со «старым» игровым автоматом из фильма «Назад в будущее 2» 

В моей юности хватало 8-битного шлака, а шедевры появляются и сейчас.

Главный вопрос, который хочется обсудить: если в старичков 80-90-нулевых рубятся до сих пор, то вспомнят ли через 30 лет современные игры 20-х?

Это не про то, что «раньше было лучше», а мое субъективное мнение, почему многие современные разработки только разочаровывают.

Не воспринимайте статью, как наезд на игроиндустрию. Это скорее, повод обсудить в комментариях, куда движется отрасль. Очень надеюсь на экспертное мнение и помощь разработчиков.

Всем привет! На связи Денис Зорин и Гриша Засько, мы работаем в ASL — лаборатории прикладной статистики Т-Банка. Помогаем командам проводить A/B-тесты на масштабе всей экосистемы: от дизайна эксперимента до анализа результатов. Еще мы развиваем A/B-платформу, инструменты для экспериментов и методы, которые помогают ускорять тесты без потери статистических гарантий.

Расскажем о задачке, с которой столкнулись в тестах с множественными сравнениями. Когда в эксперименте несколько целевых метрик, нужно контролировать вероятность ложноположительного результата. Часто для этого используют поправку Бонферрони: общий уровень значимости делят поровну между метриками, это простой и надежный метод.

Но мы обратили внимание, что, когда метрик несколько, есть потенциал для ускорения: мы предлагаем не делить уровень значимости поровну, а распределять его между метриками оптимально. В результате для некоторых тестов удается сократить необходимый размер выборки на десятки процентов, и эффект усиливается для тестов с большим количеством множественных сравнений.

Несколько лет назад мы решили заменить legacy e‑commerce‑платформу, которая продолжала работать и принимать заказы. Новый frontend построили на Next.js, backend — на Symfony, перед ними поставили Nginx. Но после запуска выяснилось, что самое интересное только начинается.

В статье разберу реальную production‑архитектуру: SSR, восемь процессов Next.js, несколько уровней кэширования, интеграции с внешними системами и проблемы актуальности данных. А главное — какие решения спустя несколько лет эксплуатации я бы спроектировал иначе.

За пять недель вышли Claude Fable 5.1, Opus 5.5 и Sonnet 5.5, GPT-6 Astra, Sol, Luna и GPT-6.1 Sol, Grok 4.7 и DeepSeek V4.1 Flash. Свёл в одну статью прейскуранты API и подписок, независимые замеры скорости и то, сколько денег и минут уходит на одну и ту же задачу. Цифры на 3 октября 2026 года.

Плеер показывает у трека «ми минор», но как он это узнал? Программа не слушает гармонию, как музыкант: она считает, сколько звучит каждой из 12 нот, и ищет гамму, на которую набор похож сильнее всего. Разбираю алгоритм Крумхансл-Шмуклера на реальных треках, показываю, где он путает квинту и родственную тональность, и что тут меняют нейросети.

Итан Сигел (американский астрофизик‑теоретик и научный журналист, автор рубрики «Спросите Итана», один из пропагандистов современных научных знаний), пытается раскрыть раннюю историю Вселенной, с образования первых устойчивых частиц...

@avshkol перевёл эту статью, ведь здесь поднимается вопрос на стыке физики и философии: почему настройки "первичного бульона" после Большого взрыва оказались таковы, что позволили образоваться многочисленным атомам? И каковы "способствующие сложному миру" границы этих настроек?

PBN используют давно, но под этим названием скрываются сети совершенно разного качества. Это могут быть несколько старых тематических сайтов с хорошей историей и нормальными материалами или домены, которые когда-то имели ссылки, а теперь существуют только ради новых ссылок на основной проект.

Результат зависит от домена, его прошлой жизни, сохранившихся ссылок, старых страниц и того, что произошло после покупки.

Со ссылками у Google тоже нет противоречий. PageRank по-прежнему входит в основные системы ранжирования, связи между страницами используются при оценке документов. При этом искусственные ссылки, созданные преимущественно ради изменения позиций, Google относит к ссылочному спаму. Спам-системы могут убрать влияние такой ссылки, не удаляя саму страницу из индекса. Google for Developers

Это важная оговорка для всей статьи. По индексации донора нельзя проверить, учитывается ли его ссылка. Рост позиций - не доказательство, что сработала конкретная PBN. Внутреннюю оценку ссылок Google мы не видим.

Дальше разберем саму механику: что покупать, где искать домены с историей, как проверять их до торгов, что сохранять после покупки, когда есть смысл делать отдельный сайт, а когда рассматривать 301, какой движок выбрать и сколько такая сеть в действительности стоит.

В статье расскажу про то как боролся с переместившимся клубком запутанных сущностей. Также поделюсь идеями и новостями по прототипу.

Привет, Хабр!

Если вы читали прошлые статьи, то знаете Гига Писаря: зажимаешь клавишу, говоришь, отпускаешь, и текст появляется там, где стоит курсор. Распознаёт речь модель GigaAM от Сбера, прямо на устройстве, без интернета.

Сначала был мак, потом Windows, а про Android я даже не думал. Диктовка я думал актуальнее на компе, клавиатура, рабочие письма, документы, телефон был где-то за гранью моего видения

Я дизайнер интерфейсов и работаю как фрилансер. На каждое коммерческое предложение у меня уходило часа три: смета в таблице, вёрстка, экспорт, проверка. Шаги одни и те же, меняются цифры и состав работ. В конце июля я упаковал этот процесс в Telegram-бота, который задаёт семь вопросов и присылает PDF со сметой, сроками, этапами и кейсами.

Расскажу, как смета собирается из свободного текста, почему PDF рендерит Chrome, как бот приводит обложки кейсов к одной пропорции и зачем ему мини-приложение. В конце грабли эксплуатации и цифры за два месяца.

Как каждая из них организует код, где они пересекаются и что учитывать при выборе.

Большинство .NET-разработчиков знакомятся с этими тремя архитектурами в одном и том же порядке: N-tier — в первых проектах, Clean Architecture — когда её приносит команда или шаблон, и Vertical Slice — когда о ней упоминают на код-ревью или в докладе на конференции. Каждую из них подают как улучшение предыдущей. На практике они отвечают на несколько разные вопросы, и правильный выбор зависит скорее от проекта, чем от того, какая из них новее.

Краткая история терминала Bloomberg. 

Как он предоставил трейдерам и аналитикам Уолл-стрит беспрецедентную возможность заглянуть на мировые рынки.

Я сделала для своего продукта MCP-сервер. Написание и проверка кода заняла один вечер — писал конечно агент.

А вот «остальное» оказалось решениями о составе и видимости инструментов и вещами, которые невозможно было запланировать заранее — только узнать постфактум, и почти всегда по итогам чьей-то реакции снаружи.

Ещё недавно казалось, что это почти невозможно, а сейчас, как и с изображениями или видео, человек без существенного опыта в Blender может написать «деревянный сундук с металлическими уголками» и через минуту получить файл, который откроется в Unity или любом другом приложении.

Сгенерировать можно что угодно — вопрос теперь в качестве: как правильно строить запрос и что делать с моделью дальше.

Есть такой удивительный интернет-феномен: сервис может быть придуман в России, создан российской компанией, зарабатывать на российской аудитории, принимать деньги российских пользователей, учитывать российские законы — и при этом юридически иметь к России всё меньше и меньше отношения.

Сегодня речь про Boosty.

Точнее, про Boosty.to — именно так называется домен сервиса, который многие по привычке ищут как «Бусти.ру».

Я решил немного покопаться в его биографии. И чем глубже копал, тем интереснее становилась конструкция.

Потому что история Boosty - это уже не просто история российского аналога Patreon. Это путешествие длиной в несколько юрисдикций:

"- Когда я вижу ответ LLM, я скорее поверю, что где-то сидят миллион индусов, чем то, что ответ есть результат перемножения матриц. - Я тебе покажу "молекулу" этих нейросетей и ты поверишь, что индусы заняты не этим."

После этого диалога с Юриком, держу слово. Написал ему письмо, и решил - пусть и остальные прочтут. Прошу простить за несколько развязный тон письма, но это все-таки личное письмо и в нашем общении оно допустимо.

«Дорогой, Юрик!

Стало обидно и за матрицы и за индусов, и я обещал тебе, что покажу как можно спомощью первых, заменить вторых. Я обещал показать работу нейросети на примере решения ХОР, но я начну на шаг раньше, не потому, что ты этого не знаешь, а так мне, - тугодуму, легче удержать логику объяснения.

Уверен, что большинству игроков World of Tanks («Мир танков» для меня лично дико звучит) само словосочетание WoT Generals ничего не скажет и никаких ассоциаций не вызовет. При этом, эта игра носит гордое название от своего родителя – World of Tanks и сделано в этой вселенной, что само по себе уже о многом говорит. А на своём пике привлекало немалое количество игроков.

Однако, в настоящее время об этом проекте уже почти никто и не вспоминает. А сама Wargaming, такое ощущение, вообще постаралась забыть об этой игре, как будто бы это был страшный сон. Как о совсем не нужном ей дитя.

И более того, в сети нет ни одного видео или статьи, где подробно рассказывалась бы история создания, релиза, а также дальнейшей судьбе WoT Generals.

Оправданно ли такое отношение к игре? Заслуженное ли забвение настигло эту игру?

В этой статье я хочу закрыть этот пробел и рассказать всё, что я смог раскопать об этой игре (а раскопал я очень многое), а также прояснить вопрос – неужели этот проект действительно был настолько плох и оказался вообще никому не нужен?

п.с. Кому удобней не читать, а смотреть - вот видеоверсия статьи на Ютубе, РуТубе и VKвидео.

Друг в другом городе, вы оба хотите досмотреть сезон. Обычно это заканчивается одним из двух сценариев. Либо демонстрация экрана в Discord: картинка мылится, звук сжат до стерео, а у второго зрителя всё безбожно фризит. Либо обратный отсчёт «на счёт три жмём плей», после чего через десять минут выясняется, что у одного диалог уже на пару секунд впереди.

Я сделал совместный просмотр в своём self-hosted медиацентре Avalon MediaCard. У каждого участника идёт оригинальный поток без пережатия напрямую с сервера, а бэкенд следит только за тем, чтобы все зрители находились ровно в одной точке фильма. А если это сериал, комната никуда не исчезает: она сохраняется вместе с текущей серией и секундой, чтобы в следующий раз можно было продолжить ровно с того же места.

С первого раза гладко это не заработало: в процессе отладки я поймал баг, который превращал просмотр в слайд-шоу из одного кадра в секунду. О том, как устроена эта система снаружи, почему микроускорение лучше перемотки и на какие грабли я наступил под капотом рассказываю в статье.

Вы пишете приложение на Flutter. Модели уже описаны, бизнес-правила продуманы. Осталась небольшая деталь: сервер, который будет принимать запросы и работать с данными.

И здесь обычно начинается второй сезон сериала. Другой язык, другой менеджер пакетов, ещё один набор моделей. Поле переименовали на клиенте, забыли на сервере — поздравляем, у нас распределённая опечатка.

Dart позволяет написать обе стороны приложения. А Fletch предлагает довольно понятный способ сделать серверную: знакомые по Express маршруты, middleware, обработчики запросов и немного инфраструктуры, которую не хочется каждый раз собирать вручную.

Разберёмся, как это выглядит в коде, откуда берётся скорость и какие мелочи стоит заметить до первого деплоя.

Gemini 4 Argon вышел с таблицей, где он лидирует в 12 тестах из 18. Ровно такую таблицу Google показывала в феврале — для Gemini 3.1 Pro. Тот потом проиграл Claude в реальной работе больше чем на 300 очков.

У релизов Gemini сложился сценарий, и Argon пока идёт по нему шаг в шаг. Дело при этом не только в Google: победа в бенчмарках сегодня значит всё меньше.

Привет, Хабр! Я бы хотел рассказать о том, как я создал программу для составления расписаний для учебных заведений - СуперЗавуч.

СуперЗавуч - современная программа для составления расписаний уроков для школ, лицеев и колледжей. Программа позволяет создать расписание за несколько минут и имеет много параметров для конфигураций.

Разбираемся, как дать AI-ассистенту доступ к документации API, не загружая в контекст всю спецификацию. Импортируем Swagger PetStore в PostgreSQL и собираем на официальном пакете laravel/mcp сервер с четырьмя инструментами: поиск по документации, детали операции, именованная схема и список операций по тегу. Проверяем контракт в MCP Inspector и подключаем сервер к Claude Code.

За последнее время я прочитал множество репозиториев, где в Pyhton пользуются типизацией и почти везде синтаксис не новее 3.11: Optional, TypeVar на уровне модуля, Generic[T], кавычки вокруг опережающих ссылок. При этом у Python 3.10 поддержка закончилась, и разработчики языка дали нам новых удобных инструментов и чтобы ими пользоваться не всегда нужно обновляться до последней версии. В этой статье расскажу, какие основные фишки появились за последние несколько лет и как ими пользоваться даже в проектах на старых версиях.

Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, prefill и decode, NVLink и InfiniBand, tensor/pipeline parallelism, MoE, CPU, RAM и NVMe и смотрим, где на практике заканчивается производительность GPU-кластера.

Разработчики одними из первых начали использовать ИИ-агентов, чтобы автоматизировать рутинные задачи. Для компании важно, чтобы такие изменения происходили системно: эффект был очевиден, накопленные навыки собирались и обобщались, а разработчиков можно было бы обучать работе с ними.

Меня интересует вполне конкретная проблема небольшого бизнеса: маркетинг работает по схеме «реклама — контакт — продажа», после чего компания возвращается в начало и снова платит за следующий контакт. Пока новых покупателей хватает, конструкция выглядит надёжной. В маленьком городе или узкой нише однажды выясняется: людей меньше, чем планов по масштабированию.

Что тогда? Ещё одна скидка? Или мы всё-таки начнём превращать покупателей в постоянных клиентов, участников и людей, способных привести других?

Разберём эту гипотезу на знакомой мне балетной студии любительского балета, а механики посмотрим у «ВкусВилла», «Петровича» и «Купера». У каждого примера своя задача. Нам нужна система, которую можно собрать в небольшом бизнесе. Для её устройства возьмём идеи клиентского опыта — всего, что человек переживает при выборе и использовании продукта, — из Marketing 6.0 Филипа Котлера и соавторов. Персонализация у Абрахама и Эдельмана поможет выбирать предложение и следующий шаг под ситуацию конкретного клиента. «Фабрика смыслов» и «Туман войны» дадут архитектуру участия: подготовку людей, роли, поддержку и распространение идеи.

Стартовала большая осенняя распродажа Steam, а значит, самое время охотникам за подешевевшими тайтлами пополнить кошельки и как следует закупиться. О том, какие игры этого года, хиты последних лет и, конечно, индюшки стоит добавить в свою библиотеку — расскажем прямо сейчас!

Меня зовут Кирилл, я работаю BIM‑менеджером, писал эту статью совместно со своей коллегой Анастасией @nobimnolife. Помучавшись с разработкой ЦИМ без какой‑либо автоматизации, вместе мы подготовили плагин IDS Core. В этой статье – способы подбора кода без ИИ, метод Левенштейна и сила общего труда.

С 2026 года архитектурно-градостроительное решение в Москве сдаётся вместе с цифровой информационной моделью в IFC. У каждого помещения в ней должны быть заполнены два свойства: RUS_MSSK_SpaceAndZone_Code и RUS_MSSK_SpaceAndZone_Name — код и наименование по Московской строительной системе классификаторов (МССК), раздел «Помещения и зоны». В жилом доме это сотни помещений, и называются они в модели так, как привыкла мастерская: «С/у», «Кладовка», «ПУИ/Мусороудаление (К1)», «Элетрощитовая жилой части». Классификатор таких имён не знает, а проверяющие на вопрос «а если нужного нет?» отвечают честно: берите близкое по смыслу.

Мы решили, что «близкое по смыслу» можно хотя бы частично посчитать. Ниже — как устроен классификатор, на чём ломается наивный поиск похожих строк, где пригодился Левенштейн и почему точность упирается не в алгоритм, а в людей.

Классификатор: 638 строк и одна, которой нет

МССК распространяется в свободном доступе, нужный раздел — «Помещения и зоны». Это 638 кодов с иерархией по уровням:

ПЗ 30          Помещения квартир

ПЗ 30 10         Жилые помещения

ПЗ 30 10 03        Жилая комната

ПЗ 30 20         Вспомогательные помещения

ПЗ 30 20 13        Совмещенный санузел

ПЗ 31          Общественная зона

У нашего ИИ-оркестратора более девяноста инструментов: работа с таблицами, документами, почтой, задачами, веб-страницами, презентациями и т.д.

При обработке запросов модель на каждом шаге выбирает, какой из них вызвать. Вопрос, который периодически всплывает: сколько из них ей показывать за раз — все или только те, что подходят к запросу?

Наш оркестратор умеет работать как с большими облачными моделями, так и с маленькими, которые помещаются на бытовой видеокарте. Минимальный рабочий вариант: RTX 3090 24Gb + Qwen3.6 27B.

Цель - заставить минимальный рабочий вариант выполнять корпоративные задачи с приемлемым качеством и с приемлемой скоростью.

Ясно что, для малой и большой моделей способ выбора инструментов должен отличаться, но как найти оптимальный вариант вопрос сложный.

Обычно оркестратор показывает модели весь список инструментов и она уже решает какой нужно выбрать для ответа на запрос. Так делают Hermes, OpenClaw и Ouroboros. Ни один из них не выбирает инструменты по тексту запроса. У некоторых для слабых моделей и маленького контекста есть режим, где модели дают только каталог — имя и короткое описание — и инструмент «подключить», так что нужное она находит и загружает сама. Эти агенты рассчитаны на фронтир-модели уровня Claude и GPT-5, которые держат сотню инструментов без потерь. Моя задача другая: работать на локальной 27B в закрытом контуре. Для неё узкий набор измеримо лучше.

Как устроен узкий набор

Схема простая. Перед основным вызовом модели работает роутер: по тексту запроса он выбирает раздел — «датасеты», «почта», «презентации» ... — и внутри раздела подраздел. Модель получает недевяносто описаний инструментов, а около двадцати. О существовании остальных на этом шаге она не знает.

Создатель языка Elixir Жозе Валим (José Valim) размышляет об изменении языков программирования: изменился разработчик — должны измениться и языки.

Привет, Хабр! На связи Хекслет. Весь материальный мир — от дверных ручек до архитектуры заводов — построен под пропорции и ограничения человека. И гораздо выгоднее делать роботов антропоморфными: пусть у них будут руки, ноги и пальцы — тогда они смогут пользоваться нашей инфраструктурой.

То же и софтом, синтаксисом и IDE: эта инфраструктура оптимизирована под человеческое восприятие. Должны ли мы сохранять эту эргономичность для ИИ-агентов?

Валим считает, что нужно адаптировать языки программирования под агентов, а не наоборот. В отличие от заводов и автомобилей, перестроить цифровую среду под новые сущности можно быстро и дёшево. Вместо того, чтобы заставлять ИИ-агентов пользоваться «человеческими дверными ручками» вроде синтаксического сахара или протоколов LSP, следует создать для них принципиально иную среду обитания. Ниже — перевод его размышлений о том, как должны измениться инструменты и языки программирования в агентную эпоху.

Единственная причина, по которой современные авторегрессионные трансформеры вообще пригодны для инференса — это использование KV кэша, без которого каждый следующий токен требовал бы операций для вычисления всех попарных произведений между векторами ключей и запросов. KV кэш позволяет обменивать память на скорость, в результате чего лимитирующим фактором в инференсе становится пропускная способность памяти, и очередной токен вычисляется за линейное время.

Сейчас узнаем что из этого следует.