В своём подкасте я уже продвигал идею о том, что в ближайшем будущем новым трендом может стать локализация ИИ на устройствах, и первым это может реализовать Apple. Они не тратились на разработку своих LLM, и могут неплохо заработать, если поставят дешёвые китайские модели на свои складные телефоны и ноутбуки уже этой осенью. Тогда я говорил об этом в плане причины, по которой впервые за многие годы добавил $AAPL в портфели моих инвесторов, но в этой статье посмотрим на это в более широком смысле.
Итак, есть мнение, что будущее ИИ - это не большие языковые модели (LLM), а малые языковые модели (SLM), работающие локально. В мае группа исследователей из Стэнфордского университета опубликовала работу, в которой сравнивалась производительность этих SLM с производительностью LLM, работающих в ЦОДах. Если их результаты верны, то в будущем нам практически не понадобятся дата-центры, а крупные компании сейчас тратят сотни миллиардов долларов инвестиций впустую.
Если вы инвестор и пытаетесь понять, куда в итоге сложится весь ажиотаж вокруг ИИ, вам обязательно нужно прочитать этот документ полностью, но для начала позвольте мне привести несколько основных моментов.
Сначала они запустили ряд однопроходных программ (QWEN 3, GEMMA 3, GPT-OSS, GRANITE 4.0), которые можно загрузить на локальный ПК, и сравнили их производительность с современными облачными однопроходными программами (ChatGPT 5, Claude Sonnet 4.5, Gemini 2.5 Pro).
Они запускали эти SLM на локальных ПК, работающих либо на чипе Nvidia, либо на чипе Apple M4, поскольку они легко доступны в современных высокопроизводительных настольных компьютерах (всё исследование было проведено до того, как Nvidia представила свой ИИ-чип для ПК, что только ускорит переход от ЦОДов к моделям, работающим на настольных компьютерах).
Затем они проследили результаты работы этих SLM по сравнению с LLM в период с 2023 г по октябрь 2025 г как в задачах на общение в чате, так и в задачах на логическое мышление.
На диаграмме ниже показано соотношение побед и ничьих для SLM и LLM в запросах чата, которые по-прежнему составляют подавляющее большинство запросов сегодня. Как вы можете видеть, в каждой области лучший SLM способен найти те же или лучшие ответы, чем LLM, в 90% или более случаев, со средним показателем по всем областям 98,6%.
Соотношение побед и ничьих SLM и LLM в запросах чата:
Источник: Саад-Фалсон и др. (2026)
Что касается задач на логическое мышление, которые, очевидно, более сложны, то SLM-ы быстро догоняют. В среднем, они дают лучший или, по крайней мере, такой же хороший ответ, как LLM-ы, в 62,5% случаев.
Соотношение побед/ничьих SLM и LLM в задачах на логическое мышление:
Однако в реальной жизни задачи для SLM и LLM обычно представляют собой сочетание запросов в чате и задач на логическое мышление, поэтому на третьем графике показано средневзвешенное значение производительности запросов в чате и задач на логическое мышление в зависимости от частоты выполнения задач в каждой области. Как вы можете видеть, в среднем SLM показывают результаты не хуже, а то и лучше, чем LLM в 81,2% случаев, при этом LLM имеют значительное преимущество только в таких областях, как инженерия, биологические науки, транспорт и информатика.
Соотношение побед и ничьих SLM и LLM в задачах на логическое мышление и ведение беседы:
Но дело не только в точности. SLM-ы достигают такой производительности при энерго- и вычислительных затратах, которые на 50–85% ниже, чем у LLM-ов, в зависимости от модели и используемого в компьютере оборудования.
Более того, SLM-ы быстро догоняют конкурентов в задачах на логическое мышление. На заключительном графике показана производительность SLM-ов в зависимости от уровня сложности и генерации модели только для задач на логическое мышление.
В 2023 г показатель успешности SLM в задачах на логическое мышление обычно составлял около 50% на всех пяти уровнях сложности. К октябрю 2025 г SLM достигли уже 99% успешности в самых простых задачах на логическое мышление уровней 1 и 2, от 85% до 92% успешности в более сложных задачах (уровни 3 и 4) и отставали только от LLM в самых сложных задачах уровня 5 (показатель успешности 51,5%).
Показатели успешности применения SLM в задачах на логическое мышление:
Это уже означает, что ЦОДы и их дорогостоящую передовую полупроводниковую инфраструктуру можно заменить в четырёх из пяти случаев использования. Согласно этому исследовательскому отчёту, потенциальный рынок SLM в США вырос примерно до $10 трлн., или одной трети всего ВВП США в размере $30 трлн. Для LLM остаётся не так много возможностей для развития, и с каждым годом их преимущество перед SLM сокращается.
Очевидно, что существуют области, где LLM по-прежнему значительно превосходят SLM, особенно в приложениях агентного ИИ, где SLM в настоящее время достигают точности и успешности менее 50%. Аналогично, запуск этих SLM на смартфонах пока затруднён. Модели, которые можно запустить на iPhone, значительно хуже, чем модели, которые можно запустить на настольном ПК.
Очень важно здесь то, что модели, работающие на настольном ПК, и тем более модели, работающие на смартфоне, гораздо более энергоэффективны, чем модели, работающие в облаке. Вывод на 1 ватт для этих SLM обычно в 7 раз выше, чем для LLM, а это значит, что когда вы сталкиваетесь с задачей, которую можно решить на настольном компьютере или даже мобильном устройстве, дешевле сделать это локально, чем отправлять в ЦОД.
На мой взгляд, это имеет важные последствия для инвесторов:
- Нам нужно гораздо меньше дата-центров, чем мы думаем. Если мы уже сейчас можем заменить 70-80% задач, которые, как ожидается, будут выполняться на LLM-платформах, на SLM-платформы, то у гипермасштабных компаний в будущем просто не будет роста доходов, достаточного для оправдания капитальных затрат. Фактически, если это исследование подтвердится и эта тенденция сохранится, ЦОДы могут оказаться худшей инвестицией в сфере ИИ, которую можно сделать прямо сейчас.
- Хотя нам по-прежнему необходимы огромные инвестиции в полупроводники всех видов, нам не нужно вкладываться в самые передовые чипы Nvidia. Более дешёвых чипов, работающих на настольных ПК, будет достаточно. В лучшем случае Nvidia сможет заменить свои высокопроизводительные графические процессоры для ЦОДов новыми чипами для настольных ПК. Как это повлияет на рентабельность и рост выручки Nvidia в будущем?
- Для решения самых сложных задач нам по-прежнему необходимы модели с расширенными функциями (LLM), и такие компании, как OpenAI, Anthropic и другие, смогут упростить свои модели до моделей с упрощёнными функциями (SLM) и продавать их вместо LLM. Однако учитывая уже жёсткую конкуренцию со стороны китайских поставщиков, таких как QWEN или GRANITE от IBM, рентабельность этих моделей будет значительно ниже, чем у LLM. Что это значит для оценки этих компаний при планируемых IPO и для траектории их роста?
- Хотя агентный ИИ по-прежнему лучше справляется с задачами на уровне сложности, это может быть лишь временным преимуществом, подобным тому, что мы наблюдали в задачах на логическое мышление и при обработке отдельных запросов в чате. Если это так, то настоящими победителями бума ИИ станут не поставщики передового оборудования и ЦОДов, а скучные производители настольных компьютеров, такие как Dell и Apple.
Наблюдать за развитием этой гонки будет интересно, и я всё больше убеждаюсь, что многие люди сильно пострадают, потому что вложат средства не в те технологии. Удачи!!!
На рынке всегда много интересного, а лучшие мои посты, рецензии на книги, актуальные графики и сделки всегда найдёте в телеграм-канале: "Тихий Трейдер" Разберём всё по полочкам. Welcome!!!
%2B%2B05_12_2014.jpg)
Комментариев нет:
Отправить комментарий