Как новый алгоритм Google помогает is использовать RAM более эффективно

Мир электроники сейчас очень динамичен из-за постоянного роста цен и многочисленных изменений на рынке. Большой рост стоимости вызван нехваткой чипов, усиленной активным использованием искусственного интеллекта, что повышает цену оперативной памяти и делает компьютеры более дорогими. Также дорожают игровые консоли, смарт-телевизоры и другие гаджеты. Однако появилась потенциальная «спасительная» технология: Google представила новую систему сжатия, которая позволит ИИ более эффективно использовать оперативную память, снижая потребность в ней для крупных центров обработки данных.

TurboQuant от Google

Мэтью Принс, генеральный директор Cloudflare, назвал алгоритм «DeepSeek от Google» в X, намекая на успех DEEPSEEK AI в ускорении обучения большим языковым моделям. Новый алгоритм, получивший название TurboQuant, обещает повысить эффективность работы ИИ, но пока он находится на стадии исследований и не внедрен в коммерческие центры обработки данных.

Хотя Google утверждает, что TurboQuant улучшит использование оперативной памяти, реальный эффект на потребительский рынок вряд ли будет ощутимым в краткосрочной перспективе. Проблема в том, что кэш ключ-значение (KV), который сохраняет контекст для моделей ИИ, остается узким местом. TurboQuant сжимает информацию в кеше, позволяя хранить и обрабатывать больше данных без необходимости расширять кеш, но добавление новых моделей и функций ИИ по-прежнему потребует большого объема оперативной памяти.

Как это работает

Представьте, что ИИ хранит весь контекст взаимодействия с пользователем в виде изображения в папке. Эти изображения затем кэшируются в KV. По мере роста объема данных анализ становится все труднее. TurboQuant сжимает эти «изображения» и структурирует их для более легкой обработки, что позволяет более эффективно использовать существующую оперативную память.

Реальное влияние на рынок

Благодаря TurboQuant спрос на оперативную память в центрах обработки данных может немного снизиться, что потенциально снизит цены. Однако гарантии нет: компании продолжают создавать новые мощные модели ИИ и запускать новые функции, что поддерживает высокий спрос на оперативную память. KV-кэш растет вместе с распространением ИИ среди пользователей, и это сохраняет давление на рынок.

Несмотря на это, появление TurboQuant демонстрирует, что Google ищет способы оптимизации и может частично уменьшить нехватку оперативной памяти. Однако в настоящее время это нельзя считать постоянным решением, особенно когда спрос и предложение остаются сильно дисбалансированными.

- Реклама -