В iPhone 18 Pro с процессором A20 Pro заметно улучшилась производительность в задачах, связанных с искусственным интеллектом, работающим без интернета. В тесте смартфон запустил модель Bonsai 27b, содержащую 27 миллиардов параметров, примерно вдвое быстрее по сравнению с iPhone 17 Pro на базе A19 Pro. Испытание провел разработчик Адриен Гронден.
Улучшение связано с обновленным Neural Engine, который включает два 16-ядерных блока. Кроме того, iPhone 18 Pro оснащен 12 ГБ быстрой памяти LPDDR5X с пропускной способностью 115,2 ГБ/с, что критически важно для работы с крупными языковыми моделями на устройстве.
Однако, у iPhone 18 Pro есть свои ограничения. Новая версия Bonsai 2 с 2-битной квантизацией оказалась слишком сложной для комфортного запуска на смартфоне. Поэтому увеличение объема оперативной памяти в будущих устройствах может стать ключевым для работы с еще более крупными моделями ИИ.
Apple утверждает, что A20 Pro обладает вдвое большей вычислительной мощностью Neural Engine по сравнению с предыдущим поколением. Компания подчеркивает важность локального запуска крупных языковых моделей и расширенных возможностей Apple Intelligence.
Таким образом, iPhone 18 Pro демонстрирует значительное усиление в области локального искусственного интеллекта. Запуск модели с 27 миллиардами параметров без облачной поддержки показывает, насколько близки смартфоны к возможностям полноценных компьютеров в этой сфере. Тем не менее, объем оперативной памяти остается важным ограничивающим фактором для работы с еще более крупными моделями.