Для Apple Silicon появилась действительно заметная находка: разработчику удалось обойти ограничения Neural Engine (ANE) в чипе M4 и запустить локальное обучение ИИ-моделей на устройстве — эту возможность Apple до сих пор не открывала.
Обычно Neural Engine в чипах M4 в основном задействуется для эффективного выполнения уже обученных моделей, то есть для инференса. Однако исследователь безопасности и разработчик @0x0SojalSec сообщил в X, что ему удалось провести реверс-инжиниринг этих ограничений. В результате он открыл доступ к вычислительной мощности до 15,8 TFLOPS для полноценного обучения, включая backpropagation в transformer-моделях.
Вместо стандартных фреймворков Apple — Core ML или Metal — команда создала собственный Model Intermediate Language (MIL), который позволяет обращаться к Neural Engine напрямую. Все данные при этом удерживаются в оперативной памяти, чтобы избежать медленных операций записи на накопитель, и это делает процесс неожиданно быстрым и стабильным. Также был найден обходной способ с использованием команды exec(), которая перезапускает процесс при зависании обучения, позволяя сохранять контрольные точки и продолжать работу.
Разработчик опубликовал проект на GitHub, показав, что обучать нейросети непосредственно на ANE можно с минимальным числом дополнительных зависимостей. Ранние тесты выглядят впечатляюще: отдельные этапы обучения transformer-моделей на чипах M4 выполняются всего за миллисекунды.
Apple официально не включает и не поддерживает обучение на Neural Engine — компания продвигает этот блок как решение с производительностью до 38 TOPS исключительно для инференса. Эта работа по реверс-инжинирингу показывает, что в этих чипах может скрываться куда больший потенциал, чем считалось ранее.
Для ИИ-сообщества это важный сигнал: обычные Mac и iPad теоретически могут превратиться в гораздо более полезные локальные системы для обучения небольших моделей, снижая зависимость от облачных сервисов. Заодно это вновь поднимает вопрос о том, насколько жестко Apple контролирует связку аппаратного и программного обеспечения.
Теперь интересно, к каким еще результатам придет сообщество по мере дальнейших экспериментов. Пока это выглядит как многообещающий шаг к более мощным локальным экспериментам с ИИ внутри экосистемы Apple.
Новость показывает, что устройства Apple с чипами M4 потенциально способны не только запускать ИИ-модели, но и обучать их локально. Для разработчиков и исследователей это может означать больше возможностей для экспериментов без обращения к облачной инфраструктуре. Для обычных пользователей это косвенный сигнал о том, что вычислительный запас таких устройств может быть выше заявленного сценария использования.
Читайте так же:
- 5 причин, по которым MacBook Neo не является типичным MacBook
- Появился современный интерфейс для Планировщика задач — но его создал один независимый разработчик, а не Microsoft.
- Первый тест MacBook Neo показал, насколько быстр новый ноутбук Apple
- MacBook Neo может стать самым доступным ноутбуком Apple на сегодняшний день
- Apple подтверждает проведение 4 марта мероприятия “Special Apple Experience”. Среди ожидаемых новинок — бюджетный MacBook, iPhone 17e
