Новости нейросетей
Исследовательская команда представила специализированный чип для работы больших моделей ИИ прямо на краю сети — в дронах, автономных роботах и промышленных контроллерах. Архитектура ориентирована на запуск оптимизированных языковых и зрительных моделей с минимальным энергопотреблением, что позволяет устройствам принимать сложные решения без постоянного доступа к облачным серверам. Для задач, где важны миллисекунды — навигация в тесных пространствах, работа манипуляторов рядом с людьми, — это гораздо надёжнее, чем пересылка данных в дата‑центр и ожидание ответа.
Чип сочетает в себе энергоэффективные вычислительные блоки для матричных операций и встроенный модуль ускорения трансформеров, а также выделенную память для хранения квантованных параметров моделей. Разработчики утверждают, что на одном небольшом роботе теперь можно одновременно запускать модель для распознавания объектов, планирования траектории и диалогового интерфейса с оператором. При этом энергопотребление остаётся достаточно низким, чтобы интегрировать систему в батарейные платформы — от дронов до автономных тележек на складах.
Отказ от постоянной зависимости от облака решает сразу несколько проблем: повышает устойчивость к потере связи, снижает эксплуатационные расходы и даёт компаниям больше контроля над тем, где именно хранятся и обрабатываются данные. Эксперты считают, что такие чипы станут ключевым драйвером роста «тяжёлого» ИИ на краю: умные камеры, роботы и дроны смогут не только «видеть» и «слушать», но и локально размышлять над ситуацией, адаптируясь к окружающей среде без дообучения в дата‑центре. Это, в свою очередь, ускорит внедрение автономных систем в логистике, сельском хозяйстве, безопасности и городском управлении.