Отдел был создан в 2003 г. С момента создания и до января 2021 года отделом заведовал доктор физико-математических наук Алексей Владимирович Борисов (1965–2021). В отделе проводятся исследования нелинейных динамических систем, хаоса, интегрируемости. Сотрудники отдела занимаются исследованиями по четырем основным направлениям: небесная механика, неголономная механика, динамика твердого тела и теория вихрей.

Указан ряд новых интегрируемых случаев в динамике твердого тела, небесной механике, вихревой динамике, неголономной механике. Показана возможность возникновения странных аттракторов в динамике кельтского камня, которая сводится к исследованию трехмерного точечного отображения. Указаны новые качественные свойства частных решений в интегрируемых задачах динамики твердого тела с использованием методов компьютерной визуализации движения, имеется ряд результатов по качественному анализу динамических систем (А.В. Борисов).

Получены нетривиальные оценки степени устойчивости линейных гамильтоновых систем через сигнатуру квадратичного гамильтониана. Результаты общего характера применены к классической задаче о гироскопической стабилизации. В частности, доказано, что при добавлении гироскопических сил степень устойчивости системы не уменьшается (академик В.В. Козлов).

Открыты топологические препятствия к существованию квантовых законов сохранения: если род двумерного пространства положений больше единицы, то нет нетривиальных дифференциальных операторов, коммутирующих с оператором Гамильтона. Указаны некоторые многомерные аналоги этого результата. Теорема Окстоби о строго эргодических автоморфизмах распространена на случай весовых средних Рисса и Вороного. Этот результат позволяет усилить классическую теорему Вейля о равномерном распределении дробных частей многочлена с иррациональным коэффициентом. Доказана теорема о сохранении знака биркгофовских сумм (В.В. Козлов).

Изучена симплектическая геометрия ограничений невырожденных квадратичных форм на лагранжевы плоскости. Развита теория вихревых инвариантных плоскостей линейных гамильтоновых систем. Условия инвариантности сводятся к разрешимости квадратного матричного уравнения. С помощью метода сжатых отображений найдены условия существования решений матричных уравнений и даны оценки их нормы. С их помощью указаны новые условия гироскопической стабилизации. Обнаружена двойственность в пространстве вихревых плоскостей, которая служит симплектическим аналогом теоремы Виета для квадратных матричных уравнений (В.В. Козлов).

Выполнен качественный анализ задачи трех тел и четырех вихрей на плоскости и сфере. Исследованы сценарии перехода к хаосу в динамике твердого тела; в частности, указаны условия возникновения адиабатического хаоса. Получены новые интегралы и указаны возможные интегрируемые иерархии в задачах неголономной механики, связанных с качением твердых тел по плоскости и сфере (И.С. Мамаев).

Приведены конструктивные методы редукции на уровни интегралов для задач вихревой и небесной механики. Найден дополнительный первый интеграл движения в ряде задач неголономной динамики. Указаны семейства периодических решений (хореографий) в задачах о движении твердого тела, движении N вихрей на плоскости и сфере. Развит ряд методов, совмещающих аналитические и компьютерные исследования динамических систем (А.А. Килин).

Выведены и исследованы уравнения движения одного и нескольких твердых тел в жидкости, взаимодействующих с точечными вихрями (С.М. Рамоданов).