Внутренний размер

Внутреннее измерение для набора данных можно рассматривать как число переменных , необходимых в минимальном представлении данных. Точно так же при обработке многомерных сигналов внутренняя размерность сигнала описывает, сколько переменных необходимо для генерации хорошего приближения сигнала.

Однако при оценке внутренней размерности часто используется несколько более широкое определение, основанное на размерности многообразия, когда представление во внутренней размерности действительно должно существовать только локально. Таким образом, такие методы оценки внутренних измерений могут обрабатывать наборы данных с различными внутренними измерениями в разных частях набора данных. Это часто называют локальной внутренней размерностью .

Внутреннее измерение можно использовать как нижнюю границу того, в какое измерение можно сжать набор данных посредством уменьшения размерности, но его также можно использовать как меру сложности набора данных или сигнала. Для набора данных или сигнала N переменных его внутренняя размерность M удовлетворяет 0 ≤ M ≤ N , хотя оценки могут давать более высокие значения.

Пример [ править ]

Позвольте быть функцией двух переменных (или сигналом ), которая имеет форму для некоторой функции одной переменной g, которая не является постоянной . Это означает, что f изменяется в соответствии с g с первой переменной или по первой координате . С другой стороны, f постоянна по отношению ко второй переменной или по второй координате. Необходимо знать только значение одной, а именно первой переменной, чтобы определить значение f . Следовательно, это функция с двумя переменными, но ее внутренняя размерность равна единице.${\ textstyle f (x_ {1}, x_ {2})}$${\ textstyle f (x_ {1}, x_ {2}) = g (x_ {1})}$

Чуть более сложный пример .f по-прежнему является внутренне одномерным, что можно увидеть, выполнив преобразование переменной и которое дает . Поскольку изменение f можно описать одной переменной y _1, его внутренняя размерность равна единице.${\ textstyle f (x_ {1}, x_ {2}) = g (x_ {1} + x_ {2})}$${\ textstyle y_ {1} = x_ {1} + x_ {2}}$${\ textstyle y_ {2} = x_ {1} -x_ {2}}$${\ textstyle f \ left ({\ frac {y_ {1} + y_ {2}} {2}}, {\ frac {y_ {1} -y_ {2}} {2}} \ right) = g \ слева (y_ {1} \ right)}$

В случае, когда f является постоянным, его внутренняя размерность равна нулю, поскольку для описания вариации не требуется никакой переменной. В общем случае, когда внутренняя размерность функции двух переменных f не равна ни нулю, ни единице, она равна двум.

В литературе функции, имеющие внутреннюю размерность ноль, один или два, иногда называют i0D , i1D или i2D соответственно.

Формальное определение сигналов [ править ]

Для N -переменных функций F , множество переменных может быть представлено как N - мерный вектор х : .${\ textstyle f = f \ left (\ mathbf {x} \ right) {\ text {where}} \ mathbf {x} = \ left (x_ {1}, \ dots, x_ {N} \ right)}$

Если для некоторой M -переменной функции g и матрицы A размера M × N верно, что

• для всех x ;${\ textstyle е (\ mathbf {x}) = г (\ mathbf {Ax}),}$
• M - наименьшее число, для которого может быть найдено указанное выше соотношение между f и g ,

то внутренняя размерность F является М .

Внутреннее измерение является характеристикой F , это не является однозначной характеристика г , ни А . То есть, если указанное выше соотношение выполняется для некоторых f , g и A , оно также должно выполняться для тех же f и g ' и A', заданных формулами и где B - невырожденная матрица размера M × M , поскольку .${\textstyle g'\left(\mathbf {y} \right)=g\left(\mathbf {By} \right)}$${\textstyle \mathbf {A'} =\mathbf {B} ^{-1}\mathbf {A} }$${\textstyle f\left(\mathbf {x} \right)=g'\left(\mathbf {A'x} \right)=g\left(\mathbf {BA'x} \right)=g\left(\mathbf {Ax} \right)}$

Преобразование Фурье сигналов низкой внутренней размерности [ править ]

Н функция переменной , которая имеет внутреннюю размерность M <N имеет характеристику преобразования Фурье . Интуитивно, поскольку этот тип функции является постоянным в одном или нескольких измерениях, его преобразование Фурье должно выглядеть как импульс (преобразование Фурье константы) в том же измерении в частотной области .

Простой пример [ править ]

Пусть f - функция с двумя переменными, которая является i1D. Это означает, что существует нормализованный вектор и функция одной переменной g такие, что для всех . Если F является преобразованием Фурье функции f (обе функции с двумя переменными), это должно быть так .${\textstyle \mathbf {n} \in \mathbb {R} ^{2}}$${\textstyle f(\mathbf {x} )=g(\mathbf {n} ^{\operatorname {T} }\mathbf {x} )}$${\textstyle \mathbf {x} \in \mathbb {R} ^{2}}$${\textstyle F\left(\mathbf {u} \right)=G\left(\mathbf {n} ^{\mathrm {T} }\mathbf {u} \right)\cdot \delta \left(\mathbf {m} ^{\mathrm {T} }\mathbf {u} \right)}$

Здесь G - преобразование Фурье функции g (оба являются функциями одной переменной), δ - импульсная функция Дирака, а m - нормализованный вектор, перпендикулярный n . Это означает, что F исчезает везде, кроме линии, проходящей через начало частотной области и параллельной m . Вдоль этой линии F варьируется в зависимости от G .${\textstyle \mathbb {R} ^{2}}$

Общий случай [ править ]

Пусть f - функция N -переменной, имеющая внутреннюю размерность M , то есть существует M -переменная функция g и матрица A размера M × N такие, что .${\textstyle f(\mathbf {x} )=g(\mathbf {Ax} )\quad \forall \mathbf {x} }$

Тогда его преобразование Фурье F можно описать следующим образом:

• F обращается в нуль всюду, кроме подпространства размерности M
• Подпространство M натянуто на строки матрицы A
• В подпространстве F изменяется согласно G преобразованию Фурье g

Обобщения [ править ]

Тип внутреннего измерения, описанный выше, предполагает, что линейное преобразование применяется к координатам N -переменной функции f, чтобы получить M переменных, которые необходимы для представления каждого значения f . Это означает , что F постоянна вдоль линий, плоскостей, или гиперплоскостях, в зависимости от N и M .

В общем случае f имеет внутреннюю размерность M, если существуют M функций a ₁ , a ₂ , ..., a _M и M -переменной функции g такие, что

• ${\textstyle f(\mathbf {x} )=g\left(a_{1}(\mathbf {x} ),a_{2}(\mathbf {x} ),\dots ,a_{M}(\mathbf {x} )\right)}$для всех x
• M - наименьшее количество функций, которое допускает вышеуказанное преобразование

Простой пример - преобразование функции f с двумя переменными в полярные координаты:

$${\displaystyle f\left({\frac {y_{1}+y_{2}}{2}},{\frac {y_{1}-y_{2}}{2}}\right)=g\left(y_{1}\right)}$$

• ${\displaystyle f(x_{1},x_{2})=g\left({\sqrt {x_{1}^{2}+x_{2}^{2}}}\right)}$, f является i1D и постоянным вдоль любой окружности с центром в начале координат.
• ${\displaystyle f(x_{1},x_{2})=g\left(\arctan \left({\frac {x_{2}}{x_{1}}}\right)\right)}$, f равно i1D и постоянна на всех лучах из начала координат.

В общем случае простое описание либо точечных множеств, для которых f является постоянным, либо их преобразования Фурье, обычно невозможно.

Локальная внутренняя размерность [ править ]

Локальная внутренняя размерность (LID) относится к наблюдению, что часто данные распределяются на многообразии более низкой размерности при рассмотрении только ближайшего подмножества данных. Например, функция может считаться одномерной, когда y близко к 0, и двумерной, когда y намного больше 1.${\displaystyle f(x,y)=x+\max\{0,|y|-1\}}$

В отношении данных часто используется локальная внутренняя размерность. Затем он обычно оценивается на основе k ближайших соседей точки данных ^[1], часто на основе концепции, связанной с удвоением размерности в математике. Поскольку объем d- сферы растет экспоненциально по d , скорость, с которой находятся новые соседи по мере увеличения радиуса поиска, может использоваться для оценки локальной внутренней размерности (например, оценка GED ^[2] ). Однако были предложены альтернативные подходы к оценке, например оценка на основе угла. ^[3]

История [ править ]

В течение 1950-х годов в социальных науках были разработаны методы так называемого «масштабирования» для исследования и обобщения многомерных наборов данных. ^[4] После того, как Шепард представил неметрическое многомерное масштабирование в 1962 году ^[5], одной из основных областей исследований в области многомерного масштабирования (MDS) была оценка внутренней размерности. ^[6] Эта тема также изучалась в теории информации , впервые предложенной Беннетом в 1965 году, который ввел термин «внутреннее измерение» и написал компьютерную программу для его оценки. ^{[7] [8] [9]}

В течение 1970-х годов были построены методы оценки внутренней размерности, которые не зависели от уменьшения размерности, такие как MDS: на основе локальных собственных значений, ^[10], на основе распределений расстояний, ^[11] и на основе других геометрических свойств, зависящих от размерности ^[12]

Оценка внутренней размерности множеств и вероятностных мер также широко изучается примерно с 1980 года в области динамических систем, где размерности (странных) аттракторов были предметом интереса. ^{[13] [14] [15] [16]} Для странных аттракторов нет предположения о многообразии, и измеряемая размерность является некоторой версией фрактальной размерности, которая также может быть нецелой. Однако определения фрактальной размерности дают многомерное измерение многообразий.

В 2000-х годах «проклятие размерности» было использовано для оценки внутренней размерности. ^{[17] [18]}

Приложения [ править ]

Случай с двумя переменными сигналами, которым является i1D, часто встречается в компьютерном зрении и обработке изображений и отражает идею локальных областей изображения, которые содержат линии или края. Анализ таких регионов имеет долгую историю, но только после того, как началось более формальное и теоретическое рассмотрение таких операций, была установлена ​​концепция внутреннего измерения, хотя название менялось.

Так , например, что здесь понятие упоминается как изображения окрестности внутренней размерности 1 или i1D окрестности называется 1-мерное по Кнутссон (1982), ^[19] линейной симметричной по Бигун & Гранлундом (1987) ^[20] и простой окрестности в Granlund & Knutsson (1995). ^[21]

См. Также [ править ]

• Измерение
• Фрактальное измерение
• Хаусдорфово измерение
• Топологическое измерение

Ссылки [ править ]

• Майкл Фельсберг; Синан Калкан; Норберт Крюгер (2009). «Непрерывная характеристика размерности структур изображений» . Вычисления изображений и зрения . 27 (6): 628–636. DOI : 10.1016 / j.imavis.2008.06.018 . hdl : 11511/36631 .