Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску
Часть серии по
Машинное обучение
и
интеллектуальный анализ данных
Многослойная нейронная сеть-Vector-Blank.svg
Проблемы
Кластеризация
Снижение размерности
Структурированный прогноз
  • Графические модели
    • Сеть Байеса
    • Условное случайное поле
    • Скрытый Марков
Обнаружение аномалий
  • k -NN
  • Фактор локального выброса
Искусственная нейронная сеть
  • Автоэнкодер
  • Когнитивные вычисления
  • Глубокое обучение
  • DeepDream
  • Многослойный перцептрон
  • RNN
    • LSTM
    • ГРУ
    • ESN
  • Ограниченная машина Больцмана
  • GAN
  • SOM
  • Сверточная нейронная сеть
    • U-Net
  • Трансформатор
  • Пиковая нейронная сеть
  • Мемтранзистор
  • Электрохимическая RAM (ECRAM)
Обучение с подкреплением
  • Q-обучение
  • SARSA
  • Временная разница (TD)
Теория
  • Компромисс смещения и дисперсии
  • Теория вычислительного обучения
  • Минимизация эмпирического риска
  • Обучение Оккама
  • PAC обучение
  • Статистическое обучение
  • Теория ВК
Площадки для машинного обучения
  • NeurIPS
  • ICML
  • ML
  • JMLR
  • ArXiv: cs.LG
Глоссарий искусственного интеллекта
  • Глоссарий искусственного интеллекта
Статьи по Теме
  • Список наборов данных для исследований в области машинного обучения
  • Схема машинного обучения
  • v
  • т
  • е
Иллюстрация приближенного неотрицательного разложения матрицы: матрица V представлена двумя меньшими матрицами W и H , который при умножении, приблизительно реконструировать V .

Неотрицательная матрица разложение ( ФС или NNMF ), также неотрицательная матрица приближения [1] [2] представляет собой группа алгоритмов в многомерном анализе и линейной алгебре , где матрица V является факторизуются в (обычно) два матриц W и H, с тем свойством, что все три матрицы не имеют отрицательных элементов. Эта неотрицательность упрощает проверку полученных матриц. Кроме того, в таких приложениях, как обработка звуковых спектрограмм или мышечной активности, рассматриваемым данным присуща неотрицательность. Поскольку в целом проблема не является точно решаемой, ее обычно оценивают численно.

ФСУ находит применение в таких областях , как астрономии , [3] [4] компьютерное зрение , кластеризация документы , [1] отсутствует вменение данных , [5] хемометрика , аудио обработка сигналов , рекомендательные системы , [6] [7] и биоинформатика . [8]

История [ править ]

В хемометрии неотрицательная матричная факторизация имеет долгую историю под названием «разрешение самомоделированной кривой». [9] В этой структуре векторы в правой матрице являются непрерывными кривыми, а не дискретными векторами. Также ранняя работа по факторизации неотрицательной матрицы была выполнена финской группой исследователей в 1990-х годах под названием факторизация положительной матрицы . [10] [11] [12] Он стал более известен как факторизация неотрицательной матрицы после того, как Ли и Сын исследовали свойства алгоритма и опубликовали несколько простых и полезных алгоритмов для двух типов факторизации. [13] [14]

Фон [ править ]

Пусть матрица V - произведение матриц W и H ,

Матрица умножение может быть реализовано в виде вычисления векторов - столбцов V в виде линейных комбинаций векторов столбцов в Вт с использованием коэффициентов , поставляемых столбцами H . То есть каждый столбец V можно вычислить следующим образом:

где v я это я -й вектор - столбец матрицы продукта V и ч я это я -й вектор - столбец матрицы H .

При перемножении матриц размеры факторных матриц могут быть значительно ниже, чем размеры матрицы произведения, и именно это свойство составляет основу NMF. NMF генерирует факторы со значительно уменьшенными размерами по сравнению с исходной матрицей. Например, если V - матрица размера m × n , W - матрица размера m × p , а H - матрица размера p × n, то p может быть значительно меньше, чем m и n .

Вот пример, основанный на приложении для интеллектуального анализа текста:

  • Пусть входная матрица (матрица, подлежащая факторизации) будет V с 10000 строками и 500 столбцами, где слова находятся в строках, а документы - в столбцах. То есть у нас есть 500 документов, проиндексированных по 10 000 слов. Отсюда следует, что вектор-столбец v в V представляет документ.
  • Предположим, мы просим алгоритм найти 10 признаков, чтобы сгенерировать матрицу признаков W с 10000 строками и 10 столбцами и матрицу коэффициентов H с 10 строками и 500 столбцами.
  • Продукт W и H представляет собой матрицу с 10000 строками и 500 столбцов, такая же форма , как и входная матрицей V , и, если разложение работало, то разумное приближение к входной матрице V .
  • Из обработки матричного умножения выше следует , что каждый столбец в матрице продукта WH представляет собой линейную комбинацию векторов колонок 10 в особенности матрицы W с коэффициентами , поставляемых коэффициентов матрицы H .

Этот последний пункт является основой NMF, потому что мы можем рассматривать каждый исходный документ в нашем примере как созданный из небольшого набора скрытых функций. NMF создает эти функции.

Каждую особенность (вектор-столбец) в матрице признаков W полезно рассматривать как архетип документа, содержащий набор слов, где значение ячейки каждого слова определяет ранг слова в признаке: чем выше значение ячейки слова, тем выше ранг слова. в функции. Столбец в матрице коэффициентов H представляет исходный документ со значением ячейки, определяющим рейтинг документа для характеристики. Теперь мы можем восстановить документ (вектор - столбец) из нашей входной матрицы линейной комбинацией наших функций (векторов столбцов в W ) , где каждая функция взвешенных по значению ячейки описываемого объекта из колонки документа в H .

Свойство кластеризации [ править ]

NMF обладает свойством кластеризации [15], т. Е. Автоматически кластеризует столбцы входных данных .

Более конкретно, приближение по достигается путем нахождения и минимизации функции ошибок

при условии

Если мы, кроме того, наложим ограничение на ортогональность , то есть , то приведенная выше минимизация математически эквивалентна минимизации кластеризации K-средних . [15]

Кроме того, вычисленное дает членство в кластере, т. Е. Если для всех i ≠ k, это предполагает, что входные данные принадлежат кластеру. Вычисленное дает центроид кластера, т. Е. Столбец дает центроид кластера. Представление этого центроида может быть значительно улучшено выпуклым NMF.

Когда ограничение ортогональности не налагается явно, ортогональность сохраняется в значительной степени, и свойство кластеризации также сохраняется. Кластеризация - основная цель большинства приложений NMF для интеллектуального анализа данных. [ необходима цитата ]

Когда в качестве функции ошибок следует использовать дивергенцию Кульбака – Лейблера , NMF идентичен вероятностному скрытому семантическому анализу , популярному методу кластеризации документов. [16]

Типы [ править ]

Примерная неотрицательная матричная факторизация [ править ]

Обычно число столбцов W , а число строк H в NMF выбраны таким образом продукт WH станет приближением к V . Полное разложение V затем составляет два неотрицательных матриц W и H , а также остаточного U , такие , что: V = WH + U . Элементы остаточной матрицы могут быть как отрицательными, так и положительными.

Когда W и H меньше V, их легче хранить и манипулировать. Другая причина для разложения V на более мелкие матрицы W и H заключается в том, что если кто-то может приблизительно представить элементы V с помощью значительно меньшего количества данных, то он должен вывести некоторую скрытую структуру в данных.

Факторизация выпуклой неотрицательной матрицы [ править ]

В стандартном NMF матричный фактор W ∈ ℝ + m × k，, т.е. W может быть любым в этом пространстве. Выпуклый ФС [17] ограничивает столбцы W для выпуклых комбинаций векторов входных данных . Это значительно улучшает качество представления данных W . Кроме того, результирующий матричный фактор H становится более разреженным и ортогональным.

Факторизация неотрицательного ранга [ править ]

В случае , если неотрицательное ранг из V равно его фактического ранг, V = WH называется неотрицательным ранг факторизацией (СИФ). [18] [19] [20] Известно, что проблема нахождения NRF для V , если она существует, является NP-сложной. [21]

Различные функции затрат и регуляризации [ править ]

Существуют различные типы неотрицательной матричной факторизации. Различные типы возникают из использования различных функций затрат для измерения расхождения между V и WH и , возможно , с помощью регуляризации из W и / или H матриц. [1]

Две простые функции дивергенции, изученные Ли и Сеунгом, - это квадрат ошибки (или норма Фробениуса ) и расширение дивергенции Кульбака – Лейблера на положительные матрицы (исходная дивергенция Кульбака – Лейблера определена на вероятностных распределениях). Каждое расхождение приводит к другому алгоритму NMF, обычно минимизирующему расхождение с помощью правил итеративного обновления.

Проблема факторизации в версии NMF с квадратом ошибок может быть сформулирована следующим образом: по заданной матрице найдите неотрицательные матрицы W и H, которые минимизируют функцию

Другой тип NMF для изображений основан на общей норме вариации . [22]

Когда L1-регуляризация (похожая на Лассо ) добавляется к NMF со среднеквадратичной функцией стоимости ошибки, результирующая проблема может быть названа неотрицательным разреженным кодированием из-за сходства с проблемой разреженного кодирования [23] [24], хотя это может также по-прежнему называться NMF. [25]

Онлайн-NMF [ править ]

Многие стандартные алгоритмы NMF анализируют все данные вместе; т.е. вся матрица доступна с самого начала. Это может быть неудовлетворительным для приложений, в которых слишком много данных для размещения в памяти или где данные предоставляются в потоковом режиме. Одно из таких применений - совместная фильтрация в системах рекомендаций , где может быть много пользователей и много элементов, которые следует рекомендовать, и было бы неэффективно пересчитывать все, когда в систему добавляется один пользователь или один элемент. Функция стоимости для оптимизации в этих случаях может быть или не быть такой же, как для стандартного NMF, но алгоритмы должны быть довольно разными. [26] [27] [28]

Алгоритмы [ править ]

Есть несколько способов найти W и H : правило мультипликативного обновления Ли и Сына [14] было популярным методом из-за простоты реализации. Этот алгоритм:

инициализировать: W и H неотрицательны.
Затем обновите значения в W и H , вычислив следующее, используя в качестве индекса итерации.
и
Пока W и H не станут стабильными.

Обратите внимание, что обновления выполняются поэлементно, а не умножением матриц.

Отметим, что мультипликативные множители для W и H , т.е. члены и , являются матрицами единиц, когда .

Совсем недавно были разработаны другие алгоритмы. Некоторые подходы основаны на переменном неотрицательные наименьших квадратов : в каждом шаге такого алгоритма, сначала Н является фиксированной и W найден неотрицательное наименьших квадратов решатель, то W является фиксированной и Н найдена аналогично. Процедуры , используемые для решения для W и H могут быть одинаковыми [29] или различными, так как некоторые варианты ФСУ регуляризовать один из W и H . [23] Конкретные подходы включают в себя проецируемое градиентного спуска методы, [29] [30]метод активного набора , [6] [31] метод оптимального градиента [32] и метод поворота основного блока [33] среди некоторых других. [34]

Текущие алгоритмы являются субоптимальными в том смысле, что они гарантируют только поиск локального минимума, а не глобального минимума функции стоимости. Доказуемо оптимальный алгоритм маловероятен в ближайшем будущем, поскольку было показано, что эта проблема обобщает проблему кластеризации k-средних, которая, как известно, является NP-полной . [35] Однако, как и во многих других приложениях интеллектуального анализа данных, локальный минимум может оказаться полезным.

Графики фракционной остаточной дисперсии (FRV) для PCA и последовательных NMF; [4] для PCA теоретические значения являются вкладом от остаточных собственных значений. Для сравнения, кривые FRV для PCA достигают плоского плато, на котором эффективно не фиксируется никакой сигнал; в то время как кривые NMF FRV непрерывно снижаются, что указывает на лучшую способность захвата сигнала. Кривые FRV для NMF также сходятся к более высоким уровням, чем PCA, что указывает на свойство NMF с меньшей переобученностью.

Последовательный NMF [ править ]

Последовательное построение компонентов NMF ( W и H ) впервые использовалось для связи NMF с анализом главных компонентов (PCA) в астрономии. [36] Вклад компонентов PCA оценивается по величине их соответствующих собственных значений; для NMF его компоненты могут быть ранжированы эмпирически, когда они построены один за другим (последовательно), т. е. изучать -й компонент с помощью первых построенных компонентов.

Вклад последовательных компонентов NMF можно сравнить с теоремой Карунена – Лоэва , приложением PCA, используя график собственных значений. Типичный выбор количества компонентов с PCA основан на точке "изгиба", тогда наличие плоского плато указывает на то, что PCA не захватывает данные эффективно, и, наконец, существует внезапное падение, отражающее захват случайных шумит и попадает в режим переобучения. [37] [38] Для последовательного NMF график собственных значений аппроксимируется графиком кривых дробной остаточной дисперсии, где кривые непрерывно убывают и сходятся к более высокому уровню, чем PCA, [4] что указывает на меньшее переоснащение последовательного NMF.

Exact NMF [ править ]

Точные решения для вариантов NMF можно ожидать (за полиномиальное время) , когда дополнительные ограничения выполняются для матрицы V . Алгоритм с полиномиальным временем для решения факторизации неотрицательного ранга, если V содержит мономиальную подматрицу ранга, равного его рангу, был дан Кэмпбеллом и Пул в 1981 году. [39] Калофолиас и Галлопулос (2012) [40] решили симметричный аналог этой задачи. , где V симметрична и содержит диагональную главную подматрицу ранга r. Их алгоритм работает за O (rm 2 )время в плотном корпусе. Arora, Ge, Halpern, Mimno, Moitra, Sontag, Wu, & Zhu (2013) дают алгоритм полиномиального времени для точного NMF, который работает для случая, когда один из факторов W удовлетворяет условию отделимости. [41]

Отношение к другим методам [ править ]

В разделе «Изучение частей объектов с помощью неотрицательной матричной факторизации» Ли и Сунг [42] предложили NMF в основном для разложения изображений на части. Он сравнивает NMF с векторным квантованием и анализом главных компонент и показывает, что, хотя эти три метода могут быть записаны как факторизации, они реализуют разные ограничения и, следовательно, дают разные результаты.

ФС как вероятностная графическая модель: видимые блоки ( V ) подключены к скрытым единицам ( H ) через весы W , так что V будет генерироваться из распределения вероятностей со средним . [13] : 5

Позже было показано, что некоторые типы NMF являются примером более общей вероятностной модели, называемой «полиномиальный PCA». [43] Когда ФСУ получается путем минимизации дивергенции Кульбака-Либлер , это на самом деле эквивалентно другому экземпляру полиномиальной PCA, вероятностного латентного семантического анализа , [44] обученные максимальной вероятности оценки. Этот метод обычно используется для анализа и кластеризации текстовых данных, а также связан с моделью скрытых классов .

NMF с целью наименьших квадратов эквивалентен расслабленной форме кластеризации K-средних : матричный фактор W содержит центроиды кластера, а H содержит индикаторы принадлежности кластеру. [15] [45] Это обеспечивает теоретическую основу для использования NMF для кластеризации данных. Однако k-means не обеспечивает неотрицательность его центроидов, поэтому наиболее близкая аналогия фактически с «полу-NMF». [17]

NMF можно рассматривать как двухуровневую ориентированную графическую модель с одним слоем наблюдаемых случайных величин и одним слоем скрытых случайных величин. [46]

NMF распространяется не только на матрицы, но и на тензоры произвольного порядка. [47] [48] [49] Это расширение можно рассматривать как неотрицательный аналог, например, модели PARAFAC .

Другие расширения NMF включают совместную факторизацию нескольких матриц данных и тензоров, где некоторые факторы являются общими. Такие модели полезны для слияния сенсоров и реляционного обучения. [50]

NMF - это пример неотрицательного квадратичного программирования ( NQP ), как и машина опорных векторов (SVM). Однако SVM и NMF связаны на более тесном уровне, чем NQP, что позволяет напрямую применять алгоритмы решения, разработанные для любого из двух методов, к проблемам в обеих областях. [51]

Уникальность [ править ]

Факторизация не является уникальной: матрицу и ее обратную матрицу можно использовать для преобразования двух матриц факторизации, например, [52]

Если две новые матрицы и являются неотрицательными они образуют другую параметризацию факторизации.

Неотрицательность и применяется, по крайней мере, если B - неотрицательная мономиальная матрица . В этом простом случае это будет просто масштабирование и перестановка .

Больше контроля над неуникальностью NMF достигается с помощью ограничений разреженности. [53]

Приложения [ править ]

Астрономия [ править ]

В астрономии NMF - многообещающий метод уменьшения размерности в том смысле, что астрофизические сигналы неотрицательны. NMF применялся к спектроскопическим наблюдениям [3] и наблюдениям с прямым отображением изображений [4] как метод изучения общих свойств астрономических объектов и последующей обработки астрономических наблюдений. Успехи в спектроскопических наблюдениях, выполненные Blanton & Roweis (2007) [3], учитывают неопределенности астрономических наблюдений, которые позже были улучшены Zhu (2016) [36], где также учитываются недостающие данные и включены параллельные вычисления . Затем их метод был принят Ren et al. (2018) [4]в поле прямого изображения как один из методов обнаружения экзопланет , особенно для прямого изображения околозвездных дисков .

Ren et al. (2018) [4] могут доказать стабильность компонентов NMF, когда они построены последовательно (т. Е. Один за другим), что обеспечивает линейность процесса моделирования NMF; линейность свойство используется , чтобы отделить звездный свет и рассеянный свет от экзопланеты и околозвездных дисков .

В прямых изображениях, чтобы выявить слабые экзопланеты и околозвездные диски из яркого окружающего звездного света, который имеет типичный контраст от 10⁵ до 10¹⁰, были приняты различные статистические методы [54] [55] [37], однако свет от экзопланеты или околозвездные диски обычно переоборудованы, поэтому для восстановления истинного потока необходимо применить прямое моделирование. [56] [38] Прямое моделирование в настоящее время оптимизировано для точечных источников, [38] однако не для расширенных источников, особенно для структур неправильной формы, таких как околозвездные диски. В этой ситуации NMF оказался отличным методом, будучи менее подходящим в смысле неотрицательности и разреженности.коэффициентов моделирования NMF, поэтому прямое моделирование может выполняться с несколькими коэффициентами масштабирования [4], а не путем повторной обработки данных, требующих больших затрат вычислений, на сгенерированных моделях.

Вменение данных [ править ]

Для вменения недостающих данных в статистику NMF может принимать недостающие данные, минимизируя при этом свою функцию затрат, вместо того, чтобы обрабатывать эти недостающие данные как нули. [5] Это делает его математически доказанным методом условного исчисления данных в статистике. [5] Сначала доказав, что отсутствующие данные игнорируются в функции стоимости, а затем доказав, что влияние отсутствующих данных может быть таким же небольшим, как эффект второго порядка, Ren et al. (2020) [5] изучили и применили такой подход в области астрономии. Их работа сосредоточена на двумерных матрицах, в частности, она включает математический вывод, моделирование данных и применение к данным, полученным с неба.

Процедура вменения данных с помощью NMF может состоять из двух этапов. Во-первых, когда компоненты NMF известны, Ren et al. (2020) доказали, что влияние отсутствующих данных во время вменения данных («целевое моделирование» в их исследовании) является эффектом второго порядка. Во-вторых, когда компоненты NMF неизвестны, авторы доказали, что влияние отсутствующих данных во время создания компонента является эффектом первого-второго порядка.

В зависимости от способа получения компонентов NMF, предыдущий этап может быть независимым или зависеть от последнего. Кроме того, качество вменения можно повысить, если использовать больше компонентов NMF, см. Рисунок 4 Рена и др. (2020) за их иллюстрацию. [5]

Анализ текста [ править ]

NMF можно использовать для приложений интеллектуального анализа текста . В этом процессе матрица « документ-термин» строится с использованием весов различных терминов (обычно взвешенной информации о частоте слов) из набора документов. Эта матрица разложена на терминологию-признак и матрицу -признак-документ . Функции выводятся из содержимого документов, а матрица документа-объекта описывает кластеры данных связанных документов.

Одно конкретное приложение использовало иерархический NMF для небольшого подмножества научных рефератов из PubMed . [57] Другая исследовательская группа сгруппировала части набора данных электронной почты Enron [58] с 65 033 сообщениями и 91 133 терминами в 50 кластеров. [59] NMF также применялся к данным цитирования, в одном из примеров кластеризация статей английской Википедии и научных журналов на основе исходящих научных цитат в английской Википедии. [60]

Arora, Ge, Halpern, Mimno, Moitra, Sontag, Wu, & Zhu (2013) предложили алгоритмы с полиномиальным временем для изучения тематических моделей с использованием NMF. Алгоритм предполагает, что тематическая матрица удовлетворяет условию разделимости, которое часто встречается в этих параметрах. [41]

Хассани, Иранманеш и Мансури (2019) предложили метод агломерации признаков для матриц терминов и документов, который работает с использованием NMF. Алгоритм сокращает матрицу термин-документ до меньшей матрицы, более подходящей для кластеризации текста. [61]

Спектральный анализ данных [ править ]

NMF также используется для анализа спектральных данных; одно из таких применений - классификация космических объектов и мусора. [62]

Масштабируемое прогнозирование расстояния в Интернете [ править ]

NMF применяется для масштабируемого прогнозирования расстояния в Интернете (времени приема-передачи). Для сети с хостами с помощью NMF можно предсказать расстояния всех сквозных соединений после проведения только измерений. Этот метод был впервые представлен в службе оценки расстояния в Интернете (IDES). [63] Впоследствии в качестве полностью децентрализованного подхода предлагается сетевая система координат Phoenix [64] . Он обеспечивает лучшую общую точность прогноза за счет введения концепции веса.

Нестационарное шумоподавление речи [ править ]

Шумоподавление речи было давней проблемой при обработке аудиосигналов . Существует множество алгоритмов шумоподавления, если шум является стационарным. Например, фильтр Винера подходит для аддитивного гауссовского шума . Однако, если шум нестационарен, классические алгоритмы шумоподавления обычно имеют низкую производительность, поскольку статистическую информацию о нестационарном шуме трудно оценить. Schmidt et al. [65]используйте NMF для шумоподавления речи при нестационарном шуме, что полностью отличается от классических статистических подходов. Ключевая идея заключается в том, что чистый речевой сигнал может быть редко представлен речевым словарем, а нестационарный шум - нет. Точно так же нестационарный шум также может быть редко представлен с помощью словаря шума, но речь не может.

Алгоритм шумоподавления NMF выглядит следующим образом. Два словаря, один для речи и один для шума, необходимо обучать в автономном режиме. Как только звучит зашумленная речь, мы сначала вычисляем величину кратковременного преобразования Фурье. Во-вторых, разделите его на две части через NMF: одна часть может быть редко представлена ​​речевым словарем, а другая часть может быть редко представлена ​​словарем шума. В-третьих, часть, которая представлена ​​речевым словарем, будет оцененной чистой речью.

Популяционная генетика [ править ]

Разреженный NMF используется в популяционной генетике для оценки индивидуальных коэффициентов примеси, обнаружения генетических кластеров особей в выборке популяции или оценки генетической примеси в выбранных геномах. В генетической кластеризации человека алгоритмы NMF обеспечивают оценки, аналогичные оценкам компьютерной программы STRUCTURE, но эти алгоритмы более эффективны с точки зрения вычислений и позволяют анализировать большие наборы геномных данных населения. [66]

Биоинформатика [ править ]

NMF успешно применяется в биоинформатике для кластеризации данных экспрессии генов и метилирования ДНК, а также для поиска генов, наиболее репрезентативных для кластеров. [24] [67] [68] [69] При анализе мутаций рака он использовался для определения общих паттернов мутаций, которые встречаются при многих видах рака и, вероятно, имеют разные причины. [70] Методы NMF могут идентифицировать источники вариаций, такие как типы клеток, подтипы заболеваний, стратификация населения, состав ткани и клональность опухоли. [71]

Ядерное изображение [ править ]

NMF, также называемый в этой области факторным анализом, используется с 1980-х годов [72] для анализа последовательностей изображений в динамической медицинской визуализации SPECT и PET . Неуникальность NMF была устранена с помощью ограничений разреженности. [73] [74] [75]

Текущее исследование [ править ]

Текущие исследования (с 2010 г.) в области факторизации неотрицательной матрицы включают, но не ограничиваются этим,

  1. Алгоритмический: поиск глобальных минимумов факторов и инициализация факторов. [76]
  2. Масштабируемость: как факторизовать матрицы размером миллион на миллиард, которые являются обычным явлением в интеллектуальном анализе данных в веб-масштабе, например, см. Раздел «Факторизация распределенной неотрицательной матрицы» (DNMF), [77] Масштабируемая факторизация неотрицательной матрицы (ScalableNMF), [78] Распределенная стохастическая сингулярность Разложение ценностей. [79]
  3. Онлайн: как обновить факторизацию при поступлении новых данных без пересчета с нуля, например, см. Онлайн CNSC [80]
  4. Коллективная (совместная) факторизация: факторизация нескольких взаимосвязанных матриц для обучения с несколькими представлениями, например, кластеризация с несколькими представлениями, см. CoNMF [81] и MultiNMF [82]
  5. Проблема Коэна и Ротблюма 1993 года: всегда ли рациональная матрица имеет НМФ минимальной внутренней размерности, факторы которой также рациональны. В последнее время на эту проблему ответили отрицательно. [83]

См. Также [ править ]

  • Полилинейная алгебра
  • Мультилинейное подпространственное обучение
  • Тензор
  • Тензорное разложение
  • Тензорное программное обеспечение

Источники и внешние ссылки [ править ]

Примечания [ править ]

  1. ^ a b c Суврит Шра; Индержит С. Диллон (2006). Обобщенные неотрицательные матричные приближения с расходимостями Брегмана (PDF) . Достижения в системах обработки нейронной информации 18 . Достижения в системах обработки нейронной информации. ISBN 978-0-262-23253-1. Викиданные  Q77685465 .
  2. ^ Тандон, Рашиш; Суврит Сра (2010). «Аппроксимация разреженной неотрицательной матрицы: новые постановки и алгоритмы» (PDF) . TR. Cite journal requires |journal= (help)
  3. ^ a b c Блэнтон, Майкл Р .; Роуис, Сэм (2007). «К-поправки и фильтры преобразования в ультрафиолетовом, оптическом и ближнем инфракрасном диапазонах». Астрономический журнал . 133 (2): 734–754. arXiv : astro-ph / 0606170 . Bibcode : 2007AJ .... 133..734B . DOI : 10.1086 / 510127 . S2CID 18561804 . 
  4. ^ a b c d e f g Рен, Бин; Пуэйо, Лоран; Zhu, Guangtun B .; Дюшен, Гаспар (2018). «Неотрицательная матричная факторизация: надежное извлечение расширенных структур». Астрофизический журнал . 852 (2): 104. arXiv : 1712.10317 . Bibcode : 2018ApJ ... 852..104R . DOI : 10.3847 / 1538-4357 / aaa1f2 . S2CID 3966513 . 
  5. ^ a b c d e Рен, Бин; Пуэйо, Лоран; Чен, Кристина; Шоке, Элоди; Дебес, Джон Х; Дюшен, Гаспар; Менар, Франсуа; Перрин, Маршалл Д. (2020). «Использование данных для разделения сигналов в высококонтрастной визуализации». Астрофизический журнал . 892 (2): 74. arXiv : 2001.00563 . Bibcode : 2020ApJ ... 892 ... 74R . DOI : 10,3847 / 1538-4357 / ab7024 . S2CID 209531731 . 
  6. ^ a b Райнер Гемулла; Эрик Найкамп; Питер Дж. Хаас ; Яннис Сисманис (2011). Крупномасштабная матричная факторизация с распределенным стохастическим градиентным спуском . Proc. ACM SIGKDD Int'l Conf. по обнаружению знаний и интеллектуальному анализу данных. С. 69–77.
  7. ^ Ян Бао; и другие. (2014). TopicMF: одновременное использование рейтингов и обзоров для получения рекомендаций . AAAI.
  8. ↑ Бен Мюррелл; и другие. (2011). "Неотрицательная матричная факторизация для изучения моделей эволюции белков, специфичных для выравнивания" . PLOS ONE . 6 (12): e28898. Bibcode : 2011PLoSO ... 628898M . DOI : 10.1371 / journal.pone.0028898 . PMC 3245233 . PMID 22216138 .  
  9. ^ Уильям Х. Лоутон ; Эдвард А. Сильвестр (1971). «Разрешение моделирующей кривой». Технометрика . 13 (3): 617–633. DOI : 10.2307 / 1267173 . JSTOR 1267173 . 
  10. ^ Пентти Паатеро; Unto Tapper; Паси Аалто; Маркку Кулмала (1991). «Методы матричной факторизации для анализа данных о диффузионных батареях». Журнал аэрозольной науки . 22 : S273 – S276. DOI : 10.1016 / S0021-8502 (05) 80089-8 . ISSN 0021-8502 . Викиданные Q58065673 .  
  11. ^ Пентти Паатеро; Унто Таппер (июнь 1994 г.). «Положительная матричная факторизация: неотрицательная факторная модель с оптимальным использованием оценок ошибок значений данных» . Среда . 5 (2): 111–126. DOI : 10.1002 / ENV.3170050203 . ISSN 1180-4009 . Викиданные Q29308406 .  
  12. ^ Пиа Анттила ; Пентти Паатеро ; Unto Tapper; Олли Ярвинен (1995). «Идентификация источника объемных влажных отложений в Финляндии с помощью положительной матричной факторизации». Атмосферная среда . 29 (14): 1705–1718. Bibcode : 1995AtmEn..29.1705A . DOI : 10.1016 / 1352-2310 (94) 00367-Т .
  13. ^ а б Дэниел Д. Ли и Х. Себастьян Сын (1999). «Изучение частей объектов путем факторизации неотрицательной матрицы». Природа . 401 (6755): 788–791. Bibcode : 1999Natur.401..788L . DOI : 10.1038 / 44565 . PMID 10548103 . S2CID 4428232 .  
  14. ^ a b Дэниел Д. Ли и Х. Себастьян Сын (2001). Алгоритмы неотрицательной матричной факторизации (PDF) . Достижения в системах обработки нейронной информации 13: Материалы конференции 2000 г. MIT Press . С. 556–562.
  15. ^ a b c К. Динг, X. He, HD Саймон (2005). «Об эквивалентности неотрицательной матричной факторизации и спектральной кластеризации» . Proc. SIAM Int'l Conf. Data Mining, стр. 606-610. Май 2005 г.
  16. ^ C Ding, T Li, W Peng, «Об эквивалентности неотрицательной матричной факторизации и вероятностного скрытого семантического индексирования». Архивировано 4 марта 2016 г. в Wayback Machine Computational Statistics & Data Analysis 52, 3913-3927.
  17. ^ a b C Ding, Т. Ли, М. И. Джордан, Выпуклые и полуотрицательные матричные факторизации, IEEE Transactions on Pattern Analysis and Machine Intelligence, 32, 45-55, 2010
  18. ^ Берман, А .; Р. Дж. Племмонс (1974). «Обращения неотрицательных матриц». Линейная и полилинейная алгебра . 2 (2): 161–172. DOI : 10.1080 / 03081087408817055 .
  19. ^ А. Берман; Р. Дж. Племмонс (1994). Неотрицательные матрицы в математических науках . Филадельфия: СИАМ.
  20. Перейти ↑ Thomas, LB (1974). «Задача 73-14. Ранговая факторизация неотрицательных матриц». SIAM Ред . 16 (3): 393–394. DOI : 10.1137 / 1016064 .
  21. ^ Vavasis, SA (2009). «О сложности факторизации неотрицательной матрицы». SIAM J. Optim . 20 (3): 1364–1377. arXiv : 0708.4149 . DOI : 10.1137 / 070709967 . S2CID 7150400 . 
  22. ^ Чжан, Т .; Fang, B .; Liu, W .; Тан, ГГ; Он, G .; Вен, Дж. (2008). «Полная вариация на основе нормы неотрицательной матричной факторизации для идентификации дискриминантного представления образов изображений». Нейрокомпьютеры . 71 (10–12): 1824–1831. DOI : 10.1016 / j.neucom.2008.01.022 .
  23. ^ a b Хойер, Патрик О. (2002). Неотрицательное разреженное кодирование . Proc. Семинар IEEE по нейронным сетям для обработки сигналов. arXiv : cs / 0202009 .
  24. ^ a b Лео Тасламан и Бьорн Нильссон (2012). «Основа для регуляризованной неотрицательной матричной факторизации с приложением к анализу данных экспрессии генов» . PLOS One . 7 (11): e46331. Bibcode : 2012PLoSO ... 746331T . DOI : 10.1371 / journal.pone.0046331 . PMC 3487913 . PMID 23133590 .  
  25. ^ Hsieh, CJ; Диллон, IS (2011). Методы быстрого координатного спуска с выбором переменных для неотрицательной матричной факторизации (PDF) . Материалы 17-й международной конференции ACM SIGKDD по открытию знаний и интеллектуальному анализу данных - KDD '11. п. 1064. DOI : 10,1145 / 2020408,2020577 . ISBN  9781450308137.
  26. ^ http://www.ijcai.org/papers07/Papers/IJCAI07-432.pdf
  27. ^ Фунг, Ик-Хинг; Ли, Чун-Хун; Чунг, Уильям К. (2 ноября 2007 г.). Прогнозирование участия в онлайн-обсуждениях с использованием неотрицательной матричной факторизации . Wi-Iatw '07. Компьютерное общество IEEE. С. 284–287. ISBN 9780769530284 - через dl.acm.org.
  28. ^ Найянг Гуань; Дачэн Тао; Чжиган Луо и Бо Юань (июль 2012 г.). «Онлайн-факторизация неотрицательной матрицы с устойчивой стохастической аппроксимацией». Транзакции IEEE в нейронных сетях и обучающих системах . 23 (7): 1087–1099. DOI : 10.1109 / TNNLS.2012.2197827 . PMID 24807135 . S2CID 8755408 .  
  29. ^ а б Лин, Чи-Джен (2007). «Спроектированные градиентные методы для факторизации неотрицательной матрицы» (PDF) . Нейронные вычисления . 19 (10): 2756–2779. CiteSeerX 10.1.1.308.9135 . DOI : 10.1162 / neco.2007.19.10.2756 . PMID 17716011 . S2CID 2295736 .    
  30. ^ Лин Чи-Jen (2007). «О сходимости алгоритмов мультипликативного обновления для неотрицательной матричной факторизации». IEEE-транзакции в нейронных сетях . 18 (6): 1589–1596. CiteSeerX 10.1.1.407.318 . DOI : 10.1109 / TNN.2007.895831 . S2CID 2183630 .  
  31. ^ Hyunsoo Kim & Haesun Park (2008). "Факторизация неотрицательной матрицы на основе чередующихся наименьших квадратов с ограничением неотрицательности и метода активного набора" (PDF) . Журнал SIAM по матричному анализу и приложениям . 30 (2): 713–730. CiteSeerX 10.1.1.70.3485 . DOI : 10.1137 / 07069239x .  
  32. ^ Найянг Гуань; Дачэн Тао; Чжиган Луо, Бо Юань (июнь 2012 г.). "NeNMF: Оптимальный градиентный метод для неотрицательной матричной факторизации". Транзакции IEEE по обработке сигналов . 60 (6): 2882–2898. Bibcode : 2012ITSP ... 60.2882G . DOI : 10.1109 / TSP.2012.2190406 . S2CID 8143231 . 
  33. ^ Джингу Kim & Haesun Park (2011). «Быстрая неотрицательная матричная факторизация: метод активного набора и сравнения». Журнал SIAM по научным вычислениям . 58 (6): 3261–3281. CiteSeerX 10.1.1.419.798 . DOI : 10.1137 / 110821172 . 
  34. ^ Джингу Ким; Юньлун Хэ и Парк Хэсун (2013). «Алгоритмы для неотрицательной матричной и тензорной факторизации: единое представление, основанное на структуре спуска координат блока» (PDF) . Журнал глобальной оптимизации . 33 (2): 285–319. DOI : 10.1007 / s10898-013-0035-4 . S2CID 11197117 .  
  35. ^ Дин, C .; Он, X. и Саймон, HD (2005). Об эквивалентности неотрицательной матричной факторизации и спектральной кластеризации . Proc. SIAM Data Mining Conf . 4 . С. 606–610. DOI : 10.1137 / 1.9781611972757.70 . ISBN 978-0-89871-593-4.
  36. ^ а б Чжу, Гуантун Б. (2016-12-19). «Неотрицательная матричная факторизация (NMF) с гетероскедастическими неопределенностями и отсутствующими данными». arXiv : 1612.06037 [ astro-ph.IM ].
  37. ^ a b Суммер, Реми; Пуэйо, Лоран; Ларкин, Джеймс (2012). «Обнаружение и характеризация экзопланет и дисков с использованием проекций на собственные изображения Карунена-Лоэва». Письма в астрофизический журнал . 755 (2): L28. arXiv : 1207.4197 . Bibcode : 2012ApJ ... 755L..28S . DOI : 10.1088 / 2041-8205 / 755/2 / L28 . S2CID 51088743 . 
  38. ^ a b c Pueyo, Лоран (2016). «Обнаружение и характеристика экзопланет с использованием проекций на собственные изображения Карунена Лоэва: прямое моделирование». Астрофизический журнал . 824 (2): 117. arXiv : 1604.06097 . Полномочный код : 2016ApJ ... 824..117P . DOI : 10,3847 / 0004-637X / 824 / 2/117 . S2CID 118349503 . 
  39. ^ Кэмпбелл, SL; Г. Д. Пул (1981). «Вычисление факторизации неотрицательного ранга» . Линейная алгебра Appl . 35 : 175–182. DOI : 10.1016 / 0024-3795 (81) 90272-X .
  40. ^ Kalofolias, V .; Галлопулос, Э. (2012). "Вычисление симметричных факторизаций неотрицательного ранга" (PDF) . Линейная алгебра Appl . 436 (2): 421–435. DOI : 10.1016 / j.laa.2011.03.016 .
  41. ^ а б Арора, Санджив; Ге, Ронг; Хальперн, Йони; Мимно, Дэвид; Мойтра, Анкур; Зонтаг, Дэвид; Ву, Ичэнь; Чжу, Майкл (2013). Практический алгоритм тематического моделирования с доказываемыми гарантиями . Материалы 30-й Международной конференции по машинному обучению. arXiv : 1212.4777 . Bibcode : 2012arXiv1212.4777A .
  42. ^ Ли, Дэниел Д. и Сын, Н. Себастьян (1999). «Изучение частей объектов методом неотрицательной матричной факторизации» (PDF) . Природа . 401 (6755): 788–791. Bibcode : 1999Natur.401..788L . DOI : 10.1038 / 44565 . PMID 10548103 . S2CID 4428232 .   CS1 maint: multiple names: authors list (link)
  43. ^ Врэй Buntine (2002). Вариационные расширения к EM и полиномиальному PCA (PDF) . Proc. Европейская конференция по машинному обучению (ECML-02). LNAI. 2430 . С. 23–34.
  44. ^ Эрик Gaussier и Кирилл Goutte (2005). Связь между PLSA и NMF и последствиями (PDF) . Proc. 28-я международная конференция ACM SIGIR по исследованиям и разработкам в области информационного поиска (SIGIR-05). С. 601–602. Архивировано из оригинального (PDF) 28 сентября 2007 года . Проверено 29 января 2007 .
  45. ^ Рон Засс и Амнон Шашуа (2005). « Объединяющий подход к жесткой и вероятностной кластеризации ». Международная конференция по компьютерному зрению (ICCV) Пекин, Китай, октябрь 2005 г.
  46. ^ Макс Веллинг; и другие. (2004). Экспоненциальные семейные гармонии с приложением к информационному поиску . НИПС.
  47. ^ Pentti Паатеро (1999). «Мультилинейный механизм: управляемая таблицами программа наименьших квадратов для решения полилинейных задач, включая n-стороннюю модель параллельного факторного анализа». Журнал вычислительной и графической статистики . 8 (4): 854–888. DOI : 10.2307 / 1390831 . JSTOR 1390831 . 
  48. ^ Макс Веллинг и Маркус Вебер (2001). «Положительная тензорная факторизация». Письма с распознаванием образов . 22 (12): 1255–1261. CiteSeerX 10.1.1.21.24 . DOI : 10.1016 / S0167-8655 (01) 00070-8 . 
  49. ^ Джингу Kim & Haesun Park (2012). Быстрая неотрицательная тензорная факторизация с помощью метода, подобного активному множеству (PDF) . Высокопроизводительные научные вычисления: алгоритмы и приложения. Springer. С. 311–326.
  50. ^ Кенан Йилмаз; А. Тайлан Джемгил и Умут Симсекли (2011). Обобщенная факторизация связанных тензорных факторов (PDF) . НИПС.
  51. ^ Вамши К. Potluru; Сергей М. Плис; Мортен Моруп; Винс Д. Калхун и Терран Лейн (2009). Эффективные мультипликативные обновления для машин опорных векторов . Материалы конференции SIAM 2009 по интеллектуальному анализу данных (SDM). С. 1218–1229.
  52. ^ Вэй Сюй; Синь Лю и Ихонг Гонг (2003). Кластеризация документов на основе неотрицательной матричной факторизации . Материалы 26-й ежегодной международной конференции ACM SIGIR по исследованиям и разработкам в области информационного поиска. Нью-Йорк: Ассоциация вычислительной техники . С. 267–273.
  53. ^ Eggert, J .; Корнер, Э. (2004). «Разреженное кодирование и NMF». 2004 Совместная международная конференция IEEE по нейронным сетям (IEEE Cat. No. 04CH37541) . 4 . С. 2529–2533. DOI : 10.1109 / IJCNN.2004.1381036 . ISBN 978-0-7803-8359-3. S2CID  17923083 .
  54. ^ Лафреньер, Дэвид; Маройд, Кристиан; Дойон, Рене; Бармен, Трэвис (2009). «Обнаружение HST / NICMOS HR 8799 b в 1998 году». Письма в астрофизический журнал . 694 (2): L148. arXiv : 0902.3247 . Bibcode : 2009ApJ ... 694L.148L . DOI : 10.1088 / 0004-637X / 694/2 / L148 . S2CID 7332750 . 
  55. ^ Амара, Адам; Куанц, Саша П. (2012). «PYNPOINT: пакет обработки изображений для поиска экзопланет». Ежемесячные уведомления Королевского астрономического общества . 427 (2): 948. arXiv : 1207.6637 . Bibcode : 2012MNRAS.427..948A . DOI : 10.1111 / j.1365-2966.2012.21918.x . S2CID 119200505 . 
  56. ^ Ваххадж, Захед; Cieza, Lucas A .; Мавет, Дмитрий; Ян, Бин; Кановас, Гектор; де Бур, Джозуа; Касасс, Симон; Менар, Франсуа; Schreiber, Matthias R .; Лю, Майкл С .; Biller, Beth A .; Нильсен, Эрик Л .; Хейворд, Томас Л. (2015). «Улучшение отношения сигнал-шум при прямом отображении экзопланет и околозвездных дисков с помощью MLOCI». Астрономия и астрофизика . 581 (24): А24. arXiv : 1502.03092 . Bibcode : 2015A&A ... 581A..24W . DOI : 10.1051 / 0004-6361 / 201525837 . S2CID 20174209 . 
  57. ^ Нильсен, Финн Оруп; Балслев, Даниэла; Хансен, Ларс Кай (2005). «Изучение задней части поясной извилины: разделение компонентов памяти и боли» (PDF) . NeuroImage . 27 (3): 520–522. DOI : 10.1016 / j.neuroimage.2005.04.034 . PMID 15946864 . S2CID 18509039 .   
  58. ^ Коэн, Уильям (2005-04-04). «Набор данных электронной почты Enron» . Проверено 26 августа 2008 .
  59. ^ Берри, Майкл В .; Браун, Мюррей (2005). «Электронное наблюдение с использованием неотрицательной матричной факторизации». Вычислительная и математическая теория организации . 11 (3): 249–264. DOI : 10.1007 / s10588-005-5380-5 . S2CID 16249147 . 
  60. ^ Нильсен, Финн Arup (2008). Кластеризация научных цитат в Википедии . Викимания . arXiv : 0805.1154 .
  61. ^ Хассани, Али; Иранманеш, Амир; Мансури, Наджме (12.11.2019). «Интеллектуальный анализ текста с использованием неотрицательной матричной факторизации и скрытого семантического анализа». arXiv : 1911.04705 [ cs.LG ].
  62. ^ Майкл В. Берри; и другие. (2006). «Алгоритмы и приложения для приближенной неотрицательной матричной факторизации». Cite journal requires |journal= (help)
  63. ↑ Юнь Мао; Лоуренс Саул и Джонатан М. Смит (2006). «IDES: служба оценки расстояния в Интернете для больших сетей». Журнал IEEE по избранным областям коммуникаций . 24 (12): 2273–2284. CiteSeerX 10.1.1.136.3837 . DOI : 10.1109 / JSAC.2006.884026 . S2CID 12931155 .  
  64. ^ Ян Чен; Сяо Ван; Конг Ши; и другие. (2011). «Феникс: система координат сети на основе веса с использованием матричной факторизации» (PDF) . IEEE Transactions по управлению сетью и услугами . 8 (4): 334–347. CiteSeerX 10.1.1.300.2851 . DOI : 10.1109 / tnsm.2011.110911.100079 . S2CID 8079061 . Архивировано из оригинального (PDF) 14 ноября 2011 года.   
  65. ^ Шмидт, М.Н., Дж. Ларсен и Ф. Т. Сяо. (2007). « Снижение шума ветра с использованием неотрицательного разреженного кодирования », Машинное обучение для обработки сигналов, IEEE Workshop on , 431–436
  66. ^ Frichot, Е., Матьё, Ф., Trouillon, Т., Бушар, Г., Франсуа, О. (2014). «Быстрая и эффективная оценка индивидуальных коэффициентов родословной» . Генетика . 196 (4): 973–983. DOI : 10.1534 / genetics.113.160572 . PMC 3982712 . PMID 24496008 .  CS1 maint: multiple names: authors list (link)
  67. ^ Devarajan, К. (2008). «Неотрицательная матричная факторизация: аналитический и интерпретативный инструмент в вычислительной биологии» . PLOS Вычислительная биология . 4 (7): e1000029. Bibcode : 2008PLSCB ... 4E0029D . DOI : 10.1371 / journal.pcbi.1000029 . PMC 2447881 . PMID 18654623 .  
  68. ^ Hyunsoo Kim & Haesun Park (2007). «Разреженные неотрицательные матричные факторизации посредством чередующихся наименьших квадратов с ограничениями неотрицательности для анализа данных микрочипов» . Биоинформатика . 23 (12): 1495–1502. DOI : 10.1093 / биоинформатики / btm134 . PMID 17483501 . 
  69. ^ Швальбе, Э. (2013). «Профилирование метилирования ДНК медуллобластомы позволяет надежную подклассификацию и улучшенное прогнозирование результатов с использованием фиксированных формалином биопсий» . Acta Neuropathologica . 125 (3): 359–371. DOI : 10.1007 / s00401-012-1077-2 . PMC 4313078 . PMID 23291781 .  
  70. ^ Александров, Людмил Б .; Ник-Зайнал, Серена; Ведж, Дэвид С.; Кэмпбелл, Питер Дж .; Страттон, Майкл Р. (31 января 2013 г.). «Расшифровка сигнатур мутационных процессов, действующих при раке человека» . Сотовые отчеты . 3 (1): 246–259. DOI : 10.1016 / j.celrep.2012.12.008 . ISSN 2211-1247 . PMC 3588146 . PMID 23318258 .   
  71. ^ Штейн-О'Брайен, Женевьева Л .; Арора, Раман; Culhane, Aedin C .; Фаворов, Александр В .; Гармир, Лана Х .; Грин, Кейси С .; Гофф, Лояльный А .; Ли, Ифэн; Нгом, Алун; Охс, Майкл Ф .; Сюй Яньсюнь (01.10.2018). «Войдите в матрицу: факторизация открывает знания из омики» . Тенденции в генетике . 34 (10): 790–805. DOI : 10.1016 / j.tig.2018.07.003 . ISSN 0168-9525 . PMC 6309559 . PMID 30143323 .   
  72. ^ ДиПаола; Базен; Обри; Ауренго; Cavailloles; Херри; Кан (1982). «Обработка динамических последовательностей в ядерной медицине». IEEE Trans Nucl Sci . НС-29 (4): 1310–21. Bibcode : 1982ITNS ... 29.1310D . DOI : 10.1109 / tns.1982.4332188 . S2CID 37186516 . 
  73. ^ Ситек; Гуллберг; Huesman (2002). «Исправление неоднозначных решений в факторном анализе с использованием штрафных наименьших квадратов». IEEE Trans Med Imaging . 21 (3): 216–25. DOI : 10.1109 / 42.996340 . PMID 11989846 . S2CID 6553527 .  
  74. ^ Бутчко; Митра; Бейкер; Ягуст; Гуллберг (2015). «Приложение для кластеризации инициированного факторного анализа (CIFA) для классификации тканей в динамической ПЭТ головного мозга» . Журнал церебрального кровотока и метаболизма . 35 (7): 1104–11. DOI : 10.1038 / jcbfm.2015.69 . PMC 4640278 . PMID 25899294 .  
  75. ^ Абдала; Бутчко; Митра; Гуллберг (2015). «Реконструкция 4-D динамических изображений SPECT из несовместимых проекций с использованием алгоритма FADS, инициализированного сплайном (SIFADS)» . IEEE Trans Med Imaging . 34 (1): 216–18. DOI : 10,1109 / TMI.2014.2352033 . PMID 25167546 . S2CID 11060831 .  
  76. ^ С. Boutsidis & Е. Gallopoulos (2008). «Инициализация на основе SVD: начало факторизации неотрицательной матрицы». Распознавание образов . 41 (4): 1350–1362. CiteSeerX 10.1.1.137.8281 . DOI : 10.1016 / j.patcog.2007.09.010 . 
  77. ^ Чао Лю; Хун-чжи Ян; Цзиньлян Фань; Ли-Вэй Хе и И-Мин Ван (2010). «Распределенная неотрицательная матричная факторизация для анализа двоичных данных в веб-масштабе на MapReduce» (PDF) . Материалы 19-й Международной конференции в Интернете .
  78. ^ Цзянтао Инь; Лисинь Гао и Чжунфэй (Марк) Чжан (2014). «Масштабируемая факторизация неотрицательной матрицы с блочными обновлениями» (PDF) . Труды Европейской конференции по машинному обучению и принципам и практике обнаружения знаний в базах данных .
  79. ^ "Apache Mahout" . mahout.apache.org . Проверено 14 декабря 2019 .
  80. ^ Донг Ван; Равичандер Випперла; Ник Эванс; Томас Фанг Чжэн (2013). "Онлайн-обучение неотрицательным сверточным образцам для речевых сигналов" (PDF) . Транзакции IEEE по обработке сигналов . 61 (1): 44–56. Bibcode : 2013ITSP ... 61 ... 44W . CiteSeerX 10.1.1.707.7348 . DOI : 10.1109 / tsp.2012.2222381 . S2CID 12530378 . Архивировано из оригинального (PDF) 19 апреля 2015 года . Проверено 19 апреля 2015 .   
  81. ^ Xiangnan He; Мин-Йен Кан; Пэйчу Се и Сяо Чен (2014). «Многовидовая кластеризация элементов Web 2.0 на основе комментариев» (PDF) . Материалы 23-й Международной конференции в Интернете . Архивировано из оригинального (PDF) 2 апреля 2015 года . Проверено 22 марта 2015 .
  82. ^ Цзялу Лю; Чи Ван; Цзин Гао и Цзявэй Хан (2013). Многовидовая кластеризация с помощью совместной неотрицательной матричной факторизации (PDF) . Труды конференции SIAM Data Mining . С. 252–260. CiteSeerX 10.1.1.301.1771 . DOI : 10.1137 / 1.9781611972832.28 . ISBN   978-1-61197-262-7.
  83. ^ Чистиков, Дмитрий; Кифер, Стефан; Марушич, Инес; Ширмохаммади, Махса; Уоррелл, Джеймс (22 мая 2016 г.). «Неотрицательная матричная факторизация требует иррациональности». arXiv : 1605.06848 [ cs.CC ].

Другое [ править ]

  • Дж. Шен; GW Israël (1989). «Модель рецептора с использованием специфической техники неотрицательного преобразования для атмосферного аэрозоля». Атмосферная среда . 23 (10): 2289–2298. Bibcode : 1989AtmEn..23.2289S . DOI : 10.1016 / 0004-6981 (89) 90190-X .
  • Пентти Паатеро (1997). «Формулировка методом наименьших квадратов надежного неотрицательного факторного анализа». Хемометрия и интеллектуальные лабораторные системы . 37 (1): 23–35. DOI : 10.1016 / S0169-7439 (96) 00044-5 .
  • Рауль Компасс (2007). «Обобщенная мера дивергенции для неотрицательной матричной факторизации». Нейронные вычисления . 19 (3): 780–791. DOI : 10.1162 / neco.2007.19.3.780 . PMID  17298233 . S2CID  5337451 .
  • Лю, WX; Чжэн, Н.Н. и Ю, QB (2006). «Неотрицательная матричная факторизация и ее приложения в распознавании образов». Китайский научный бюллетень . 51 (17–18): 7–18. Bibcode : 2006ChSBu..51 .... 7L . DOI : 10.1007 / s11434-005-1109-6 . S2CID  15445516 .
  • Нгок-Диеп ​​Хо; Пол Ван Дурен и Винсент Блондель (2008). "Спусковые методы для неотрицательной матричной факторизации". arXiv : 0801.3199 [ cs.NA ].
  • Анджей Цихоцкий ; Рафаль Здунек и Шун-ичи Амари (2008). «Неотрицательная матрица и тензорная факторизация». Журнал обработки сигналов IEEE . 25 (1): 142–145. Bibcode : 2008ISPM ... 25R.142C . DOI : 10.1109 / MSP.2008.4408452 . S2CID  9997603 .
  • Седрик Февотт; Нэнси Бертен и Жан-Луи Дюрье (2009). «Неотрицательная матричная факторизация с расхождением Итакура-Сайто: с приложением к музыкальному анализу». Нейронные вычисления . 21 (3): 793–830. DOI : 10.1162 / neco.2008.04-08-771 . PMID  18785855 . S2CID  13208611 .
  • Али Тайлан Джемгил (2009). «Байесовский вывод для моделей факторизации неотрицательной матрицы» . Вычислительный интеллект и нейробиология . 2009 (2): 1–17. DOI : 10.1155 / 2009/785152 . PMC  2688815 . PMID  19536273 .
  • Анджей Цихоцки, Мортен Мруп и др.: «Достижения в области неотрицательной матричной и тензорной факторизации», Hindawi Publishing Corporation, ISBN 978-9774540455 (2008). 
  • Анджей Цихоцкий, Рафаль Здунек, Ань Хуй Фан и Шун-ичи Амари: «Неотрицательные матричные и тензорные факторизации: приложения для исследовательского многофакторного анализа данных и слепого разделения источников», Wiley, ISBN 978-0470746660 (2009). 
  • Андри Мирзал: «Факторизации неотрицательных матриц для кластеризации и LSI: теория и программирование», LAP LAMBERT Academic Publishing, ISBN 978-3844324891 (2011). 
  • Юн Сян: «Слепое разделение источников: анализ зависимых компонентов», Springer, ISBN 978-9812872265 (2014). 
  • Ганеш Р. Найк (ред.): «Методы неотрицательной матричной факторизации: достижения в теории и приложениях», Springer, ISBN 978-3662517000 (2016). 
  • Джулиан Беккер: «Неотрицательная матричная факторизация с адаптивными элементами для разделения монофонических источников звука: 1», Shaker Verlag GmbH, Германия, ISBN 978-3844048148 (2016). 
  • Джен-Цунг Чиен: «Разделение источников и машинное обучение», Academic Press, ISBN 978-0128177969 (2018). 
  • Сёдзи Макино (ред.): «Разделение источников звука», Springer, ISBN 978-3030103033 (2019).