Модификации свд: СНАЙПЕРСКИЕ ВИНТОВКИ СВД, СВДС И СВУ СИСТЕМЫ ДРАГУНОВА

Пусть \ ({\ hat {X}} = ({\ hat {x}} _ {ij}) _ {N \ times J} \) определено как

$$ \ begin {align} {\ hat { x}} _ {ij} = {\ left \ {\ begin {array} {ll} \ epsilon _ {N, J}, \ quad \ text {if} x_ {ij} <\ epsilon _ {N, J} , \\ x_ {ij}, \ quad \ text {if} \ epsilon _ {N, J} \ le x_ {ij} \ le 1- \ epsilon _ {N, J}, \\ 1- \ epsilon _ { N, J}, \ quad \ text {if} x_ {ij}> 1 — \ epsilon _ {N, J}.\ top \), где \ ({{\ hat {\ sigma}}} _ 1 \ ge \ cdots \ ge {{\ hat {\ sigma}}} _ J \ ge 0 \) — сингулярные значения, а \ ({ {\ hat {{\ mathbf {u}}}}} _ j \) s и \ ({{\ hat {{\ mathbf {v}}}}} _ j \) s являются левым и правым сингулярными векторами соответственно.

Выходные данные \ ({\ hat {A}} = \ frac {1} {\ sqrt {N}} ({{\ hat {\ sigma}}}} _ 1 {\ hat {{\ mathbf {v}}}} _ 1 , \ ldots, {\ hat {\ sigma}} _ K {\ hat {{\ mathbf {v}}}} _ K), {\ hat {\ Theta}} = \ sqrt {N} ({\ hat {{\ mathbf {u}}}} _ 1, \ ldots, {\ hat {{\ mathbf {u}}}} _ K). \)

Функция обратной связи f является строго монотонно возрастающей, непрерывно дифференцируемой и непрерывной по Липшицу с постоянной Липшица L . Мы также предполагаем, что

$$ \ begin {выровнено} \ lim _ {x \ rightarrow — \ infty} f (x) = 0, ~~ \ text {и} ~~ \ lim _ {x \ rightarrow \ infty} е (х) = 1.*, {\ hat {A}}) \ overset {pr} {\ rightarrow} 0 \), как \ (N, J \ rightarrow \ infty. \)

Замечание 6

Отметим, что понятие согласованности для оценки матрицы нагрузки слабее, чем в традиционном смысле, поскольку функция потерь (2) представляет собой среднее значение потерь на входе при росте J . Пусть \ ({\ tilde {O}} \) минимизирует правую часть (2), и пусть \ ({\ tilde {A}}: = ({\ tilde {a}} _ {jk}) _ {J \ times K} = {\ hat {A}} {\ tilde {O}} \).* — {\ tilde {a}} _ {jk} \ vert> \ epsilon \}}}) / {JK} \) также сходится к 0. То есть доля неточно оцененных параметров нагрузки сходится к нулю по вероятности при оптимальное вращение. Из-за двойной асимптотики наш теоретический результат предполагает разумное использование алгоритма на основе SVD только тогда, когда размер выборки N и количество элементов J являются большими.

Замечание 7

Хорошо известно, что PCA может последовательно оценивать линейную факторную модель при аналогичных условиях двойной асимптотики (Stock and Watson 2002), что обеспечивает теоретическое обоснование использования PCA в исследовательском линейном факторном анализе.Теорему 1 можно рассматривать как аналогичный результат для исследовательского факторного анализа.

Замечание 8

Мы предлагаем некоторые обсуждения условий регулярности, требуемых в теореме 1. Предположение A1 требует, чтобы параметры каждого элемента, включая параметры точки пересечения и наклона, не были слишком большими. То есть наличие экстремального элемента может исказить анализ. Предположение A2 — очень стандартное предположение для исследовательской IFA.Он более гибкий, чем многие предварительные настройки IFA, поскольку не требует, чтобы распределение F было многомерным нормальным.

Предположение A3 удовлетворяется функциями логистической и пробит-ссылки, двумя наиболее часто используемыми функциями связи в исследовательском IFA, но оно исключает, например, многомерную версию трехпараметрической логистической модели как особый случай. Предположение A4 требует, чтобы элементы были достаточно разнообразными. Такое же предположение требуется и у Chen et al.* \) являются i.i.d. выборки из распределения K -вариант, ковариационная матрица которого невырождена. Наконец, предположение A5 практически разумно, поскольку при крупномасштабных измерениях размер выборки обычно больше, чем количество элементов. Поскольку люди и предметы почти математически симметричны в модели IFA, аналогичные асимптотические результаты могут быть получены при \ (J \ ge N \).

Замечание 9

Мы также даем некоторые интуитивные предположения о том, почему алгоритм работает.*, {\ hat {A}}) \) с большой вероятностью мала.

Замечание 10

Уравнения (3) и (4) являются требованиями к параметру усечения \ (\ epsilon _ {N, J} \), который зависит как от хвоста распределения F , так и от свойств функции обратной связи. Грубо говоря, уравнение (3) говорит, что \ (\ epsilon _ {N, J} \) не может быть слишком большим. Это потому, что для F и f вероятность в (3) увеличивается в \ (\ epsilon _ {N, J} \).* \) больше, чем \ (h (\ epsilon _ {N, J}) \). Функция \ (h (\ cdot) \) преобразует усечение на \ (x_ {ij} \) в усечение на \ ({\ tilde {m}} _ {ij} \). Использование \ (h (2 \ epsilon _ {N, J}) \) вместо \ (h (\ epsilon _ {N, J}) \) по техническим причинам.

Уравнение (4) требует, чтобы \ (\ epsilon _ {N, J} \) не был слишком маленьким, так как левая часть (4) убывает в \ (\ epsilon _ {N, J} \). Это требование тоже интуитивно понятно. Обратите внимание, что \ (| {\ tilde {m}} _ {ij} | \ le h (\ epsilon _ {N, J}) \), где \ (h (\ epsilon _ {N, J}) \) — убывает по \ (\ epsilon _ {N, J} \).*) | \) мала из-за локальной плоскости функции обратной связи.

Замечание 11

Мы берем стохастический план для истинных параметров человека и фиксированный план для истинных параметров предмета, следуя соглашению о факторном анализе предмета (например, Bartholomew et al. 2008). Стоит отметить, что выбор стохастического или фиксированного плана не является существенным в нашем режиме двойной асимптотики. Например, непротиворечивый результат теоремы 1 остается в силе, если мы можем заменить условие A2 соответствующим фиксированным планом, как в Chen et al.(2019b).

После обсуждения \ (\ epsilon _ {N, J} \) в Замечании 10 мы рассматриваем две конкретные настройки, при которых требования к \ (\ epsilon _ {N, J} \) становятся более конкретными. Эти результаты приведены в предложениях 1 и 2.

Предложение 1

Предположим, что F имеет компактную опору. {\ dagger} \) в алгоритме 1 установлена ​​фиксированной (т.е., независимо от N и J ), но не обязательно равного истинному количеству факторов, существует константа \ (\ delta> 0 \) такая, что для истинного количества факторов K ,

$$ \ begin {align} \ lim _ {N, J \ rightarrow \ infty} \ Pr \ left (\ frac {{\ hat {\ sigma}} _ {K}} {\ sqrt {NJ}}> \ delta \ right) = 1, \ text {и} \ frac {{\ hat {\ sigma}} _ {K + 1}} {\ sqrt {NJ}} \ overset {pr} {\ rightarrow} 0, \ end { выровнено} $$

как N и J одновременно растут до бесконечности.{\ dagger} \) не влияет на асимптотику, пока она не растет с N и J . Однако для относительно небольших N и J , X , полученных на шаге 3 алгоритма, может не зарезервировать достаточно информации, когда входной размер меньше \ (K + 1 \), что может привести к недооценке количество факторов. Таким образом, в практических приложениях мы рекомендуем выбирать размер входных данных немного больше, чем максимальное количество факторов, которые, как предполагается, существуют в данных.

Осыпной график для выбора количества факторов. На оси y показаны стандартизированные сингулярные значения \ (\ hat {\ sigma} _k / \ sqrt {NJ} \), где \ ({\ hat {\ sigma}} _ k \) s получены на шаге 7 из Алгоритм 1. Данные моделируются из модели IFA с \ (K = 5 \), \ (J = 200 \) и \ (N = 4000 \). Входной размер установлен равным 10 в алгоритме 1. Разрыв сингулярного значения может быть найден между 5-м и 6-м сингулярными значениями

Статистическая эффективность Далее мы отмечаем, что вычислительное преимущество оценщика на основе SVD приходится расплачиваться.Чтобы уточнить этот момент, мы сравним его с CJMLE (Chen et al. 2019b; 2019c). CJMLE рассматривает как параметры элемента, так и скрытые факторы как фиксированные параметры и максимизирует совместную функцию правдоподобия по всем фиксированным параметрам. 2 / NJ, \), которая определяет сходимость \ ({\ hat {A}} \).{-1}), \) где \ ({\ hat {X}} _ {JML} \) обозначает CJMLE. Этот результат предполагает, что оценщик на основе SVD сходится гораздо медленнее, чем CJMLE.

«Параллельная реализация разложения по сингулярным значениям с использованием Open», Бхушан Райрикар

Абстрактные

(GPGPU) обладают возможностями массовых параллельных вычислений. Низкая стоимость и простота программирования делают их популярным выбором среди других параллельных архитектур, таких как большие кластеры и ускорители, такие как программируемые вентильные матрицы (FPGA).Зрелые среды программирования для GPGPU, такие как CUDA от Nvidia и OpenCL от Khronos Group, сокращают время обучения и время разработки для программирования архитектур GPGPU. OpenCL, относительно новый отраслевой стандарт для параллельных вычислений, позволяет писать единую программу для разнородных платформ, переносимую на несколько платформ, включая GPGPU и многоядерные процессоры, с минимальными модификациями кода. Архитектура
GPGPU успешно использовалась для ускорения многих вычислительно дорогостоящих задач, включая множество алгоритмов линейной алгебры, которые по своей природе параллельны.Разложение по сингулярным значениям (SVD) — это дорогостоящий в вычислительном отношении метод разложения матриц линейной алгебры, который имеет множество приложений, включая сжатие данных, распознавание лиц и решение системы уравнений. По мере увеличения размеров матрицы вычисление SVD становится все более трудоемким. Поскольку SVD является основной частью некоторых алгоритмов, таких как Eigenfaces (алгоритм распознавания лиц, основанный на анализе основных компонентов), общее время выполнения этих алгоритмов сильно зависит от времени выполнения SVD.Следовательно, для реализации эффективных приложений на основе SVD, например распознавания лиц в реальном времени, желательно ускорить алгоритм SVD.
В этой работе подробно обсуждается параллельная реализация разложения по сингулярным значениям. Он использует многие базовые методы линейной алгебры, такие как умножение матрицы на вектор, векторные нормы и векторные внешние произведения. В этой работе основное внимание уделяется методам реализации, методам оптимизации (особенно для реализации GPGPU) и их влиянию на общую производительность алгоритма.Мы представляем анализ производительности этого алгоритма на графическом процессоре NVIDIA Tesla C2050 по сравнению с однопоточной последовательной реализацией, выполненной на процессоре Intel Q9450 с тактовой частотой 2,66 ГГц. Мы сообщаем об ускорении до 20 раз при параллельном вычислении SVD. Результаты, обсуждаемые в этой диссертации, демонстрируют потенциал вычислительных ресурсов, доступных с GPGPU.

Рекомендуемое цитирование

Райрикар, Бхушан, «Параллельная реализация разложения сингулярных значений с использованием OpenCL» (2011). Все тезисы . 1292.
https://tigerprints.clemson.edu/all_theses/1292

нелинейный усеченный SVD-дисперсионный анализ и анализ разрешения двумерных магнитотеллурических моделей | Международный геофизический журнал

Сводка

Представлен новый подход к оценке дисперсии и разрешающей способности двумерных моделей удельного электрического сопротивления, полученных на основе магнитотеллурических измерений. Основанный на схеме усеченного сингулярного разложения (TSVD) на локальном подпространстве, он частично учитывает нелинейность обратной задачи.Анализ разрешения и дисперсии TSVD выполняется для одной ячейки за раз. Выбирается порог дисперсии и определяется результирующее разрешение модели. В качестве усовершенствования по сравнению с существующими схемами вводятся нелинейные полуоси для описания нелинейной доверительной поверхности в направлениях собственных векторов модели, и они заменяют обратные сингулярные значения, входящие в стандартное выражение дисперсии модели. Дисперсия модели рассматриваемой ячейки оценивается из суммы квадратов нелинейных полуосей до заданного порога дисперсии. Это, в свою очередь, дает уровень усечения TSVD, и строка матрицы разрешения модели, принадлежащая рассматриваемой ячейке, может быть вычислена из собственных векторов модели TSVD. Информация, содержащаяся в матрице разрешения, сжимается до легко воспринимаемых величин, таких как центр разрешения и длины горизонтального и вертикального разрешения.

Достоверность наших оценок дисперсии и разрешения нелинейной модели проверяется с помощью метода большинства квадратов, который дает улучшенную оценку изменчивости модели.

Анализируется синтетическая модель с проводящим блоком в однородном полупространстве. Анализ TSVD для ячеек модели на верхнем крае блока и вне блока иллюстрирует, как работает процесс усечения. Обычно линейные и нелинейные полуоси почти равны до определенного числа сингулярного значения, после которого нелинейные полуоси увеличиваются намного меньше, чем линейные полуоси. Этот важный результат указывает на то, что разрешение двумерных магнитотеллурических моделей значительно лучше, чем ранее предлагалось линейными схемами для вычисления дисперсии модели и свойств разрешения.Полевой пример из района Скидига (Швеция) показывает, что распределение удельного электрического сопротивления песчано-гравийных образований, ограниченных только латерально проводящими глиняными линзами, относительно хорошо разрешено, в то время как разрешение перехода между слоем песка и гравия и слоем подвал под глиняным покровом.

1 Введение

Обратную задачу можно разделить на несколько частей (Parker 1977): (1) исследование существования и единственности решения, (2) построение решения, (3) анализ устойчивости проблемы и (4) оценка значимости решения.

Здесь мы описываем новый метод оценки значимости решения с помощью разрешения модели и дисперсионного анализа в духе Бэкуса и Гилберта (1968).

Чтобы вычислить разрешение модели и свойства ковариации, обычно необходимо знать как матрицу чувствительности рассматриваемой модели, так и соответствующую обобщенную обратную модель — предпочтительно в форме разложения по сингулярным значениям. Доступность матрицы чувствительности и ее обобщенной обратной сильно зависит от используемой обратной схемы.

Было разработано несколько обратных методов для построения решения неуникальных и некорректно поставленных, то есть нестабильных задач. Юпп и Возофф (1975), а затем Лайнс и Трейтель (1984) описывают технику усечения сингулярных чисел и метод Марквардта как адекватные средства для решения некорректно поставленных обратных задач. Совсем недавно Педерсен (2004) представил одномерную обратную схему для магнитотеллурических данных, которая определяет оптимальный уровень усечения для разложения по сингулярным значениям на основе общей среднеквадратичной ошибки оцениваемой модели.Благодаря важной статистической информации, которую дает разложение по сингулярным значениям, информация о дисперсии модели и разрешении легко доступна из этих обратных схем (Jupp & Vozoff 1975; Lines & Treitel 1984; Pedersen 2004). Виггинс (1972) предлагает построить обобщенную обратную задачу для решения линейной обратной задачи так, чтобы дисперсия модели оставалась ниже заданного порога. Вследствие устрашающего времени вычисления разложения по сингулярным значениям по мере увеличения количества данных и параметров модели эти схемы не используются широко в двумерных или трехмерных обратных вычислениях.Как в первоначальном варианте двумерной схемы Оккама (de Groot-Hedlin & Constable, 1990), так и в ее формулировке подпространства данных (Siripunvaraporn & Egbert 2000) вычисляется матрица чувствительности, которая может использоваться непосредственно для оценки разрешающей способности и ковариации модели. Mackie & Madden (1993) предлагают метод релаксации сопряженного градиента, который позволяет избежать явного построения матрицы чувствительности и требует только знания о влиянии матрицы чувствительности на произведение матрица-вектор.Следовательно, использование метода сопряженных градиентов требует других методов разрешения модели и оценки ковариации (см. Ниже).

Несмотря на то, что разрешение и ковариация модели могут быть относительно легко получены из обратных схем, которые вычисляют матрицу чувствительности и ее обобщенную обратную, в прошлом такой способ интерпретации обычно не применялся. Частично это связано с тем, что линейная аппроксимация обратной задачи не учитывает все модели, которые соответствуют данным с одним и тем же допуском.Следовательно, большинство подходов, использованных для оценки свойств разрешения и ковариации, были ограничены получением максимальной глубины исследования, относящегося к рассматриваемому набору данных, либо линейными, либо так называемыми нелинейными исследованиями, либо их комбинацией. В этом контексте нелинейные исследования включают модели, которые значительно отличаются от предпочтительной модели, полученной с помощью линеаризованного обратного процесса. Для простого случая одномерной инверсии данных LOTEM Kalscheuer et al. (2006) использовал различные ограничения гладкости схемы Оккама, чтобы получить максимальную глубину исследования из нелинейно связанных моделей.Ольденбург и Ли (1999) выступают за использование нелинейных исследований для расчета индекса глубины исследования (DOI) для наборов данных удельного сопротивления постоянному току и наведенной поляризации. После вычисления предпочтительной модели м *, которая минимизирует целевую функцию модели с учетом ограничений данных, они модифицируют целевую функцию модели для получения других моделей, которые соответствуют данным в той же степени и близки, но не линейно близки к м *. Предполагается, что эта процедура гарантирует более полное исследование модельного пространства, чем дает линейный анализ, такой как анализ Бэкуса-Гилберта (Parker 1977), который рассматривает только модели, линейно близкие к м *.В зависимости от выбранной целевой функции модели индекс DOI является либо клеточной нормализованной разницей модели, либо полученным на основе взаимной корреляции. Ячейки модели выше определенной изолинии DOI не считаются разрешенными данными.

Schwalenberg et al. (2002) рекомендуют сочетание линейных и нелинейных исследований чувствительности. При линейном подходе вычисляются суммы по столбцам матрицы чувствительности, нормализованные соответствующими ошибками данных, то есть чувствительность всех точек данных для одной ячейки модели входит в сумму.Вдохновленный Oldenburg & Li (1999), изолиния чувствительности, которая считается подходящей, используется для исключения клеток с более низкой нормализованной чувствительностью из интерпретации. Из-за недостатка линеаризованного обратного процесса для поиска моделей, которые значительно отличаются от предполагаемой модели, Schwalenberg et al. (2002) предлагает систематические исследования нелинейной чувствительности на основе прямого моделирования, а также включение априорных моделей в прямое моделирование и обратные вычисления.Поскольку прямое моделирование не учитывает взаимозависимость между параметрами модели, использование априорной информации модели в обратных вычислениях считается более подходящим для получения информации о глубине исследования (Schwalenberg et al. 2002).

Фридел (2003) предлагает более строгий анализ разрешения применительно к данным томографии удельного сопротивления, который не ограничивается оценкой глубины исследования. Он представляет одношаговую линеаризованную обратную процедуру, основанную на усеченном разложении по сингулярным числам.Из-за используемого приближения с низким контрастом разрешение модели, ковариация модели и оценки разрешения данных вычисляются a priori , то есть на основе SVD матрицы чувствительности для исходной модели. Friedel (2003) предлагает вычислить апостериорных оценок , если используется нелинейная обратная схема с несколькими итерационными шагами. Friedel (2003) также описывает простые меры разрешения как радиус разрешения и флаг искажения (см. Ниже). Из ковариационной матрицы модели извлекается процент шума изображения.

Минкофф (1996) использует алгоритм сопряженного градиента для решения обратных сейсмических задач. Поскольку матрица чувствительности и, что более важно, матрица нормалей никогда явно не формируются во время инверсии, Минкофф (1996) формирует приближенную матрицу разрешения модели, оценивая собственные значения и собственные векторы матрицы нормалей с помощью метода Ланцоша во время обратной процедуры. Аналогичным образом Yao et al. (1999) выводит как приближенное разрешение модели, так и матрицы ковариации для итеративного решателя LSQR данных сейсмической томографии.

Для электромагнитных проблем Alumbaugh & Newman (2000) вычислили разрешение модели и матрицы ковариации как для прямых, так и для итерационных обратных схем. Однако для обоих случаев разрешение и ковариация оцениваются из обобщенной обратной задачи, относящейся к регуляризованной обратной задаче Тихонова. Таким образом, подход, принятый Alumbaugh & Newman (2000), дает оценки разрешения и ковариации, которые частично отражают регуляризацию Тихонова обратной схемы.

Ни в одном из приведенных выше анализов (Minkoff 1996; Yao et al. 1999; Alumbaugh & Newman 2000; Friedel 2003) — это компромисс между разрешением модели и ковариацией (Menke 1989) или влиянием нелинейности обратной задачи на оценку дисперсии модели и учитываемых свойств разрешения.

Здесь мы представляем дисперсию модели и анализ разрешения моделей удельного сопротивления по двумерной обратной схеме с помощью нелинейного усеченного SVD-анализа в локальном подпространстве. Анализ проводится после последней итерации обратного процесса.Не делается никаких предположений об ограничениях гладкости или других средствах уменьшения некорректности, используемых во время обратного процесса, и анализ основан на SVD якобиана, а также на полуосях вдоль собственных векторов модели до заданного уровня нелинейная доверительная поверхность. Нелинейные полуоси ранее использовались Йохансеном (1977) и Педерсеном и Расмуссеном (1989) для оценки доверительных границ нелинейных параметров одномерных моделей удельного сопротивления, которые были получены из данных удельного сопротивления постоянному току и магнитотеллурических данных соответственно.Впервые мы применяем эту технику к двумерным моделям удельного сопротивления и, что более важно, используем дисперсию параметров нелинейной модели для определения уровня усечения SVD, для которого вычисляется ядро ​​разрешения рассматриваемой ячейки. Этот подход позволяет эффективно изучать влияние нелинейности на разрешающую способность модели, аспект геофизической обратной теории, которым в значительной степени пренебрегали. Вычисление нелинейной дисперсии до заранее определенного порога дисперсии модели дает уровень усечения SVD и в то же время фиксирует точку на кривой компромисса между разрешением модели и ковариацией.Из матрицы разрешения, соответствующей определенному таким образом уровню усечения, оцениваются характерные меры разрешения в виде центра разрешения, а также длины горизонтального и вертикального разрешения. Мы добавили наш анализ разрешения и дисперсии к известному двумерному магнитотеллурическому обратному коду REBOCC Сирипунварапорна и Эгберта (2000).

Далее наш нелинейный анализ вводится с первого обзора теории дисперсии линейной модели и оценок разрешения до обсуждения нелинейных аспектов.Краткое описание методов подпространства моделей, меры разрешения и общая схема завершают теоретическую часть. После этого представлены синтетический и реальный примеры.

2 Теория

Вектор ошибок e описывает качество соответствия прямого отклика F [ m ] текущей модели m к измеренным данным d . Основная стратегия улучшения подгонки — минимизировать кумулятивную нормированную квадратичную ошибку Q = e ^T _W e _W относительно параметров модели (Lines & Treitel 1984; Menke 1989), то есть требовать, чтобы градиент Q относительно м исчез, ∇ _м Q = 0.

При определении вектора несоответствия данных исходная задача минимизации нелинейной величины Q = e ^T _W e _W заменяется минимизацией линеаризованная величина Q ^lin = ( e ^lin _W ) ^T e ^lin _W = (Δ43 d — J _W Δ м ) ^T (Δ d _W — J _W Δ44 м м м м

Только в том случае, если оценочная модель m ^est равна оптимальной модели m ⁰ , можно ожидать, что нелинейные и линейные оценки полуосей будут иметь равные значения для наибольших сингулярных значений. . Для широко используемых сглаженных обратных операторов обратный процесс не попадает в оптимальную модель Q и м ^est смещен от м ⁰ .Следовательно, также s ⁺ _i и s ^— _i будут систематически сдвинуты с s ^lin _i таким образом s ⁺ _i < s ^lin _i затем s ^— _i > s Следовательно, нелинейные эффекты невозможно отличить от смещения от оптимальной модели м ⁰ . Поэтому в нашем подходе мы используем комбинацию инверсии среднеквадратичной ошибки (MSE) (Pedersen, 2004) и инверсии TSVD (Jupp & Vozoff, 1975), чтобы перейти к оптимальной модели до того, как будет проведен окончательный анализ дисперсии модели и разрешения. Во время построения обратного решения неизвестно, сколько пар нелинейных полуосей должно быть включено в следующий нелинейный анализ, чтобы достичь допустимого порога дисперсии.По этой причине мы выполняем начальную инверсию с помощью метода MSE, который обычно включает меньше собственных векторов, чем требуется для следующего начального нелинейного анализа. Включение большего количества собственных векторов в нелинейный анализ означает, что включены определенные собственные векторы, которые считались частью нулевого пространства (Menke 1989) во время предыдущей инверсии MSE. Следовательно, окончательная инверсия TSVD выполняется с уровнем усечения, равным уровню исходного нелинейного анализа, а после этого выполняется окончательный нелинейный анализ.Как правило, предполагаемый уровень усечения не сильно меняется от начального к окончательному нелинейному анализу, и в большинстве случаев достаточно двух итераций улучшения модели и последующего нелинейного анализа.

2.3 Инверсия большинства квадратов

В нашем нелинейном анализе мы исследуем нелинейность только в направлениях собственных векторов модели. Достоверность наших оценок дисперсии можно проверить с помощью инверсии большинства квадратов (Jackson 1976; Meju & ​​Hutton 1992), которая вычисляет экстремальные сопротивления ячейки для заданного порога несоответствия и уровня усечения.

Если истинная дисперсия рассматриваемой ячейки больше, чем полученная в нашем нелинейном анализе, то данный порог дисперсии уже был бы достигнут с меньшим уровнем усечения. Следовательно, при вычислении разрешающего ядра было включено слишком много собственных векторов модели, и наши оценки разрешения слишком оптимистичны.

Для последовательного сравнения оценок дисперсии, полученных в результате нашего нелинейного анализа, с нелинейными дисперсиями, полученными с помощью инверсии наибольших квадратов, обобщенная инверсия, используемая в инверсии наибольших квадратов, строится с уровнем усечения конечного ненулевого значения. -линейный анализ.

Коэффициенты демпфирования следует выбирать тщательно, поскольку они влияют на направления шагов коррекции модели. Хотя коэффициент демпфирования можно выбрать так, чтобы доверительная поверхность, соответствующая Q ₀ + Δ Q , была достигнута за одну итерацию, нет гарантии, что удельное сопротивление рассматриваемой ячейки будет максимизировано или минимизировано таким образом. Следовательно, необходимо применять итеративную реализацию алгоритма большинства квадратов. Мы ограничиваем диапазон тестируемых коэффициентов демпфирования теми, которые не приводят к несоответствиям, превышающим Q ₀ + Δ Q , и выбираем тот, который дает наибольшее отношение изменения удельного сопротивления рассматриваемой ячейки к среднему изменению удельного сопротивления. модели.

2,4 Подпространство модели

Использование метода подпространства мотивировано тем фактом, что SVD очень дорогостоящее с точки зрения процессорного времени. Чтобы найти сингулярные значения и собственные векторы модели, время вычислений масштабируется как M ³ (Голуб и ван Лоан 1996), где M — количество параметров модели. Следовательно, мы ограничиваемся рассмотрением подпространства вокруг интересующей модельной ячейки. Протяженность подпространства определяется формой подпространства и радиусами горизонтального и вертикального подпространства s _y и s _z .На практике наиболее подходящими оказались подпространства полуэллиптической формы с центром на поверхности и радиусы подпространства, выбранные в качестве глубины до рассматриваемой ячейки. Этот выбор оправдан диффузионным поведением электромагнитных полей. С увеличением глубины электромагнитные поля распространяются на больший объем, и разрешение уменьшается. Обзор различных вариантов подпространства приведен в Приложении A.

2.5 Меры разрешения

Чтобы получить быстрый обзор свойств разрешения, желательно сжать разрешающее ядро ​​в сокращенный набор мер разрешения.Alumbaugh и Newman (2000) предлагают использовать 50-процентную ширину разброса, которая представляет собой горизонтальную или вертикальную ширину разрешающего ядра между точками, в которых амплитуда составляет 50 процентов от ее максимума. Friedel (2003) сокращает информацию, содержащуюся в матрице разрешения модели, до нескольких репрезентативных показателей, таких как радиус разрешения, полученный из диагональных элементов матрицы разрешения, и флаг искажения, который описывает, является ли положение максимального разрешения для определенной ячейки смещение от самой ячейки.Однако оба подхода обеспечивают ограниченные меры разрешения, поскольку возможное наличие боковых лепестков в разрешающем ядре не допускается. Также не учитывается положение центра разрешения по отношению к рассматриваемой ячейке. Мы следуем определению центров разрешения и длин как интегралов по разрешающему ядру Педерсеном (1977). Этот выбор учитывает форму полного разрешающего ядра на подпространстве. Подробности можно найти в Приложении B.

2.6 Общая схема

Общую схему нашего анализа разрешения и дисперсии TSVD можно резюмировать следующим образом.

• (1)

  Выберите ячейки сетки, для которых должен выполняться анализ разрешения / дисперсии TSVD.

• (2)

  Выберите пороговое значение дисперсии модели в виде коэффициента f _порог для удельных сопротивлений модели (см. Конец раздела 2.1.2).

• (3)

  Для каждой выбранной ячейки:

• (i)

  Определите радиусы подпространства вокруг выбранной ячейки, например, на основе глубины ячейки (см. Раздел 2.5 и Приложение А).

• (ii)

  Для шага анализа = 1,2

• (1)

  Если шаг анализа = 1, выполнить инверсию MSE в подпространстве, дающую уровень усечения p _MSE (см. Конец Раздел 2.2). Если шаг анализа = 2, выполните инверсию усеченного SVD на подпространстве с уровнем усечения p _TSVD = p ₁ шага анализа 1 (см. Конец раздела 2.2).

• (2)

  Масштабировать якобиан подпространства последней модели по суммарным ошибкам данных.

• (3)

  Вычислите SVD якобиана масштабированного подпространства, следуя уравнению. (3).

• (4)

  Определите нелинейные полуоси в направлении собственных векторов модели с помощью комбинации методов секущей и пополам (раздел 2.2) и замените нелинейные полуоси на линейные полуоси в экв. (23) для дисперсии параметров модели до тех пор, пока не будет достигнут заданный порог дисперсии. Это определяет уровень усечения p _1,2 шага анализа 1 или 2, соответственно, и обычно p ₁ > p _MSE .

• (iii)

  Для конечного уровня усечения p ₂ этапа анализа 2, вычислите матрицу разрешения подпространства (уравнение 14) и меры разрешения (раздел 2.5).

• (iv)

  Проверьте отклонения модели с помощью инверсии наибольших квадратов (раздел 2.3).

3 Синтетический пример

Синтетические прямые данные простой двухмерной модели с блоком 10 Ом · м в однородном полупространстве 1000 Ом · м (рис.2) были рассчитаны для поперечной магнитной (TM) и поперечной электрической (TE) мод (см. E.грамм. Брюитт-Тейлор и Уивер, 1976; Aprea et al. 1997). Отклики были рассчитаны на 10 приемных участках в течение 12 периодов в диапазоне от 0,0031 до 6,4 с, что дало в общей сложности 480 точек данных. Гауссовский белый шум, соответствующий 2,5% модуля вычисленных импедансов, был добавлен к прямым характеристикам обеих поляризаций.

Рисунок 2.

Двухмерная модель с блоком 10 Ом · м, встроенным в полупространство 1000 Ом · м.

Рис. 2.

Двухмерная модель с блоком 10 Ом · м, встроенным в полупространство 1000 Ом · м.

После этого была проведена инверсия синтетического набора данных по инверсной схеме REBOCC. Предполагалось, что минимальная погрешность соответствует 2,5% модуля импедансов, а исходная модель представляла собой однородное полупространство 300 Ом · м. В конце седьмой итерации была получена модель (рис. 3), которая соответствует данным со среднеквадратичным несоответствием 0,88. Дополнительные итерации с REBOCC не привели к дальнейшему снижению среднеквадратичного несоответствия.

Рисунок 3.

Результат инверсии 2-D REBOCC синтетических данных из 2-D блочной модели на рис.2. После семи итераций достигается среднеквадратичное несоответствие 0,88. Для ячеек, отмеченных I – III, вычисляются дисперсия модели и свойства разрешения.

Рисунок 3.

Результат инверсии 2-D REBOCC синтетических данных из 2-D блочной модели на рис. 2. После семи итераций достигается среднеквадратичное несоответствие 0,88. Для ячеек, отмеченных I – III, вычисляются дисперсия модели и свойства разрешения.

На основе этой модели REBOCC анализ разрешающей способности и дисперсии TSVD был выполнен для набора из трех ячеек, где первая ячейка расположена прямо над проводящим блоком (отмечена ячейкой I на рис.3), вторая ячейка расположена сбоку от проводника (ячейка II на фиг. 3), а последняя ячейка находится непосредственно под проводящим блоком (ячейка III на фиг. 3). Форма подпространств во всех случаях была выбрана полуэллиптической (см. Уравнение A1). Радиусы горизонтального и вертикального подпространства s _y и s _z , соответственно, были выбраны как глубина до центра ячейки. Результаты анализа представлены в таблице 1.

Таблица 1.

Результаты нелинейного анализа дисперсии и разрешения в примере синтетических данных.

Таблица 1.

Результаты нелинейного анализа дисперсии и разрешения примера синтетических данных.

Сначала обсуждаются свойства дисперсии и разрешения ячейки I поверх проводящего блока. Всего в подпространство входит 168 ячеек. На рис. 4 показано разрешающее ядро ​​для ячейки I. Ячейка I отмечена белым ромбом, а граница подпространства показана пунктирной линией.Значения разрешающего ядра ячеек, относящихся к подпространству, нанесены в соответствии с нормализованной цветовой шкалой справа от графика. Начальная инверсия MSE дает консервативный уровень усечения 71. Для анализа разрешения и дисперсии порог относительной дисперсии модели был установлен на f _thresh = 3.0. Как в начальном, так и в конечном анализе дисперсии используется всего 168 собственных векторов и полуосей без превышения заданного порогового значения дисперсии.Линейные и нелинейные полуоси изображены на рис. 5. Линейные полуоси (красная кривая) имеют динамический диапазон от ≈2 × 10 ^–2 до ≈3 × 10 ⁺³ , тогда как не -линейные полуоси (синие и зеленые кривые) по величине не превышают 1. До числа сингулярного числа 50 линейные и нелинейные полуоси почти равны, что указывает на то, что нелинейность становится важной только для более высоких значений сингулярных чисел. Поскольку нелинейные полуоси увеличиваются очень медленно для сингулярных чисел, превышающих 50, очевидно, что большее количество собственных векторов и полуосей может быть включено во время вычисления дисперсии, если нелинейность разрешена.Следовательно, больше собственных векторов модели входит в оценки нелинейного разрешения, чем в оценки линейного разрешения, а нелинейность имеет свойство фокусировки разрешения. На практике мы обнаружили, что SVD необходимо усекать, когда полуоси имеют порядок 1, если требуются отклонения, соответствующие факторам f _thresh = 3. Поскольку нелинейные полуоси меньше 1, этот порог не может быть достигнут, даже если включены все 168 собственных векторов и сингулярных значений, как здесь.Результирующие коэффициенты на удельное сопротивление исследуемой ячейки равны f ^— = 1,50 в направлении уменьшения и f ⁺ = 1,49 в направлении увеличения сопротивления. Поскольку все собственные векторы включены, ячейка разрешается однозначно, и разрешающее ядро ​​отличается от нуля только в самой ячейке I (рис. 4). Этот результат подтверждается инверсией большинства квадратов, которая дает множители f ^— _MSQ = 2,06 и f ⁺ _MSQ = 1.47 соответственно. Хотя первый коэффициент несколько выше, чем его нелинейный эквивалент f ^–, он явно остается ниже заданного порога. Для сравнения описаны результаты анализа дисперсии линейной модели и разрешения ячейки I. Имея только 83 из 168 собственных векторов модели и линейных полуосей, коэффициент f _lin = 2,66 на удельное сопротивление ячейки I приближается к f _thresh = 3,0. Линейные полуоси, вычисленные во время линейного анализа, и линейные полуоси, вычисленные во время нелинейного анализа (рис.5) довольно похожи. Длина линейной полуоси для уровня усечения p _{отсечка} = 83 на рис. 5 составляет приблизительно 2, что соответствует приведенному выше эмпирическому правилу. Согласно линейному анализу, элементы разрешающего ядра на рис.6 не равны нулю за пределами ячейки I, а расчетное удельное сопротивление ячейки I преимущественно представляет собой среднее значение удельного сопротивления ячеек, близких к ячейке I, и ячеек, близких к поверхности. . Однако также оценка линейного разрешения показывает, что ячейка I довольно хорошо разрешена.На рис. 6 красными полосами обозначены предполагаемые длины разрешения по вертикали и горизонтали, которые вычисляются в соответствии с уравнением. (БИ 2). Точка пересечения полос — это центр разрешения, рассчитанного по формуле. (B1). Центр разрешения совпадает с ячейкой I, а длина разрешения примерно в 3 раза больше, чем размеры ячейки I. По сравнению с оценками нелинейного разрешения, оценки линейного разрешения относительно плохо разрешенных ячеек имеют тенденцию ухудшаться более резко, чем таковые из достаточно хорошо разрешенных ячеек.Это в основном связано с тем, что элементы в собственных векторах модели довольно хорошо разрешенных ячеек велики в собственных векторах первой модели, которые уже участвуют в линейном анализе, и малы в собственных векторах более поздних моделей (см. Примеры в Jupp & Vozoff 1975 ; Vozoff & Jupp 1975). В отличие от этого, элементы плохо разрешенных ячеек, по-видимому, более сконцентрированы в собственных векторах модели с большим числом сингулярных значений, которые, возможно, не входят в линейный анализ.

Рисунок 4.

Ядро разрешения подпространства для ячейки I (отмечено белым ромбом) на верхнем крае проводящего блока. Пунктирная линия показывает границу подпространства, в котором были вычислены свойства дисперсии и разрешения. Значения ядра разрешения вне ячейки I равны нулю, а ячейка I полностью разрешена.

Рисунок 4.

Ядро разрешения подпространства для ячейки I (отмечено белым ромбом) на верхнем крае проводящего блока. Пунктирная линия показывает границу подпространства, в котором были вычислены свойства дисперсии и разрешения.Значения ядра разрешения вне ячейки I равны нулю, а ячейка I полностью разрешена.

Рисунок 5.

Линейные (красная кривая) и нелинейные полуоси (синяя и зеленая кривые) для ячейки I на верхнем крае блока. До сингулярного числа 50 наблюдается примерно равное увеличение линейной и нелинейной полуосей. После сингулярного числа 50 нелинейные полуоси увеличиваются очень мало, тогда как линейные полуоси продолжают увеличиваться. Следовательно, большее количество полуосей и собственных векторов может быть включено в вычисление дисперсии нелинейной модели до тех пор, пока не будет достигнут заданный порог дисперсии, а нелинейность имеет тенденцию фокусировать разрешение.

Рисунок 5.

Линейные (красная кривая) и нелинейные полуоси (синяя и зеленая кривые) для ячейки I на верхнем крае блока. До сингулярного числа 50 наблюдается примерно равное увеличение линейной и нелинейной полуосей. После сингулярного числа 50 нелинейные полуоси увеличиваются очень мало, тогда как линейные полуоси продолжают увеличиваться. Следовательно, большее количество полуосей и собственных векторов может быть включено в вычисление дисперсии нелинейной модели до тех пор, пока не будет достигнут заданный порог дисперсии, а нелинейность имеет тенденцию фокусировать разрешение.

Рис. 6.

Ядро разрешения подпространства для ячейки I, полученное из анализа дисперсии и разрешения линейной модели. В отличие от результатов нелинейного анализа, удельное сопротивление ячейки I разрешено не полностью (см. Рис. 4), а среднее удельное сопротивление ячеек вблизи ячейки I и ячеек вблизи поверхности. Значения разрешающего ядра представляют собой веса, с которыми удельное сопротивление каждой ячейки входит в среднее значение.Однако также оценка линейного разрешения показывает, что ячейка I довольно хорошо разрешена. Красные полоски отображают расчетную длину разрешения по вертикали и горизонтали (см. Уравнение B2). Точка пересечения полос определяет центр разрешения согласно уравнению. (B1).

Рисунок 6.

Ядро разрешения подпространства для ячейки I, полученное в результате анализа дисперсии и разрешения линейной модели. В отличие от результатов нелинейного анализа, удельное сопротивление ячейки I не решается полностью (см. Рис.4), но среднее удельное сопротивление ячеек вблизи ячейки I и ячеек вблизи поверхности. Значения разрешающего ядра представляют собой веса, с которыми удельное сопротивление каждой ячейки входит в среднее значение. Однако также оценка линейного разрешения показывает, что ячейка I довольно хорошо разрешена. Красные полоски отображают расчетную длину разрешения по вертикали и горизонтали (см. Уравнение B2). Точка пересечения полос определяет центр разрешения согласно уравнению. (B1).

Затем анализируется ячейка II в резистивном хозяине слева от проводящего блока.Соответствующее подпространство содержит 167 ячеек (рис. 7). Уровень усечения начальной инверсии MSE составляет 49. Следующий анализ начальной дисперсии предсказывает уровень усечения 133 для коэффициентов удельного сопротивления немного меньше 3 (см. Таблицу 1). Этот предполагаемый уровень усечения остается удивительно постоянным после окончательной инверсии усеченного SVD и окончательного дисперсионного анализа. Окончательный дисперсионный анализ дает коэффициенты f ^± = 2,99 в направлениях как уменьшения, так и увеличения удельного сопротивления.Длина разрешения как по вертикали, так и по горизонтали примерно в 4 раза больше, чем соответствующие размеры ячейки. Центр разрешения совпадает с рассматриваемой ячейкой. Однако дисперсии занижены, что доказывает инверсия большинства квадратов, которая сообщает изменчивость как f ^— _MSQ = 4,70 и f ⁺ _MSQ = 18,4. Следовательно, наши оценки разрешения слишком оптимистичны, и разрешающее ядро, соответствующее фактору f ^± ≈ 3, меньше сосредоточено на рассматриваемой ячейке, чем показано на рис.7.

Рисунок 7.

Ядро разрешения подпространства для ячейки II слева от проводящего блока. Расчетное удельное сопротивление ячейки II представляет собой средневзвешенное значение истинных сопротивлений всех ячеек в подпространстве. Преимущественно резистивность клеток, близких к клетке II, и клеток, близких к поверхности, вносит вклад в оценочное сопротивление клетки II.

Рисунок 7.

Ядро разрешения подпространства для ячейки II слева от проводящего блока.Расчетное удельное сопротивление ячейки II представляет собой средневзвешенное значение истинных сопротивлений всех ячеек в подпространстве. Преимущественно резистивность клеток, близких к клетке II, и клеток, близких к поверхности, вносит вклад в оценочное сопротивление клетки II.

Для процессов электромагнитной индукции обычно считается, что разрешение ниже толстого проводника относительно низкое из-за сильного затухания электромагнитных полей в самом проводе. Мы исследуем разрешающие свойства ячейки III с центром под проводящим блоком.Разрешающее ядро ​​показано на рис. 8. Для максимального периода 6,4 с и удельного сопротивления полупространства 10 Ом · м глубина скин-слоя составляет около 4000 м. Поскольку проводящий блок имеет толщину около 5800 мкм, можно ожидать, что разрешающая способность исследуемой ячейки относительно мала. Всего в подпространство включено 284 ячейки. Расширение подпространства полностью включает в себя проводящий блок (см. Рис. 8). Модель финальной инверсии подпространства TSVD представлена ​​на рис.9. По сравнению с гладкой моделью REBOCC (рис. 3), модель подпространства имеет немного улучшенное среднеквадратичное соответствие данных 0,86. Верхняя и боковая границы блока кажутся одинаково хорошо определенными в обеих моделях. Также в обеих моделях нижний край размыт в большую глубину. Не существует режима или диапазона периодов, в котором одна из моделей показывает систематическое улучшение соответствия данных по сравнению с другой моделью (не показано). Количество включенных собственных векторов одинаково для начального и окончательного дисперсионного анализа (таблица 1), то есть 245.Окончательный дисперсионный анализ дает коэффициенты f ^— = 2,86 в направлении уменьшения и f ⁺ = 2,88 в направлении увеличения удельного сопротивления. В соответствии с нашим ожиданием разрешающее ядро ​​(рис. 8) сильно искажено. Многие клетки, расположенные близко к поверхности, способствуют разрешению ядра, указывая на то, что расчетное удельное сопротивление клетки III является средним по большой площади. Рис. 4 предполагает, что ячейки в верхней части проводящего блока очень хорошо разрешены, в то время как разрешение ухудшается для ячеек глубже в блоке.Поскольку матрица разрешения симметрична, вклад ячеек в верхней части блока в удельное сопротивление ячейки III незначителен. Это приводит к небольшим элементам таких клеток для разрешающего ядра клетки III (см. Рис. 8). Ячейки в более глубокой части проводящего блока менее разрешены, чем ячейки в верхней части, что означает, что их разрешающие ядра имеют ненулевые значения, разбросанные по ячейкам в их окрестностях, включая ячейки под блоком. Следовательно, ячейки оценочной модели под проводящим блоком будут иметь более низкое удельное сопротивление, чем соответствующие ячейки истинной модели, и толстые проводники будут размываться в глубину в оценочной модели (см.рис.8). Из-за больших значений разрешающего ядра ячеек, близких к поверхности, центр разрешения смещен от исследуемой ячейки, а длина разрешения по горизонтали и вертикали превышает размеры ячейки. Инверсия наибольших квадратов дает коэффициенты f ^— _MSQ = 2,73 и f ⁺ _MSQ = 2,75 (таблица 1), которые подтверждают наши оценки нелинейной дисперсии.

Рисунок 8.

Ядро разрешения подпространства для ячейки III, которое расположено под проводящим блоком.Расчетное сопротивление ячейки III сильно зависит от сопротивления ячеек в верхних 600 м модели (то есть ячеек над проводящим блоком), ячеек в нижней части блока и других ячеек, близких к ячейке III. Вклад ячеек в нижней части проводящего блока в удельное сопротивление ячейки III объясняет, почему проводник размывается на большую глубину в оценочной модели (рис. 9).

Рисунок 8.

Ядро разрешения подпространства для ячейки III, расположенной под проводящим блоком.Расчетное сопротивление ячейки III сильно зависит от сопротивления ячеек в верхних 600 м модели (то есть ячеек над проводящим блоком), ячеек в нижней части блока и других ячеек, близких к ячейке III. Вклад ячеек в нижней части проводящего блока в удельное сопротивление ячейки III объясняет, почему проводник размывается на большую глубину в оценочной модели (рис. 9).

Рис. 9.

Двухмерная модель, полученная в результате окончательной инверсии усеченного SVD в подпространстве, относящемся к ячейке III.Модель соответствует синтетическим данным со среднеквадратичным несоответствием 0,86. В результате уменьшенного несоответствия, полученного с помощью инверсии TSVD, эта модель немного грубее, чем модель REBOCC на рис. 3. Ячейка сверху с черным заполнением имеет удельное сопротивление более 1800 Ом · м, как указано в легенде.

Рис. 9.

Двухмерная модель, полученная в результате окончательной инверсии усеченного SVD в подпространстве, относящемся к ячейке III. Модель соответствует синтетическим данным со среднеквадратичным несоответствием 0,86. В результате уменьшенного несоответствия, полученного с помощью инверсии TSVD, эта модель немного грубее, чем модель REBOCC на рис.3. Верхняя ячейка с черной заливкой имеет удельное сопротивление более 1800 Ом · м, как указано в легенде.

4 Пример полевых данных из района Скидига (Швеция)

Pedersen et al. Отчет № (2005) по проблеме определения геометрии водоносной системы ледниково-речного горизонта, состоящей из песчано-гравийных отложений в Скедиге (Швеция), с помощью метода радиомагнитотеллурии с контролируемым источником. Нижняя граница системы водоносных горизонтов — кристаллический фундамент, перекрытый системой линз глины.Из-за проводящих глиняных линз сложно определить структуру водоносного горизонта и особенно переход в резистивный фундамент.

Модель, полученная после четырех обратных шагов с использованием детерминантного режима (Pedersen & Engels 2005) в обратном коде REBOCC (Siripunvaraporn & Egbert 2000), показана на рис. 10. Число точек данных составляет 528, и среднеквадратичное соответствие составляет 1,47. Между профильными измерителями 10 и 100, а также 130 и 220 установлены две токопроводящие глиняные линзы со средним сопротивлением 10 Ом · м (желтого цвета).Pedersen et al. (2005) интерпретирует изолинию 30 Ом · м (т.е. переход между двумя зеленоватыми цветами как log ₁₀ 30 1,5) как нижнюю границу глиняных линз. Среднее удельное сопротивление нижележащего водоносного горизонта составляет 100 Ом · м. Примерно на отметке 115 профиля песчано-гравийные образования водоносного горизонта простираются до поверхности. Судя по скважинам в районе профиля, переход от водоносного горизонта к нижележащему кристаллическому фундаменту происходит на глубине около 30 м.В нескольких скважинах глубина до фундамента очень хорошо коррелирует с контурной линией 300 Ом · м на рис. 10 и предполагает удельное сопротивление фундамента более 300 Ом · м.

Рис. 10.

2-мерная модель удельного сопротивления района Скедига, построенная как распределение log ₁₀ ρ ( y , z ), где y и z — координаты в направлении профиля и с глубина соответственно. Две токопроводящие глиняные линзы глубиной 3–20 м и удельным сопротивлением до 30 Ом · м (обозначены переходом между двумя зеленоватыми цветами как log ₁₀ 30 1.5) видны в левой и правой половинах модели. Примерно на отметке 115 профиля нижележащие отложения песка и гравия простираются до поверхности. По скважинным данным, глубина до фундамента составляет примерно 30 метров. Анализ дисперсии модели и разрешения выполняется для ячеек, помеченных A – D.

Рис. 10.

Двухмерная модель удельного сопротивления района Скидиги, построенная как распределение log ₁₀ ρ ( y , z ), где y и z — координаты в направлении профиля, а с глубиной соответственно.Две токопроводящие глиняные линзы глубиной 3–20 м и удельным сопротивлением до 30 Ом м (обозначенные переходом между двумя зеленоватыми цветами как log ₁₀ 30 1,5) видны в левой и правой половинах модели. . Примерно на отметке 115 профиля нижележащие отложения песка и гравия простираются до поверхности. По скважинным данным, глубина до фундамента составляет примерно 30 метров. Анализ дисперсии модели и разрешения выполняется для ячеек, помеченных A – D.

Свойства дисперсии и разрешения четырех ячеек, обозначенных A – D на рис. 10, исследуются в подпространствах, которые имеют форму полуэллипсов (см. Приложение A). Результаты дисперсионного анализа и инверсии большинства квадратов сведены в Таблицу 2. Чтобы четко различать диапазоны удельного сопротивления, разрешенные для глинистых линз и водоносного горизонта, используется пороговое значение коэффициента удельного сопротивления f _thresh = 3.0. Для этого выбора диапазон удельного сопротивления глиняных линз составляет {3.3,…, 30 Ом · м} при среднем удельном сопротивлении 10 Ом · м, тогда как диапазон удельного сопротивления водоносного горизонта составляет {33,…, 300 Ом · м} при среднем удельном сопротивлении 100 Ом · м. Следовательно, допустимые диапазоны удельного сопротивления не перекрываются.

Таблица 2.

Результаты нелинейного анализа дисперсии и разрешения на примере месторождения Скидига.

Таблица 2.

Результаты нелинейного анализа дисперсии и разрешения на примере месторождения Скидига.

На рис. 11 показаны свойства разрешения ячейки А, расположенной внутри глиняной линзы.Количество ячеек в подпространстве — 184. После включения всех нелинейных полуосей в начальный анализ, идеальное разрешение ячеек и дисперсия, соответствующая коэффициенту f ⁺ = 1,75 в направлении увеличения и f ^— = 1,76 в направлении уменьшения удельного сопротивления ячейки. После окончательного нелинейного анализа коэффициенты удельного сопротивления равны f ^— = 1,76 и f ⁺ = 1,74. Инверсия большинства квадратов подтверждает этот результат, давая коэффициент f ^— _MSQ = 1.42 в направлении уменьшения удельного сопротивления и f ⁺ _MSQ = 1,46 в направлении увеличения удельного сопротивления.

Рисунок 11.

Ядро разрешения подпространства ячейки A (отмечено белым ромбиком), которое находится внутри глиняной линзы, наложенное на log ₁₀ ρ ( y , z ) -изолинии показанной модели на рис. 10. Значения разрешения вне ячейки A равны нулю, и ячейка A имеет идеальное разрешение.

Рисунок 11.

Ядро разрешения подпространства ячейки A (отмечено белым ромбом), которое расположено внутри глиняной линзы, наложенное на log ₁₀ ρ ( y , z ) -изолинии модели, показанной на рис. • Значения разрешения за пределами ячейки A равны нулю, и ячейка A полностью разрешена.

Для ячейки B, которая, как считается, находится в нескольких верхних метрах подвала и под глиняной линзой, разрешающее ядро ​​показано на рис. 12. Первоначальный дисперсионный анализ дает коэффициенты f ^± = 2.93 для 214 из 260 собственных векторов. Количество собственных пар остается удивительно стабильным в окончательном дисперсионном анализе, в результате которого было получено 215 включенных собственных векторов и факторов f ^— = 2,81 и f ⁺ = 2,84, соответственно. Результирующее разрешающее ядро ​​(рис. 12) распространяется на пять ячеек как в вертикальном, так и в горизонтальном направлении и центрируется вокруг интересующей ячейки, что предполагает умеренное разрешение. Однако инверсия по наибольшему количеству квадратов дает коэффициент f ^— _MSQ = 24.04 в направлении уменьшения сопротивления и f ⁺ _MSQ = 46,59 в направлении увеличения сопротивления, что означает, что разрешение сильно завышено.

Рис. 12.

Ядро разрешения подпространства ячейки B, расположенной ниже глиняной линзы и в пределах нескольких верхних метров фундамента. Красные полоски отображают расчетную длину разрешения по вертикали и горизонтали (см. Уравнение B2). Точка пересечения полос является центром разрешения согласно уравнению.(B1). Ядро разрешения предполагает, что удельные сопротивления ячеек из водоносного горизонта и фундамента усредняются по расчетному сопротивлению ячейки B.

Рисунок 12.

Ядро разрешения подпространства ячейки B, расположенной под глиняной линзой и в пределах нескольких верхних метров фундамента. Красные полоски отображают расчетную длину разрешения по вертикали и горизонтали (см. Уравнение B2). Точка пересечения полос является центром разрешения согласно уравнению. (B1). Ядро резолютона предполагает, что удельное сопротивление клеток из водоносного горизонта и фундамента усредняется по отношению к расчетному сопротивлению клетки B.

Менее серьезное демпфирование и, следовательно, лучшее разрешение перехода между водоносным горизонтом и основанием можно ожидать в области, где песчано-гравийные образования простираются до поверхности. Исследуем ячейку C в верхней части окна между глиняными линзами (рис. 13). Первоначальный дисперсионный анализ дает уровень усечения 142 из 192 собственных векторов, который увеличивается до 153 с помощью окончательного дисперсионного анализа. Факторы f ^— = 2,59 и f ⁺ = 2.95 получены в направлении уменьшения и увеличения удельного сопротивления соответственно. Инверсия большинства квадратов подтверждает наши нелинейные оценки, давая коэффициент f ^— _MSQ = 3,88 в направлении уменьшения удельного сопротивления и только f ⁺ _MSQ = 1,53 в направлении увеличения удельного сопротивления. . Следовательно, удельное сопротивление лучше определяется в последнем направлении, которое можно отнести к моде TM, входящей в детерминант.

Рис. 13.

Ядро разрешения подпространства ячейки C под окном между линзами глины и внутри песчано-гравийных образований. Значения ядра разрешения, которые значительно отличаются от нуля, обнаруживаются только в шести ячейках, относящихся к водоносному горизонту. Это означает, что линзы глины и фундамент имеют незначительное влияние на оценочное сопротивление ячейки C.

Рисунок 13.

Ядро разрешения подпространства ячейки C под окном между линзами глины и внутри песчано-гравийных образований.Значения ядра разрешения, которые значительно отличаются от нуля, обнаруживаются только в шести ячейках, относящихся к водоносному горизонту. Это означает, что глиняные линзы и фундамент имеют незначительное влияние на расчетное удельное сопротивление ячейки C.

Аналогичное поведение наблюдается для ячейки D наверху фундамента ниже окна между глиняными линзами (рис. 14). Окончательный анализ дисперсии дает уровень усечения 222 с конечными факторами f ^— = 2,85 и f ⁺ = 2.80. Следующая инверсия большинства квадратов показывает, что удельное сопротивление этой ячейки также лучше ограничено в направлении увеличения удельного сопротивления с коэффициентами f ^— _MSQ = 2,03 и f ⁺ _MSQ = 1,45. Фактически, данный порог дисперсии не достигается, как показывают результаты инверсии наибольших квадратов, и разрешение ячейки D, возможно, занижено. Сравнение с результатами анализа дисперсии и разрешения линейной модели подчеркивает важность учета нелинейности.Во время построения модели подпространства и линейного анализа уровень усечения p _{отсечки} = 95 дает линейный коэффициент f _lin = 2,97 на удельное сопротивление ячейки D. Согласно разрешающему ядру ( Рис. 15) из этого линейного анализа, расчетное удельное сопротивление ячейки D больше не является средним для ячеек, которые принадлежат исключительно водоносному горизонту и верхней части фундамента, но также включает ячейки от линз глины и ячейки, расположенные близко к поверхности.Как объяснялось в разделе 3, исключение собственных векторов модели с существенными элементами для ячейки D привело к значительному ухудшению оценки разрешения ячейки D.

Рис. 14.

Ядро разрешения подпространства ячейки D под окном между глиняными линзами и в пределах нескольких верхних метров фундамента. Разброс ядра разрешения аналогичен разбросу для ячейки B (рис. 12). В отличие от ячейки B, оценки дисперсии по инверсии большинства квадратов ближе к нелинейным оценкам (см. Таблицу 2), что указывает на то, что ячейка D разрешена лучше, чем ячейка B.

Рис. 14.

Ядро разрешения подпространства ячейки D под окном между глиняными линзами и в пределах нескольких верхних метров фундамента. Разброс ядра разрешения аналогичен разбросу для ячейки B (рис. 12). В отличие от ячейки B, оценки дисперсии по инверсии большинства квадратов ближе к нелинейным оценкам (см. Таблицу 2), что указывает на то, что ячейка D разрешается лучше, чем ячейка B.

Рисунок 15.

Ядро разрешения подпространства ячейки D, полученное в результате линейного анализа.Ядро разрешения более распространено, чем у его нелинейного аналога (рис. 14), поскольку собственные векторы модели с существенным вкладом в ячейку D не включены.

Рисунок 15.

Ядро разрешения подпространства ячейки D, полученное в результате линейного анализа. Ядро разрешения более распространено, чем у его нелинейного аналога (рис. 14), поскольку собственные векторы модели с существенным вкладом в ячейку D не включены.

5 Обсуждение и выводы

Метод, описанный здесь, является ценным средством анализа разрешающей способности модели и свойств дисперсии класса нелинейных обратных задач, которые не включают в явном виде априорных моделей и ковариаций моделей.С небольшими изменениями наш метод может быть применен к широкому кругу нелинейных обратных задач этого класса. Точка на кривой компромисса между разрешением и ковариацией для данного параметра модели выбирается путем фиксации дисперсии модели. На оценки разрешения и дисперсии влияет только усечение SVD, а усечение определяется исключительно данными, заданной дисперсией модели и нелинейностью обратной задачи. Наши оценки дисперсии частично объясняют нелинейность обратной задачи путем систематической замены обратных сингулярных значений нелинейными полуосями в направлении собственных векторов модели.Однако поворот собственных векторов модели с положением в пространстве параметров не допускается.

Обычно используются обратные схемы, основанные на регуляризации Тихонова, которые включают априорной информации . Это предпочтение отчасти объясняется значительной вычислительной экономией по сравнению с обратными схемами на основе SVD. В этом контексте должен быть поднят вопрос, требуются ли сглаживающие обратные операторы и модели a priori для геофизика, занимающегося операциями, или они используются как удобный способ уменьшить некорректность и облегчить решение проблемы.

В первом случае, когда априорных моделей и априорных модельных ковариаций являются неотъемлемой частью стохастической формулировки обратной задачи, матрицы ковариации и разрешения апостериорных моделей непосредственно задаются хорошо известными формулами ( Менке 1989).

В последнем случае, когда обратный оператор сглаживания используется просто для построения решения, которое до некоторой степени соответствует данным, а сглаживание модели не является главной целью, наш анализ дисперсии и разрешения модели может быть ценной альтернативой.

При оценке разрешающей способности и дисперсионных свойств расчетной модели удельного электрического сопротивления необходимо учитывать нелинейность. Как видно из спектров на рис. 5, линейная и нелинейная полуоси сильно отклоняются при малых сингулярных значениях, а объем нелинейного псевдогиперэллипсоида намного меньше, чем объем соответствующего линейного гиперэллипсоида. Следовательно, в нелинейный дисперсионный анализ может быть включено больше собственных векторов до тех пор, пока не будет достигнут заданный порог дисперсии, а нелинейность не будет иметь свойство фокусирующего разрешения.

Очень часто критической задачей является оценка разрешения резистивных структур в модели, особенно если они расположены под проводящей крышкой. Выбор уровня усечения имеет тенденцию по-разному влиять на оценки разрешения проводящих и резистивных структур. Проводящие приповерхностные структуры имеют большие элементы в собственных векторах модели с малыми числами сингулярных значений и, следовательно, оцениваются как имеющие хорошее разрешение, даже если только относительно небольшое количество собственных векторов модели включено, например, в линейный анализ.Как мы продемонстрировали, разрешение резистивных структур значительно занижается, если используется линейный анализ, поскольку такие структуры имеют тенденцию иметь большие элементы в собственных векторах модели с промежуточными и высокими сингулярными числами.

Надежность нашего дисперсионного анализа можно проверить с помощью инверсии наибольших квадратов, которая обеспечивает независимую и улучшенную оценку изменчивости модели. Согласно результатам анализа наибольших квадратов, порог дисперсии, который используется в нашем нелинейном анализе, может быть скорректирован для получения оценки наибольших квадратов, которая ближе к некоторой дисперсии, которая считается подходящей для задачи.В случае ячейки B модели Skediga, например, порог дисперсии f _thresh должен быть уменьшен ниже 3,0, чтобы приблизиться к f ^± _MSQ ≈ 3,0. Таким образом, уровень усечения будет уменьшен, и будет получена улучшенная оценка разрешения модели.

Для мелкомасштабной обратной задачи, такой как наш пример поля RMT с примерно 2800 модельными блоками и 500 точками данных, анализ дисперсии модели для подпространства примерно из 200 ячеек занимает около одного часа на современном 32-битном процессоре с частотой ЦП. 2 ГГц.Основные вклады во время вычислений — это вычисление матрицы Якоби и ее подпространства SVD во время инверсии подпространства и большое количество прямых вычислений во время поиска нелинейных полуосей. Для трехмерных или больших двумерных задач время для выполнения прямого вычисления и вычисления матрицы Якоби становится очень большим, а ограничения памяти ограничивают возможность хранения полной матрицы Якоби в памяти. Чтобы сделать наш метод более эффективным, было бы желательно вычислить якобиан только для подпространства.

Благодарности

Вирачай Сирипунварапорн из Университета Махидол, Таиланд и Гэри Эгберт из Университета штата Орегон сделали код REBOCC доступным для модификации. Мы также хотели бы поблагодарить трех рецензентов и редактора за их комментарии, которые помогли улучшить рукопись.

Список литературы

,

2000

Оценка изображений для двумерной и трехмерной электромагнитной инверсии

Geophysics

65

1455

1467

,

1997

Прямая задача электромагнитной индукции: точные конечно-разностные аппроксимации для двумерных дискретных границ с произвольной геометрией

Geophys. J. Int.

129

29

40

,

1968

Разрешающая способность валовых данных о Земле

Geophys. J. R. astr. Soc.

16

169

205

,

1976

О конечно-разностном решении двумерных индукционных задач

Geophys. J. R. astr. Soc.

47

375

396

,

1990

Инверсия Оккама для создания гладких двумерных моделей для магнитотеллурических данных

Geophysics

55

1613

1624

,

2003

Разрешающая способность, стабильность и эффективность томографии сопротивления, оцененные с помощью обобщенного обратного подхода

Geophys. J. Int.

153

305

316

,

1996

Матричные вычисления, Исследования Джона Хопкинса в области математических наук

Johns Hopkins University Press, Балтимор

,

2002

Научные вычисления — вводный обзор

МакГроу-Хилл, Нью-Йорк

,

1976

Most Squares Inversion

J. geophys. Res.

81

1027

1030

,

1977

Человеко-компьютерная система интерпретации результатов зондирования удельного сопротивления над горизонтально стратифицированной землей

Geophys. Проспект.

25

667

691

,

1975

Простые итерационные методы обращения геофизических данных

Geophys.J. R. astr. Soc.

42

957

976

,

2006

Электромагнитные свидетельства существования обода древней лавинной кальдеры на южном склоне горы Мерапи, Индонезия

J. Volc. Геотер. Res.

,

1984

Учебное пособие: обзор инверсии методом наименьших квадратов и ее применения к геофизическим задачам

Geophys.Проспект.

32

159

186

,

1993

Трехмерная магнитотеллурическая инверсия с использованием сопряженных градиентов

Geophys. J. Int.

115

215

229

,

1992

Итерационная инверсия большинства квадратов: приложение к магнитотеллурическим данным

Geophys. J. Int.

108

758

766

,

1989

Анализ геофизических данных: дискретная обратная теория

45

Academic Press

London

,

1996

Расчетно выполнимая матрица приближенного разрешения для обратных сейсмических задач

Geophys. J. Int.

126

345

359

,

1999

Оценка глубины исследования в исследованиях удельного сопротивления постоянному току и IP

Geophysics

64

403

416

,

1977

Понимание обратной теории

Ann. Преподобный «Планета Земля». Sci.

5

35

64

,

1977

Интерпретация данных потенциального поля — обобщенный обратный подход

Geophys. Проспект.

25

199

230

,

1979

Ограниченная инверсия данных потенциального поля

Geophys. Проспект.

27

726

748

,

2004

Определение уровня регуляризации инверсии усеченного сингулярного разложения: случай одномерной инверсии МТ данных

Geophys. Проспект.

52

261

270

,

2005

Обычная двухмерная инверсия магнитотеллурических данных с использованием определителя тензора импеданса

Geophysics

70

G33

G41

,

1989

Инверсия магнитотеллурических данных: нелинейный метод наименьших квадратов

Geophys. Проспект.

37

669

695

,

2005

Разведка подземных вод с использованием комбинированных методов контролируемого источника и радиомагнитотеллурии

Geophysics

70

G8

G15

,

2002

Исследования чувствительности применительно к двумерной модели удельного сопротивления Центральных Анд

Geophys. J. Int.

150

673

686

,

2000

Эффективный метод инверсии подпространства данных для двумерных магнитотеллурических данных

Geophysics

65

791

803

,

1975

Совместная инверсия геофизических данных

Geophys. J. R. astr. Soc.

42

977

991

,

1972

Общая линейная обратная задача: влияние поверхностных волн и свободных колебаний на структуру Земли

Rev. Geophys. Space Phys.

10

251

285

,

1999

Расчет разрешающей способности и ковариационных матриц для сейсмической томографии методом LSQR

Geophys. J. Int.

138

886

894

Приложения

Приложение A: Построение подпространства

На основе радиусов подпространства s _y и s _z , модельные ячейки со средней точкой ( y , z ), которые являются частью подпространства вокруг интересующей ячейки с средняя точка ( y _k , z _k ) должны соответствовать одному из следующих критериев эллипса:

• (i) полуэллипс (A1)
• (ii) 1-норма (A2)
• (iii) 2-норма (A3)

Подпространство в форме полуэллипса (ур.A1) с центром на поверхности ( z = 0) и s _y = s _z = z _k — наш предпочтительный выбор по нескольким причинам. В однородном полупространстве он объясняет, что индукционное пространство сферически увеличивается с периодом (Schwalenberg et al. 2002). Поскольку чувствительность, как правило, наибольшая непосредственно под участками приемника и в проводниках, часто требуется включить относительно большое количество ячеек под соседними участками приемника в подпространстве.Кроме того, полуэллиптическое подпространство дает более полную картину разрешения для моделей с высокопроводящими поверхностными структурами (например, осадочные бассейны в МТ-исследованиях или глиняные линзы в приповерхностных исследованиях), поскольку в этих случаях нижележащие резисторы часто плохо разрешаются и их разрешение сильно искажается проводниками. Остальные варианты формы подпространства в основном используются для уменьшения количества ячеек в подпространстве. Однако радиусы усечения s _y и s _z должны быть выбраны так, чтобы все ячейки вне подпространства пренебрежимо связывались с номером ячейки k .Существенно, что радиусы подпространства выбраны достаточно большими. Радиусы подпространства, превышающие требуемые задачей, не влияют на наши оценки с опозданием. Их основной эффект — увеличение времени вычислений.

Приложение B: Меры разрешения

Журнал Авторы 507 Составление © 2007 РАН

Разложение по сингулярным значениям

Анализ факторов разложения по сингулярным значениям

Факторный анализ — это многомерный статистический метод для извлечения информационного содержания из набора данных.В случае Olis мы имеем большую матрицу, состоящую из оптической плотности и т. Д. Как функции длины волны и времени. Факторный анализ, в случае разложения по сингулярным значениям (SVD) Olis, сокращает это до 3 меньших матриц, которые содержат всю информацию, присутствующую в данных. Кинетическая информация содержится в кинетической матрице собственных векторов. Опыт показал, что для описания данных необходимо лишь небольшое количество собственных векторов. Олис использует 6. Различные процессы скорости хранятся по небольшому количеству собственных векторов, и кинетическая модель может быть адаптирована к ним для извлечения констант скорости.Точно так же спектральная информация хранится в наборе из 6 собственных векторов. Наконец, создается вектор сингулярных значений. Обычно они начинаются с высокого значения и быстро падают до значения, близкого к нулю. Число сингулярных значений выше нуля указывает на количество существенно присутствующих видов и полезно для выбора модели.

Представление исходных данных может быть получено путем подходящего матричного умножения двух наборов собственных векторов векторов и сингулярных значений.Эта реконструкция является оригинальной с меньшим количеством шумов. Таким образом, процессы SVD и реконструкции сглаживают данные. Три матрицы обычно используются для хранения информации в данных в гораздо более компактной форме, чем оригинал; примерно в 30 раз меньше. Также намного проще выполнить глобальную кинетическую подгонку на компактном кинетическом наборе, чем на исходном большом наборе данных. Таким образом, факторный анализ очищает данные, обеспечивает более компактное хранение и значительно уменьшает масштаб глобальной проблемы подбора.

SVD — это один из нескольких методов факторного анализа, который, как правило, считается наиболее надежным с математической точки зрения. Модификации Olis к SVD никоим образом не изменяют способ его использования или сделанные на его основании выводы. Единственное отличие — большой прирост скорости.

Линейная алгебра, лежащая в основе поисковых систем

Модель векторного пространства обеспечивает основу для большинства алгоритмов поиска информации, используемых сегодня. Однако одной этой самой базовой модели векторного пространства недостаточно.Для ускорения работы базовой модели было изобретено множество модификаций и эвристик, что привело к появлению популярной модели под названием модель Latent Semantic Indexing (LSI) (Berry, Drmac & Jessup, 1999).

Основным математическим объектом в модели LSI также является матрица. Мы уже обсуждали, как модель векторного пространства, описанную на предыдущих страницах, можно рассматривать как матрицу. Теперь давайте соединим 3 миллиарда векторов документов, связанных с Интернетом (каждый из которых представляет собой вектор размером 300 000 D), друг с другом, чтобы сформировать матрицу размером 300 000 на 3 000 000 000, которая называется поэлементной матрицей .Эта матрица может выглядеть как

, где ( i, j ) -элемент матрицы содержит 1, если слово для позиции i в документе j является ключевым словом, и 0 в противном случае. Столбец 1 в этой матрице — это вектор документа 1, столбец 2 — вектор документа 2 и так далее.

Эта огромная поэлементная матрица может содержать избыточную информацию. Берри, Дрмак и Джессап (1999) приводят следующий пример:

В сети может быть документ с ключевыми словами прикладная линейная алгебра и другой документ в сети с ключевыми словами компьютерная графика .Также может быть документ с ключевыми словами линейная алгебра, примененная [к] компьютерной графике . Ясно, что векторы для первых двух документов суммируются с вектором для третьего документа.

В линейной алгебре это называется зависимостью между столбцами матрицы. Эта зависимость между столбцами может быть частой, поскольку в Интернете очень много документов. К счастью, эту зависимость в матрице послементарных документов можно использовать для уменьшения объема работы, необходимой для поиска информации.

Вот где модель LSI отличается от модели векторного пространства. В самых общих чертах, метод LSI управляет матрицей для устранения зависимостей и, таким образом, рассматривает только независимую, меньшую часть этой большой поэлементной матрицы. В частности, математический инструмент, используемый для достижения сокращения, представляет собой разложение усеченного сингулярного числа (SVD) матрицы.

Примечание: Ниже мы кратко представим SVD; Берри, Дрмак и Джессап (1999) и Мейер (2000) содержат подробные объяснения SVD матрицы.

По сути, усеченный SVD постаментной матрицы сокращает матрицу m на n A до аппроксимации A _k , которая хранится компактно с меньшим количеством векторов. Нижний индекс k представляет, какую часть исходной матрицы A мы хотим сохранить. Большое значение k означает, что A _k очень близко к A . Однако ценность этого хорошего приближения должна быть сопоставлена ​​с желанием сжатия данных.Фактически, усеченное представление A _k требует хранения ровно k скаляров, k m -мерных векторов и k n -мерных векторов. Очевидно, что с увеличением k увеличиваются и требования к хранилищу.

Давайте сделаем паузу для формального определения SVD с последующим числовым примером. Перед определением SVD мы также рассмотрим некоторые другие термины матричной алгебры. Следующие определения и теоремы взяты из Meyer (2000).

Определение Ранг матрицы м на n A — это количество линейно независимых строк или столбцов A .

Определение Ортогональная матрица является реальной матрицей m на n P ранга r , столбцы (или строки) которой составляют ортонормированную основу для R ^r . То есть набор векторов столбцов (или строк) { p ₁ , p ₂ ,…, p _r }, где r = ранг ( P ), имеет свойство, что p _i ^T p _j = 1 для i = j , 0 в противном случае.

Теорема Для каждых м на n матрица A ранга r , есть ортогональные матрицы

U _{м на м} и V _{n на n}

и диагональная матрица

D _{r -by- r} = диаг (σ ₁ , σ ₂ ,…, σ _r )

такое, что

с σ ₁ ≥ σ ₂ ≥… ≥ σ _r > 0.

Определение Значения σ _и в предыдущей теореме называются ненулевыми сингулярными значениями из A . Когда r p = min ( m, n ), говорят, что A имеет p — r дополнительных нулевых сингулярных значений . Факторизация в теореме называется разложением по сингулярным числам (SVD) A , а столбцы U (обозначены u _i ) и столбцы V (обозначены v _i. ) называются левыми и правыми сингулярными векторами из A , соответственно.В другом варианте SVD выражает A как сумму матриц ранга 1:

.

Определение Усеченный SVD — это

Теорема (Meyer, 2000, стр. 417) Если σ ₁ ≥ σ ₂ ≥… ≥ σ _r ненулевые сингулярные значения A _{m -by- n} , то для каждого k расстояние от A до ближайшего ранга — матрицы k равно

Таким образом, σ _{k + 1} является мерой того, насколько хорошо A _k приближается к A .Фактически, для A _{m -by- n} ранга r , A _k — лучшее приближение матрицы ранга k к A (Eckart & Young, 1936 ). Цель использования A _k для приближения A состоит в том, чтобы выбрать k достаточно большим, чтобы дать хорошее приближение к A , но достаточно маленьким, чтобы k r требовало гораздо меньше памяти.

На рис. 6 в целом показана экономия памяти, полученная с помощью усеченного SVD.

Рисунок 6: Сжатие данных с использованием усеченного SVD

Числовой пример может прояснить эти концепции. Предположим, что исходная поэлементная матрица A имеет размер 100 на 300. После усеченного SVD предположим, что A ₂₀ хорошо аппроксимирует A , т. Е. Мы берем k = 20. Чтобы вычислить экономию памяти, мы подсчитываем количество элементов, которые должны быть сохранены в обоих представлениях — полная матрица 100 на 300 A (30 000 элементов) по сравнению с усеченным представлением SVD, которое требует хранения вектора 20 на 1, матрицы 100 на 20 и матрицы 20 на 300 (20 × 1 + 100 × 20 + 20 × 300 = 8,020 элементов).Количество элементов в полной матрице Представление почти в 4 раза больше, чем количество элементов, необходимых для усеченного SVD.

Большие коллекции данных часто позволяют значительно сэкономить на хранении. В коллекции Medlars используется поэлементная матрица размером 5831 × 1033, которая может быть очень хорошо аппроксимирована усеченным SVD с k = 70, что обеспечивает экономию памяти примерно в 13 раз меньше, чем исходная матрица.

Мы завершаем этот раздел небольшим примером, взятым из Berry & Browne (1999), показывающим, что усеченный SVD может хорошо аппроксимировать матрицу.Предположим, что A — это матрица 9 × 7