Простой анализ изображений Many slides adapted from Fei-Fei Li, Rob Fergus, Antonio Torralba, Jean Ponce and Svetlana Lazebnik

Общая информация Страница курса Этот курс подготовлен и читается при поддержке

Внешние факторы: Положение камеры Освещение Внутриклассовая изменчивость Изменчивость изображений Внутренние факторы:

Внутриклассовая изменчивость

Изменчивость: Положение камеры Освещение Сопоставление (Alignment) или (Matching) Roberts (1965); Lowe (1987); Faugeras & Hebert (1986); Grimson & Lozano-Perez (1986); Huttenlocher & Ullman (1987) Фиксируем форму объекта Сопоставление

L. G. Roberts, Machine Perception of Three Dimensional Solids, Ph.D. thesis, MIT Department of Electrical Engineering, 1963.Machine Perception of Three Dimensional Solids

Сопоставление Huttenlocher & Ullman (1987)

Сопоставление шаблонов Фиксируем объект Опишем объект его изображением – шаблоном (pattern) Хотим найти объект в изображении Ограничим возможные преобразования (внешние факторы) Сдвиг, размер, поворот Освещение? Будем искать объект в изображении путём попиксельного сравнения шаблона и всех фрагментов изображения «Pattern matching»

Метрики (SAD) Sum of absolute differences ( (SSD) Sum of squared differences (CC) Cross-correlation SAD, SSD – минимизируются (0 – точное совпадение) CC – максимизируется (1 – точное совпадение)

Нормализация освещенности Освещённость может меняться Можно нормализовать интенсивности пикселей шаблона и фрагмента изображения Средняя интенсивность Норма интенсивности окна Нормализованный пиксель

Выравнивание освещенности Исходное изображение Линейная функция освещенности Скорректированное освещенности Выравнивание гистограммы (контраста)

Пример: пульт ТВ Шаблон (слева), изображение (в центре), карта нормализованной корреляции (справа) Пик яркости (максимум корреляции) соответствует положению руки (искомого шаблона)

Пример: пульт ТВ

Ограничения и проблемы Ищем конкретный объект, а не класс / категорию объектов Не «символ», а конкретную букву в конкретном шрифте Трудоёмкость Полный перебор параметров Модель преобразования В простом варианте неизвестно только положение, размер и ориентация фиксированы Чтобы учесть поворот и ориентацию придётся перебрать все возможные параметры Шаблонов может быть много OCR – распознавание символов По шаблону на каждый символ

Как улучшить подход?

Поиск краев Интуитивно понятно, что основная информация в картинке содержится как раз в границах (краях) Компактное представление Соответствует устройству мозга Задача: Выделить резкие изменения (разрывы) изображения Идеал: рисунок художника (но артист уже пользуются своими знаниями об объектах) Source: D. Lowe

Края для сопоставления шаблонов Будем учитывать только часть, но очень важную, для распознавания шаблонов Даже улучшим обобщающую способность

Откуда берутся границы Существует множество причин формирования границ на изображении Резкое изменение глубины Резкое изменение цвета поверхности Резкое изменение освещеенности Резкое изменение нормали поверхности Source: Steve Seitz Резкое изменение = «разрыв»

Описание «края» Край – это точка резкого изменения значений функции интенсивности изображения изображение Функция интенсивности (строка изображения) 1ая производная Края соответствуют экстремумам производной Slide by S. Lazebnik

Градиент направлен в сторону наибольшего изменения интенсивности Градиент изображения Градиент изображения: Направления градиента задается как: Как направление градиента соответствует направлению края? Сила края задается величиной (нормой) градиента: Source: Steve Seitz

Дифференцирование и свёртка Для функции 2х переменных, f(x,y): Линейная и инвариантная к переносу, поэтому м.б. Результатом свертки Разностная производная: Свёртка! 1 Source: D. Forsyth, D. Lowe

Вычисление градиента Математический смысл – приближенное вычисление производных по направлению Робертса ПревиттСобеля Семейство методов основано на приближенном вычисление градиента, анализе его направления и абсолютной величины. Свертка по функциям:

Примеры карты силы краев Примеры: Робертса Превитт Собеля

Влияние шума Рассмотрим строку или столбец изображения Интенсивность от положения можно рассматривать как сигнал Край исчез Source: S. Seitz

Влияние шума Разностные производные очень чувствительны к шуму Зашумленные пиксели отличаются от соседей Чем сильнее шум, тем выше отклик Сглаживание Сглаживание делает все пиксели (зашумленные?) чуть более похожими на соседей Source: D. Forsyth

Предобработка (сглаживание) Для поиска краев ищем пики в: f g f * g Source: S. Seitz

Операции свертки и дифференцирования ассоциативны: Это экономит 1 операцию: Свойства свертки f Source: S. Seitz

Производная фильтра гаусса * [1 -1] = Slide by S. Lazebnik

Производная фильтра гаусса x-direction y-direction Slide by S. Lazebnik

Сглаженные производные подавляют шум, но размывают края. Плюс края находится на разных «масштабах» 1 pixel3 pixels7 pixels Поиск баланса Source: D. Forsyth

Выделение краев Вычисление градиента – это еще не всё… Чего не хватает? Точности – края «толстые» и размытые Информации о связности Исходное изображение Карта силы краев

Разработка детектора краев Критерии качества детектора: Надежность: оптимальный детектор должен редко ошибаться (ложные края и пропущенные края) Точная локализация: найденный край должен быть как можно ближе к истинному краю Единственный отклик: детектор должен выдавать одну точку для одной точки истинного края, т.е. локальных максимум вокруг края должно быть как можно меньше Связанность: хотим знать, какие пиксели принадлежат одной линии края Source: L. Fei-Fei

Детектор Canny 1.Свертка изображения с ядром – производной от фильтра гаусса 2.Поиск нормы и направления градиента 3.Выделение локальных максимумов (Non-maximum suppression) Утоньшение полос в несколько пикселей до одного пикселя 4.Связывание краев и обрезание по порогу (гистерезис) : Определяем два порога: нижний и верхний Верхний порог используем для инициализации кривых Нижний порог используем для продолжения кривых MATLAB: edge(image, canny) Source: D. Lowe, L. Fei-Fei

Пример Исходное изображение (Lena) Slide by S. Lazebnik

Пример Норма градиента Slide by S. Lazebnik

Пример Отсечение по порогу Slide by S. Lazebnik

Пример Утоньшение (non-maximum suppression) Slide by S. Lazebnik

Поиск локальных максимумов Максимум достигается в q, если значение больше p и r. Значения в p и r интерполируем. Source: D. Forsyth

Пусть отмеченная точка – край. Строим касательную к границе (нормаль к направлению градиента) и используем ее для предсказания новой точки (это либо s либо r). Связывание точек Source: D. Forsyth

Отсечение по порогу Проверяем точку, чтобы значение градиента было выше порога Используем гистерезис –Большой порог для начала построения кривой и низкий порог для продолжения края (связывания) Source: S. Seitz

Эффект гистерезиса Исходное изображение Высокий порог (сильные края) Низкий порог (слабые края) Порог по гистерезису Source: L. Fei-Fei

Влияние Canny with original Выбор (размера ядра размытия) зависит от задачи большое - поиск крупных границ малая - выделение мелких деталей Source: S. Seitz

Ограничения детектора Source: Martin et al. 2003

Поиск краев – это только начало… Berkeley segmentation database: image human segmentation gradient magnitude Slide by S. Lazebnik

Края для сопоставления шаблонов Получили карту краёв шаблона и изображения Как их сравнить друг с другом? Просто попиксельно явно не оптимально

Метрики Сhamfer Distance Для каждого пикселя a края шаблона A вычисляем расстояние до ближайшего пикселя b края изображения B Суммируем все найденные расстояния Hausdorff Distance Почти то же самое, но берём не сумму, а максимальное расстояния

Метрики Свойства метрик Сhamfer требует нормализации, Hausdorff нет Chamfer cимметрична, Hausdorff нет HausDist (A,B) HausDist(B,A) Можно использовать не max, а медиану (медленнее) Какую метрику использовать? Обычно заранее сказать нельзя, нужна экспериментальная проверка

Поиск ближайших пикселей края Вопрос: как найти ближайший пиксель края на изображении?

Distance Transform Для каждого пикселя вычисляется расстояние до ближайшего пикселя края

Применение DT Совмещаем шаблон и карту DT Вычисляем ошибку, суммирую все значения в пикселях краев

Простейший алгоритм – N проходов Первый проход помечает края 0 На втором помечаем все граничащие с 0 пиксели как 1 И т.д. Существует двухпроходный алгоритм Вычисление DT

Пример DT DT может использоваться для поиска «скелета» – осей объекта

Пример поиска с помощью DT

Пример

Резюме сопоставления шаблонов Подходит в тех случаях, когда объекты фиксированы и модель преобразования не очень сложная Цифры на знаках Цифры на конвертах Аэрофотосъёмка / Космическая съёмка Не очень быстрые методы Требуются специальные процедуры для ускорения, пр. отбраковка ложных фрагментов по упрощённым критериям и т.д. Номера

Изменчивость Инвариантность к: Duda & Hart ( 1972); Weiss (1987); Mundy et al. ( ); Rothwell et al. (1992); Burns et al. (1993) Положение камеры Освещение Внутренние параметры Инвариантность

Примеры Клетки крови Монеты и купюры Ложки и сахар Номера Контрастные объекты на фоне!

В общем случае, для 3D объектов не существует проективных инвариантов (Burns et al., 1993) Более сложные примеры A B C D Инвариантность к перспективным искажениям – проективные инварианты (Rothwell et al., 1992)

Схема простого алгоритма

Предобработка изображения для упрощения анализа (например – шумоподавление) Выделение на изображении контрастных областей-кандидатов в которых может находится искомый объект Вычисление признаков (инвариантов) по выделенным фрагментам Проверка – является ли фрагмент изображения изображением нужного нам объекта по измеренным параметрам

Бинаризация изображений Пиксель бинарного изображения может принимать только значения 0 и 1 Бинаризация – построение бинарного изображения по полутоновому / цветному Смысл? Разделить изображение на фон и контрастные объекты Объекты помечены 1, фон 0

Пороговая фильтрация Простейший вариант - пороговая фильтрация (thresholding) Выделение областей, яркость которых выше/ниже некоторого порога, заданного «извне»

Пороговая фильтрация Более интересный способ – определение порога автоматически, по характеристикам изображения Анализ гистограммы

Анализ симметричного пика гистограммы Применяется когда фон изображения дает отчетливый и доминирующий пик гистограммы, симметричный относительно своего центра. 1. Сгладить гистограмму; 2. Найти ячейку гистограммы h max с максимальным значением; 3. На стороне гистограммы не относящейся к объекту (на примере – справа от пика фона) найти яркость h p, количество пикселей с яркостью >= h p равняется p% (например 5%) от пикселей яркости которых >= h max; 4. Пересчитать порог T = h max - (h p - h max );

Адаптивная бинаризация Необходима в случае неравномерной яркости фона/объекта.

Адаптивная бинаризация Необходима в случае неравномерной яркости фона/объекта. 1. Для каждого пикселя изображения I(x, y): 1. В окрестности пикселя радиуса r высчитывается индивидуальный для данного пикселя порог T; 2. Если I(x, y) > T + C, результат 1, иначе 0; Варианты выбора T: T = mean T = median T = (min + max) / 2

Адаптивная бинаризация r=7, C=0 r=7, C=7r=75, C=10Исходное

Шум в бинарных изображениях Пример бинарного изображению с сильным шумом Часто возникает из-за невозможности полностью подавить шум в изображениях, недостаточной контрастности объектов и т.д.

Шум в бинарных изображениях По одному пикселю невозможно определить – шум или объект? Нужно рассматривать окрестность пикселя!

Подавление и устранение шума Широко известный способ - устранение шума с помощью операций математической морфологии: Сужение (erosion) Расширение (dilation) Закрытие (closing) Раскрытие (opening)

Математическая морфология A B Множество A обычно является объектом обработки, а множество B (называемое структурным элементом) – инструментом.

Расширение в дискретном случае A BA(+)B Операция «расширение» - аналог логического «или»

Расширение Расширение (dilation) A (+) B = {t R 2 : t = a + b, a A, b B} B A (+) B

Cужение Сужение (erosion) A (-) B = (A C (+) B) С, где A C – дополнение A A(-)B B A

Результат операции сужения

Свойства Коммутативный закон A (+) B = B (+) A A (-) B B (-) A Ассоциативный закон A (+) (B (+) C) = (A (+) B) (+) C A (-) (B (-) C) = (A (-) B) (-) C

Важное замечание Результат морфологических операций во многом определяется применяемым структурным элементом. Выбирая различный структурный элемент можно решать разные задачи обработки изображений: Шумоподавление Выделение границ объекта Выделение скелета объекта Выделение сломанных зубьев на изображении шестерни

Расширение void Dilation(BIT* src[], bool* mask[], BIT* dst[]) { // W, H – размеры исходного и результирующего изображений // MW, MH – размеры структурного множества for(y = MH/2; y < H – MH/2; y++) { for(x = MW/2; x < W – MW/2; x++) { BIT max = 0; for(j = -MH/2; j

Сужение void Erosion(BIT* src[], bool* mask[], BIT* dst[]) { // W, H – размеры исходного и результирующего изображений // MW, MH – размеры структурного множества for(y = MH/2; y < H – MH/2; y++) { for(x = MW/2; x < W – MW/2; x++) { BIT min = MAXBIT; for(j = -MH/2; j

Операции раскрытия и закрытия Морфологическое раскрытие (opening) open(A, B) = (A (-) B) (+) B Морфологическое закрытие (closing) close(A, B) = (A (+) B) (-) B

Применение открытия Применим операцию открытия к изображению с сильным шумом:

Сужение vs Открытие СужениеОткрытие

Дефекты бинаризации Пример бинарного изображению с дефектами распознаваемых объектов

Применение закрытия Применим операцию закрытия к изображению с дефекиами объектов:

Не лучший пример для морфологии Не во всех случаях математическая морфология так легко убирает дефекты, как хотелось бы…

Применения операции открытия Часто помогает медианная фильтрация!

Медианный фильтр Фильтр с окрестностью 3x3

Выделение связных областей Определение связной области: Множество пикселей, у каждого пикселя которого есть хотя бы один сосед, принадлежащий данному множеству. Соседи пикселей: 4-связность8-связность

Разметка связных областей Бинарное изображениеРазмеченное изображение

Рекурсивный алгоритм void Labeling(BIT* img[], int* labels[]) { // labels должна быть обнулена L = 1; for(y = 0; y < H; y++) for(x = 0; x < W; x++) { Fill(img, labels, x, y, L++); }

Рекурсивный алгоритм void Fill(BIT* img[], int* labels[], int x, int y, int L) { if( (labels[x][y] = = 0) && (img[x][y] = = 1) ) { labels[x][y] = L; if( x > 0 ) Fill(img, labels, x – 1, y, L); if( x < W - 1 ) Fill(img, labels, x + 1, y, L); if( y > 0 ) Fill(img, labels, x, y - 1, L); if( y < H - 1 ) Fill(img, labels, x, y + 1, L); }

Последовательное сканирование Последовательно, сканируем бинарное изображение сверху вниз, слева направо: if A = O do nothing else if (not B labeled) and (not C labeled) increment label numbering and label A else if B xor C labeled copy label to A else if B and C labeled if B label = C label copy label to A else copy either B label or C label to A record equivalence of labels

Последовательное сканирование Случай конфликта: Постобработка - переразметка с учетом эквивалентностей областей (второй проход в алгоритме)

Выделенные связанные компоненты

Анализ выделенных областей Для дальнейшего анализа требуется вычислить некоторые числовые характеристики (признаки) областей: геометрические признаки фотометрические признаки На основе этих характеристик можно классифицировать получаемые области

Геометрические признаки Для каждой области можно подсчитать некий набор простейших числовых характеристик: Площадь Центр масс Периметр Компактность Ориентацию главной оси инерции Удлиненность (эксцентриситет)

Площадь и центр масс Площадь – количество пикселей в области; Центр масс

Периметр и компактность Компактность – отношение квадрата периметра к площади; Наиболее компактная фигура – круг: Периметр – количество пикселей принадлежащих границе области;

Подсчет периметра области 1.Пиксель лежит на границе области, если он сам принадлежит области и хотя бы один из его соседей области не принадлежит. (внутренняя граница) 2.Пиксель лежит на границе области, если он сам не принадлежит области и хотя бы один из его соседей области принадлежит. (внешняя граница) Периметр зависит также от того 4-х или 8-ми связность используется для определения соседей.

Пример периметров области Область Внутренняя границаВнешняя граница

Операция оконтуривания объекта При работе с бинарными изображениями контуры объекта можно получить с помощью операций математической морфологии Внутреннее оконтуривание C I = A – (A (-) B) Внешнее оконтуривание C O = (A (+) B) – A

Пример оконтуривания объекта

Статистические моменты области Дискретный центральный момент m ij области определяется следующим образом: Центр масс области

Инвариантные характеристики Для распознавания нас интересуют характеристики инвариантные по отношению к масштабированию, переносу, повороту: Удлиненность, нецентрированность (эксцентриситет) Компактность

Ориентация главной оси инерции Не является инвариантной к повороту, но в ряде случаев предоставляет полезную информацию об ориентации объекта: X Y Главная ось Центр масс

Пример Вычисленные значения признаков

Другие признаки Другие инвариантные характеристики области:

Фотометрические признаки Для каждой области можно подсчитать некий набор простейших числовых характеристик: Средняя яркость Средний цвет (если изображение цветное) Гистограмма распределения яркостей (или три гистограммы распределения R, G, B) Дисперсию (разброс) яркостей или цвета Разумеется, все это считается по исходному, а не бинарному изображению!

Как анализировать признаки Пример – ложки и сахар

Как анализировать признаки Как воспользоваться признаками для классификации? Подобрать диапазоны значений для разных классов вручную, экспериментально (может быть весьма трудоемко) Подобрать диапазоны значений графически (нужна база для тренировки, трудно, если признаков много) Обучить классификатор с помощью машинного обучения –На будущих лекциях! –Второе задание!

Ручной подбор Из общих соображений: Ложки более вытянутые, чем сахарные кусочки Ложки больше чем сахарные кусочки Сахарные кусочки квадратные Области появляющиеся из-за шума обычно небольшие и неквадратные Пытаемся сконструировать решающее правило, проверяем экспериментально Может быть весьма утомительно

Графический анализ Собрать тренировочную базу изображений Где только ложки Где только сахар Где только шум Как получить такие? Да просто закрасить все остальное. Брать признаки и строить графики

Графический анализ Диаграмма распределения эксцентриситета (проблема – не получается отличить шум от ложек)

Графический анализ График распределения эксцентриситета и площади (гораздо лучше – можем подобрать значения порогов)

Машинное обучение Причина бурного развития компьютерного зрения в последние годы. Требуются большие коллекции примеров для обучения. Рассмотрим позднее!

На следующей лекции Методы представления изображений Избыточность данных «Компактность» vs «Разреженность» Обработка изображений на основе обучаемых словарей