Общий круг задач, решаемых искусственными нейронными сетями

Какие задачи решают нейросети

Нейросети наиболее приспособлены к решению широкого круга задач, так или иначе связанных с обработкой образов. Вот список типичных постановок задач для нейросетей:

Аппроксимация функций по набору точек (регрессия)

Классификация данных по заданному набору классов

Кластеризация данных с выявлением заранее неизвестных классов-прототипов

Сжатие информации

Восстановление утраченных данных

Ассоциативная память

Оптимизация, оптимальное управление

Этот список можно было бы продолжить и дальше. Заметим, однако, что между всеми этими внешне различными постановками задач существует глубокое родство. За ними просматривается некий единый прототип, позволяющий при известной доле воображения сводить их друг к другу.

Возьмем, например, задачу аппроксимации функции по набору точек. Это типичный пример некорректной задачи, т.е. задачи не имеющей единственного решения. Чтобы добиться единственности, такие задачи надо регуляризировать – дополнить требованием минимизации некоторого регуляризирующего функционала.

Обратите внимание
Обратите внимание

Минимизация такого функционала и является целью обучения нейросети. Задачи оптимизации также сводятся к минимизации целевых функций при заданном наборе ограничений.

[/su_box]

С другой стороны, классификация – это ни что иное, как аппроксимация функции с дискретными значениями (идентификаторами классов), хотя ее можно рассматривать и как частный случай заполнения пропусков в базах данных, в данном случае – в колонке идентификаторов класса.

Задача восстановления утраченных данных, в свою очередь – это ассоциативная память, восстанавливающая прообраз по его части. Такими прообразами в задаче кластеризации выступают центры кластеров. Наконец, если информацию удается восстановить по какой-нибудь ее части, значит мы добились сжатия этой информации, и т.д.

Многие представители разных наук, занимающихся перечисленными выше задачами и уже накопившими изрядный опыт их решения, видят в нейросетях лишь перепев уже известных им мотивов. Каждый полагает, что перевод его методов на новый язык нейросетевых схем ничего принципиально нового не дает.

Статистики говорят, что нейросети – это всего лишь частный способ статистической обработки данных, специалисты по оптимизации – что методы обучения нейросетей давно известны в их области, теория аппроксимации функций рассматривает нейросети наряду с другими методами многомерной аппроксимации.

Нам же представляется, что именно синтез различных методов и идей в едином нейросетевом подходе и является неоценимым достоинством нейрокомпьютинга. Нейрокомпьютинг предоставляет единую методологию решения очень широкого круга практически интересных задач.

Это, как правило, ускоряет и удешевляет разработку приложений. Причем, что обычно забывают за неразвитостью соответствующего hardware, но что, видимо, в конце концов сыграет решающую роль, нейросетевые алгоритмы решения всех перечисленных выше задач заведомо параллельны.

Следовательно, все что может быть решено – может быть при желании решено гораздо быстрее и дешевле.

Где применяются нейросети

Важно

Наверное, в каждой предметной области при ближайшем расмотрении можно найти постановки нейросетевых задач. Список областей, где решение такого рода задач имеет практическое значение уже сейчас, приведенный ниже, ограничен лишь опасением утомить читателя. По этой же причине мы ограничились единственным примером конкретного применения в каждой из этих областей.

Экономика и бизнес: предсказание рынков, автоматический дилинг, оценка риска невозврата кредитов, предсказание банкротств, оценка стоимости недвижимости, выявление пере- и недооцененных компаний, автоматическое рейтингование, оптимизация портфелей, оптимизация товарных и денежных потоков, автоматическое считывание чеков и форм, безопасность транзакций по пластиковым карточкам.

    • Программное обеспечение компании RETEK, дочерней фирмы HNC Software, – лидер среди крупных ритейлоров с оборотом свыше $1 млрд. Ее последний продукт января 1998 года Retek Predictive Enterprise Solution включает развитые средства нейросетевого анализа больших потоков данных, характерных для крупной розничной торговли. Он также содержит прогнозный блок, чтобы можно было заранее просчитать последствия тех или иных решений. (http://www.retek.com)

Медицина: обработка медицинских изображений, мониторинг состояния пациентов, диагностика, факторный анализ эффективности лечения, очистка показаний приборов от шумов.

    • Группа НейроКомп из Красноярска (под руководством Александра Николаевича Горбаня) совместно с Красноярским межобластном офтальмологическом центром им. Макарова разработали систему ранней диагностики меланомы сосудистой оболочки глаза. Этот вид рака составляют почти 90% всех внутриглазных опухолей и легко диагностируется лишь на поздней стадии. Метод основан на косвенном измерении содержания меланина в ресницах. Полученные данные спектрофотометрии, а также общие характеристики обследуемого (пол, возраст и др.) подаются на входные синапсы 43-нейронного классификатора. Нейросеть решает, имеется ли у пациента опухоль, и если да, то определяет ее стадию, выдавая, кроме этого, процентную вероятность своей уверенности (http://www.chat.ru/~neurocom/).

Авионика: обучаемые автопилоты, распознавание сигналов радаров, адаптивное пилотирование сильно поврежденного самолета.

    • Компания McDonnell Douglas Electronic Systems разработала автоматический переключатель режимов полета в реальном масштабе времени в зависимости от вида повреждения самолета. Данные от 20 сенсорных датчиков и сигналов от пилота используются нейросетью для выработки около 100 аэродинамических параметров полета. Сильной стороной является возможность сети адаптироваться к непредсказуемым аэродинамическим режимам, таким как потеря части крыла и т.д. (SIGNAL Magazin, февраль 1991)

Связь: сжатие видео-информации, быстрое кодирование-декодирование, оптимизация сотовых сетей и схем маршрутизации пакетов.

    • Нейросети уже продемонстрировали коэффициент сжатия 120:1 для черно-белого видео. Цветное видео допускает примерно вдвое большую степень сжатия 240:1 за счет специальной схемы кодирования цветов. (http://www.ee.duke.edu/~cec/JPL/paper.html)

Интернет: ассоциативный поиск информации, электронные секретари и агенты пользователя в сети, фильтрация информации в push-системах, коллаборативная фильтрация, рубрикация новостных лент, адресная реклама, адресный маркетинг для электронной торговли.

    • Фирма Autonomy отделилась от родительской фирмы Neurodynamics в июне 1996 года с уставным капиталом $45 млн и идеей продвижения на рынок Internet электронных нейросетевых агентов. Согласно ее пресс-релизу, первоначальные вложения окупились уже через год. Компания производит семейство продуктов AGENTWARE, создающих и использующих профили интересов пользователей в виде персональных автономных нейро-агентов. Такие компактные нейро-агенты (

    Источник: https://cyberpedia.su/13x44a3.html

    Решение задач нейронными сетями

    Аннотация: В данной лекции описано несколько базовых задач для нейронных сетей и основных или исторически первых методов настройки сетей для их решения

    Нейронные сети могут все. Но точно также “все” могут машины Тьюринга, интерполяционные многочлены, схемы Поста, ряды Фурье, рекурсивные функции, дизъюнктивные нормальные формы, сети Петри.

    В предыдущей лекции было показано, что с помощью нейронных сетей можно сколь угодно точно аппроксимировать любую непрерывную функцию и имитировать любой непрерывный автомат.

    Это и слишком много – никому не нужен столь широкий класс функций, и слишком мало, так как далеко не все важные задачи ставятся как задачи аппроксимации.

    Другое дело, что в конечном итоге решение практически любой задачи можно описать, как построение некоторой функции, перерабатывающей исходные данные в результат, но такое очень общее описание не дает никакой информации о способе построения этой функции.

    Мало иметь универсальные способности – надо для каждого класса задач указать, как применять эти способности. Именно здесь, при рассмотрении методов настройки нейронных сетей для решения задач должны выявиться реальные рамки их применимости.

    Конечно, такие реальные рамки изменяются со временем из-за открытия новых методов и решений.

    В данной лекции описано несколько базовых задач для нейронных сетей и основных или исторически первых методов настройки сетей для их решения:

    1. Классификация (с учителем) (персептрон Розенблатта [2.1, 2.2, 2.3]).
    2. Ассоциативная память (сети Хопфилда [2.4, 2.5, 2.6, 2.7]).
    3. Решение систем линейных уравнений (сети Хопфилда [2.8]).
    4. Восстановление пробелов в данных (сети Хопфилда).
    5. Кластер-анализ и классификация (без учителя) (сети Кохонена [2.9, 2.10, 2.11, 2.12]).

    Начнем мы, однако, не с сетей, а с систем, состоящих из одного элемента.

    Даже системы из одного адаптивного сумматора находят очень широкое применение. Вычисление линейных функций необходимо во многих задачах. Вот неполный перечень “специальностей” адаптивного сумматора:

    1. Линейная регрессия и восстановление простейших закономерностей [2.13, 2.14];
    2. Линейная фильтрация и адаптивная обработка сигналов [2.15];
    3. Линейное разделение классов и простейшие задачи распознавания образов [2.16, 2.17, 2.18].

    Задача линейной регрессии состоит в поиске наилучшего линейного приближения функции, заданной конечным набором значений: дана выборка значений вектора аргументов x1, …

    , xm, заданы значения функции F в этих точках: F(xi)=fi, требуется найти линейную (неоднородную) функцию, ближайшую к F. Чтобы однозначно поставить задачу, необходимо доопределить, что значит “ближайшую”.

    Наиболее популярен метод наименьших квадратов, согласно которомуищется из условия

    ( 1)

    Необходимо особенно подчеркнуть, что метод наименьших квадратов не является ни единственным, ни наилучшим во всех отношениях способом доопределения задачи регрессии. Его главное достоинство – квадратичность минимизируемого критерия и линейность получаемых уравнений на коэффициенты.

    Явные формулы линейной регрессии легко получить, минимизируя квадратичный критерий качества регрессии. Обозначим

    Найдем производные минимизируемой функции H по настраиваемым параметрам:

    .

    где xij – j -я координата вектора xi.

    Приравнивая частные производные H нулю, получаем уравнения, из которых легко найти все( j=0,…,n ). Решение удобно записать в общем виде, если для всех i=1,…,m обозначитьи рассматривать n +1 -мерные векторы данных xi и коэффициентов. Тогда

    Обозначим p n +1 -мерный вектор с координатами; Q – матрицу размеромс элементами.

    В новых обозначениях решение задачи линейной регрессии имеет вид:

    ( 2)

    Источник: http://www.intuit.ru/studies/courses/2257/141/lecture/20583

    Обзор и анализ нейросетей (стр. 1 из 3)

    Введение

    При современном уровне развития техники, когда даже бытовые приборы оснащаются микропроцессорными устройствами, все более актуальным становится разработка новых систем автоматического управления.

    Но в связи с возрастающей сложностью объектов управления и с увеличением требований к системам управления за последнее десятилетие резко повысилась необходимость в создании более точных, более надежных систем управлении, обладающих большими функциональными возможностями.

    Совет

    Интеллектуальные системы на основе искусственных нейронных сетей (ИНС) позволяют с успехом решать проблемы идентификации и управления, прогнозирования, оптимизации. Известны и другие, более традиционные подходы к решению этих проблем, однако они не обладают необходимой гибкостью и имеют существенные ограничения на среду функционирования.

    Нейронные сети позволяют реализовать любой требуемый для процесса нелинейный алгоритм управления при неполном, неточном описании объекта управления (или даже при отсутствии описания), создавать мягкую адаптацию, обеспечивающую устойчивость системе при нестабильности параметров.

    ИНС могут применяться для различных задач: аппроксимация функций, идентификация, прогнозирование, управление, классификация образов, категоригизация, оптимизация.

    Широкий круг задач, решаемый НС, не позволяет в настоящее время создавать универсальные, мощные сети, вынуждая разрабатывать специализированные НС, функционирующие по различным алгоритмам.

    В данной работе рассматривается возможность применения искусственной нейросети регулятора. Проблема синтеза нейросетевых регуляторов рассматривается с двух позиций, а именно: прямые методы синтеза и косвенные методы синтеза нейросетевых систем управления. В данном случае рассматриваются прямые методы синтеза нейросетевых регуляторах совместно с наблюдающими устройствами.

    1. Обзор и анализ нейросетей

    Искусственные нейронные сети получили широкое распространение за последние 20 лет и позволили решать сложные задачи обработки данных, часто значительно превосходя точность других методов статистики и искусственного интеллекта, либо являясь единственно возможным методом решения отдельных задач.

    Нейронные сети (НС) успешно применяются в самых различных областях – бизнесе, медицине, технике, геологии, физике.

    Такой впечатляющий успех определяется несколькими причинами: НС – исключительно мощный метод моделирования, позволяющий воспроизводить чрезвычайно сложные зависимости; они нелинейные по своей природе и кроме того, нейронные сети справляются с проблемой размерности, которая не позволяет моделировать линейные зависимости в случае большого числа переменных.

    1.1 Свойства нейронных сетей

    Несомненно, что технические средства, построенные на тех же принципах, что и биологические нейронные сети, обладают рядом схожих свойств. К таким свойствам относятся:

    · массовый параллелизм,

    · распределенное представление информации и вычисления,

    · способность к обучению и способность к обобщению,

    · адаптивность,

    · свойство контекстуальной обработки информации,

    · толерантность к ошибкам,

    · низкое энергопотребление.

    Обратите внимание

    Можно выделить основные идеи, лежащие в основе нейронных сетей и нейромоделирования:

     Нейросеть воспроизводит структуру и свойства нервной системы живых организмов: нейронная сеть состоит из большого числа простых вычислительных элементов (нейронов) и обладает более сложным поведением по сравнению с возможностями каждого отдельного нейрона. Нейросеть получает на входе набор входных сигналов и выдает соответствующий им ответ (выходные сигналы нейросети), являющийся решением задачи.

     Искусственная нейросеть, как и естественная биологическая нейронная сеть, может обучаться решению задач: нейросеть содержит внутренние адаптивные параметры нейронов и своей структуры, и меняя их, может менять свое поведение.

     Место программирования занимает обучение, тренировка нейронной сети: для решения задачи не нужно программировать алгоритм.

     Нейронная сеть обучается решению задачи на некотором “учебнике” − наборе ситуаций, каждая из которых описывает значения входных сигналов нейросети и требуемый для этих входных сигналах ответ. “Учебник” задает набор эталонных ситуаций с известными решениями, а нейронная сеть при обучении сама находит зависимости между входными сигналами и ответами.

    Аппаратная реализация ИНС – нейрокомпьютер – имеет существенные отличия (как по структуре, так и по классу решаемых задач) от вычислительных машин, выполненных в соответствии с традиционной архитектурой фон Неймана. Сравнительные характеристики нейрокомпьютеров и традиционных компьютеров и традиционных компьютеров приведены в таблице 1.1

    Таблица 1.1 Сравнительные оценки традиционных ЭВМ и нейрокомпьютеров.

    1.2 Области применения нейронных сетей

    Искусственные нейронные сети в настоящее время широко используются при решении самых разных задач и активно применяются там, где обычные алгоритмические решения оказываются неэффективными или вовсе невозможными.

    В числе задач, решение которых доверяют искусственным нейронным сетям, можно назвать следующие: распознавание текстов, системы безопасности и видео-наблюдения, автоматизация процессов распознавания образов, адаптивное управление, аппроксимация функционалов, прогнозирование – и это далеко не все. С помощью нейросетей можно выполнять распознавание оптических или звуковых сигналов.

    Аппаратные реализации ИНС идеально подходят для решения задач идентификации и управления, так как обеспечивают, благодаря параллельной структуре, чрезвычайно высокую скорость выполнения операций.

    Описанные возможности в основном относятся к слоистым нейронным сетям, обучаемым алгоритмом обратного распространения, и растущим нейронным сетям на основе вариантов алгоритма каскадной корреляции.

    Но существуют и другие классы нейронных сетей − нейросети ассоциативной памяти, нейросети для квантования данных, сжатия данных путем построения главных независимых компонент, нейронные сети для разделения смеси сигналов и др. Т.е.

    круг задач, решаемых нейронными сетями, очень и очень широк, поскольку широк и сам набор нейросетевых алгоритмов.

    1.3 Классификация нейронных сетей

    Существует широкий спектр достаточно универсальных способов организации инструментальных средств и собственно процесса применения нейронных сетей на различной программно-аппаратной базе. Всегда можно подобрать наиболее оптимальный для некоторой задачи − всё определяется свойствами задачи и требованиями к решению.

    Однако применение нейросетей осложняется рядом причин. Нельзя придумать какую то одну универсальную ИНС, которая бы подошла для различных типов задач. Нейросети используют в двух вариантах:

    1) Строится нейросеть, решающая определенный класс задач,

    2) Под каждый экземпляр задачи строится некоторая нейросеть, находящая квази-оптимальное решение этой задачи.

    Важно

    Существуют несколько видов нейросетей. Их классификация представлена на рисунке 1.1

    Рисунок 1.1 Классификация ИНС

    Наиболее распространенным семейством сетей прямого действия являются многослойные персептроны, в них нейроны расположены слоями и соединены однонаправленными связями, идущими от входа к выходу сети. Сети прямого действия являются статическими в том смысле, что на заданный вход они вырабатывают одну совокупность выходных значений, не зависящих от предыдущего состояния сети.

    Рекуррентные сети являются динамическими, так как в силу обратных связей в них модифицируются входы нейронов, что приводи к изменению состояния сети.

    Поведение рекуррентных сетей описывается дифференциальными или разностными уравнениями, как правило, первого порядка. Это гораздо расширяет области применения нейросетей и способы их обучения.

    Сеть организована так, что каждый нейрон получает входную информацию от других нейронов, возможно, и от самого себя, и от окружающей среды.

    Так же можно выделить два основных подхода к реализации нейросетей: цифровой и аналоговый. Преимуществом аналоговых реализаций являются: высокое быстродействие, надежность и экономичность. Однако сфера возможного массового использования обучаемых аналоговых нейрочипов достаточно узка.

    Это обусловлено большой сложностью аппаратной реализации высокоэффективных обучающих алгоритмов и необходимостью специальной подготовки потенциальных пользователей для оптимальной организации адаптивного процесса.

    В то же время широкое распространение могут получить обученные аналоговые нейрокомпьютеры (нейросети) с фиксированной или незначительно подстраиваемой структурой связей – нейропроцессоры.

    Совет

    Задача создания нейропроцессоров сводится к обучению цифровой нейросетевой модели нужному поведению на обычном цифровом компьютере.

    Сети также можно классифицировать по числу слоев.

    В этом случае важную роль играет нелинейность активационной функции, так как, если бы она не обладала данным свойством или не входила в алгоритм работы каждого нейрона, результат функционирования любой n -слойной нейронной сети сводился бы к перемножению входного вектора сигналов φ на матрицу весовых коэффициентов. То есть фактически такая нейронная сеть эквивалентна однослойной нейросети с весовой матрицей единственного слоя W . Кроме того, нелинейность иногда вводится и в синаптические связи.

    Источник: http://MirZnanii.com/a/113680/obzor-i-analiz-neyrosetey

    Лекция 1

    Доступность и возросшие вычислительные возможности современных компьютеров привели к широкому распространению программ, использующих принципы нейросетевой обработки данных, о которых мы поговорим подробнее в следующих разделах, но исполняемых на последовательных компьютерах. Этот подход не использует преимуществ присущего нейро-вычислениям параллелизма, ориентируясь исключительно на способность нейросетей решать неформализуемые задачи.<\p>

    Преимущества таких “виртуальных” нейрокомпьютеров для относительно небольших задач очевидны:

      Во-первых, не надо тратиться на новую аппаратуру, если можно загрузить уже имеющиеся компьютеры общего назначения.

      Во-вторых, пользователь не должен осваивать особенности программирования на спец-процессорах и способы их сопряжения с базовым компьютером.

      Наконец, универсальные ЭВМ не накладывают никаких ограничений на структуру сетей и способы их обучения, тогда как спец-процессоры зачастую имеют      ограниченный набор “зашитых” в них функций активации и достигают пиковой производительности лишь на определенном круге задач.

    Таблица 1. Секторы рынка нейросетевых программных продуктов

    Сегмент рынка нейро-продуктов Преимущества продукции Недостатки продукции
    Нейро-пакеты общего назначения Не требуют самостоятельного программирования, легко осваиваются, инструмент быстрого и дешевого решения прикладных задач Не способны к расширению, не способны генерировать отчуждаемые приложения, не могут использоваться для разработки сложных систем или их подсистем
    Системы разработки нейроприложений Могут использоваться для создания сложных систем обработки данных в реальном времени (или их подсистем) Требуют навыков программирования, более глубокого знания нейросетей
    Готовые решения на основе нейросетей Не предполагают знакомства пользователя с нейросетями, предоставляют комплексное решение проблемы Как правило – дорогое удовольствие
    Нейро-консалтинг Не предполагает участия пользователя в получении прогнозов, потенциальная дешевизна услуг Нет возможности дополнить предсказания своим know how. Доступность конфиде-нциальной информации

    В общем, если речь идет не о распознавании изображений в реальном времени или других приложениях такого рода, а, скажем, об обработке и анализе обычных баз данных, не имеет особого смысла связываться с нейро-ускорителями. Скорее всего, производительности хорошей PC окажется вполне достаточно.

    Поскольку большинство финансовых применений относится пока имено к этому классу задач, мы будем ориентировать нашего читателя на использование нейро-эмуляторов.

    Несколько условно нейро-software можно разделить на готовые нейро-пакеты общего назначения, более дорогие системы разработки нейроприложений, обладающие большими возможностями, но требующие и больших знаний, и, наконец, готовые комплексные решения с элементами нейросетевой обработки информации, обычно скрытыми от глаз пользователя.

    Нейрокомпьютеры и их программные эмуляторы, естественно, интересны не сами по себе, а как инструмент решения практических задач. Только в этом случае нейропродукция будет обладать потребительской стоимостью и иметь соответствующий объем рынка. Где же и как используется нейросетевая продукция сегодня?

    Нейросети наиболее приспособлены к решению широкого круга задач, так или иначе связанных с обработкой образов. Вот список типичных постановок задач для нейросетей:

      Аппроксимация функций по набору точек (регрессия)

      Классификация данных по заданному набору классов

      Кластеризация данных с выявлением заранее неизвестных классов-прототипов

      Сжатие информации

      Восстановление утраченных данных

      Ассоциативная память

      Оптимизация, оптимальное управление

    Этот список можно было бы продолжить и дальше. Заметим, однако, что между всеми этими внешне различными постановками задач существует глубокое родство. За ними просматривается некий единый прототип, позволяющий при известной доле воображения сводить их друг к другу.

    Возьмем, например, задачу аппроксимации функции по набору точек. Это типичный пример некорректной задачи, т.е. задачи не имеющей единственного решения. Чтобы добиться единственности, такие задачи надо регуляризировать – дополнить требованием минимизации некоторого регуляризирующего функционала.

    Обратите внимание
    Обратите внимание

    Минимизация такого функционала и является целью обучения нейросети. Задачи оптимизации также сводятся к минимизации целевых функций при заданном наборе ограничений.

    [/su_box]

    С другой стороны, классификация – это ни что иное, как аппроксимация функции с дискретными значениями (идентификаторами классов), хотя ее можно рассматривать и как частный случай заполнения пропусков в базах данных, в данном случае – в колонке идентификаторов класса.

    Задача восстановления утраченных данных, в свою очередь – это ассоциативная память, восстанавливающая прообраз по его части. Такими прообразами в задаче кластеризации выступают центры кластеров. Наконец, если информацию удается восстановить по какой-нибудь ее части, значит мы добились сжатия этой информации, и т.д.

    Многие представители разных наук, занимающихся перечисленными выше задачами и уже накопившими изрядный опыт их решения, видят в нейросетях лишь перепев уже известных им мотивов. Каждый полагает, что перевод его методов на новый язык нейросетевых схем ничего принципиально нового не дает.

    Статистики говорят, что нейросети – это всего лишь частный способ статистической обработки данных, специалисты по оптимизации – что методы обучения нейросетей давно известны в их области, теория аппроксимации функций рассматривает нейросети наряду с другими методами многомерной аппроксимации.

    Нам же представляется, что именно синтез различных методов и идей в едином нейросетевом подходе и является неоценимым достоинством нейрокомпьютинга. Нейрокомпьютинг предоставляет единую методологию решения очень широкого круга практически интересных задач.

    Это, как правило, ускоряет и удешевляет разработку приложений. Причем, что обычно забывают за неразвитостью соответствующего hardware, но что, видимо, в конце концов сыграет решающую роль, нейросетевые алгоритмы решения всех перечисленных выше задач заведомо параллельны.

    Следовательно, все что может быть решено – может быть при желании решено гораздо быстрее и дешевле.

    Важно

    Наверное, в каждой предметной области при ближайшем расмотрении можно найти постановки нейросетевых задач. Список областей, где решение такого рода задач имеет практическое значение уже сейчас, приведенный ниже, ограничен лишь опасением утомить читателя. По этой же причине мы ограничились единственным примером конкретного применения в каждой из этих областей.

      Экономика и бизнес: предсказание рынков, автоматический дилинг, оценка риска невозврата кредитов, предсказание банкротств, оценка стоимости недвижимости, выявление пере- и недооцененных компаний, автоматическое рейтингование, оптимизация портфелей, оптимизация товарных и денежных потоков, автоматическое считывание чеков и форм, безопасность транзакций по пластиковым карточкам.

      • Программное обеспечение компании RETEK, дочерней фирмы HNC Software, – лидер среди крупных ритейлоров с оборотом свыше $1 млрд. Ее последний продукт января 1998 года Retek Predictive Enterprise Solution включает развитые средства нейросетевого анализа больших потоков данных, характерных для крупной розничной торговли. Он также содержит прогнозный блок, чтобы можно было заранее просчитать последствия тех или иных решений. (http://www.retek.com)

      Медицина: обработка медицинских изображений, мониторинг состояния пациентов, диагностика, факторный анализ эффективности лечения, очистка показаний приборов от шумов.

      • Группа НейроКомп из Красноярска (под руководством Александра Николаевича Горбаня) совместно с Красноярским межобластном офтальмологическом центром им. Макарова разработали систему ранней диагностики меланомы сосудистой оболочки глаза. Этот вид рака составляют почти 90% всех внутриглазных опухолей и легко диагностируется лишь на поздней стадии. Метод основан на косвенном измерении содержания меланина в ресницах. Полученные данные спектрофотометрии, а также общие характеристики обследуемого (пол, возраст и др.) подаются на входные синапсы 43-нейронного классификатора. Нейросеть решает, имеется ли у пациента опухоль, и если да, то определяет ее стадию, выдавая, кроме этого, процентную вероятность своей уверенности (http://www.chat.ru/~neurocom/).

      Авионика: обучаемые автопилоты, распознавание сигналов радаров, адаптивное пилотирование сильно поврежденного самолета.

      • Компания McDonnell Douglas Electronic Systems разработала автоматический переключатель режимов полета в реальном масштабе времени в зависимости от вида повреждения самолета. Данные от 20 сенсорных датчиков и сигналов от пилота используются нейросетью для выработки около 100 аэродинамических параметров полета. Сильной стороной является возможность сети адаптироваться к непредсказуемым аэродинамическим режимам, таким как потеря части крыла и т.д. (SIGNAL Magazin, февраль 1991)

      Связь: сжатие видео-информации, быстрое кодирование-декодирование, оптимизация сотовых сетей и схем маршрутизации пакетов.

      • Нейросети уже продемонстрировали коэффициент сжатия 120:1 для черно-белого видео. Цветное видео допускает примерно вдвое большую степень сжатия 240:1 за счет специальной схемы кодирования цветов. (http://www.ee.duke.edu/~cec/JPL/paper.html)

      Интернет: ассоциативный поиск информации, электронные секретари и агенты пользователя в сети, фильтрация информации в push-системах, коллаборативная фильтрация, рубрикация новостных лент, адресная реклама, адресный маркетинг для электронной торговли.

      • Фирма Autonomy отделилась от родительской фирмы Neurodynamics в июне 1996 года с уставным капиталом $45 млн и идеей продвижения на рынок Internet электронных нейросетевых агентов. Согласно ее пресс-релизу, первоначальные вложения окупились уже через год. Компания производит семейство продуктов AGENTWARE, создающих и использующих профили интересов пользователей в виде персональных автономных нейро-агентов. Такие компактные нейро-агенты (

      Источник: http://pca.narod.ru/lecture1.htm

      Искусственные нейронные сети Решение задачи распознавания образов

      Искусственные нейронные сети Решение задачи распознавания образов

      Сравнение архитектуры компьютера и возможностей биологической нейронной системы

      Естественная нейронная сеть Человечески й мозг – естественная нейронная сеть. • 1011 нейронов (нервных клеток); • 1015 передающих связей (нервных волокон, соединяющих нейроны друг с другом); • Решение сложных интеллектуальных задач (распознавание образов, ассоциативная память и т. д. ).

      Биологический нейрон

      Искусственный нейрон

      Как работает искусственный нейрон? С каждого входа поступает сигнал (значение переменной); Сигнал умножается на вес соответствующе й связи; Все произведения вес*значение входа складываются; От полученной суммы берется некоторая функция (функция активации); Полученный результат обрабатывается или передается дальше.

      Функция активации Виды активационных функций: а) единичного скачка; б) линейного порога; в) гиперболический тангенс; г) сигмоид.

      Важно

      Что это нам дает? Линейно разделяемое пространство возможных значений; Распараллеливание вычислений (все делится на простейшие операции суммы-произведения); Возможность обучения (на примерах или самообучение) посредствам регулирования весовых коэффициентов связей; Решение большого числа сложных задач.

      Решение логических задач с помощью одного нейрона, проблема линейно неразделяемых пространств Решение задачи логического И (ИЛИ); Решение задачи XOR. X Y X&Y X XOR Y 0 0 0 0 1 1 1 0 0 1 1 1 1 0

      Обход проблемы линейной неделимости пространства При использовании многослойной нейронной сети проблему линейной неделимости можно решить. Промежуточный слой (слои) многослойной нейронной сети позволяют преобразовать исходное пространство признаков в линейно разделяемое пространство.

      Виды нейронных сетей Однослойные; Многослойные; Рекуррентные (с обратными связями); Сети со специфической архитектурой (самоорганизующиеся карты Кохонена, RBF-сети, и т. д. ).

      Однослойная сеть

      Многослойная сеть

      Рекуррентная сеть

      Дополнительная классификация архитектур нейронных сетей количество слоев: – однослойные; – многослойные; наличие обратных связей: – прямого распространения; – рекуррентные; полнота связей: – полносвязные; – неполносвязные; однородность активационной функции для нейронов: – гомогенные; – гетерогенные; вид активационной функции: – единичного скачка; линейного порога; сигмоид; гиперболический тангенс; другие; вид результата: – бинарные; – аналоговые.

      Обучение нейронных сетей Основные парадигмы обучения: С учителем (нейронной сети подаются пары: входные данные + правильный ответ и в процессе обучения весовые коэффициенты настраиваются таким образом, чтобы сеть получала правильный ответ на заданный вход); Без учителя (нейронной сети подаются только входные данные, а весовые коэффициенты настраиваются автоматически таким образом, чтобы решить поставленную перед сетью задачу); Смешанная.

      Алгоритмы обучения подбираются под определенные архитектуры нейронных сетей, хотя есть и общие алгоритмы для разных архитектур. Правило коррекции ошибок; Алгоритм обратного распространения ошибки; Обучение Больцмана; Правило Хебба; Обучение методом соревнований; И др.

      Алгоритм обратного распространения ошибки Суть алгоритма: Получение выходного сигнала; Вычисление вектора градиента поверхности ошибки; Распространение сигнала об ошибке в обратном направлении; Минимизация вектора градиента поверхности ошибки; Т. к. в алгоритме применяется «метод градиентного спуска» , то при расчетах используются производные функций активации, поэтому для данного алгоритма подходят только непрерывные функции активации (гиперболический тангенс, сигмоид и др. )

      Совет

      Алгоритм обратного распространения ошибки Выбор функции активации. Чаще всего в данном алгоритме применяется функция: Сигмоид. Функция: Производная:

      Алгоритм обратного распространения ошибки Алгоритм: Шаг 1. Подать на входы сети один из возможных учебных образцов и рассчитать результат. Шаг 2. Рассчитать (N) для выходного слоя по формуле (1) Шаг 3.

      Рассчитать по формулам (2) (n) для всех остальных слоев, n=N-1, . . . 1. Шаг 4. Рассчитать по формуле (3) или (4) изменения весов w(N) слоя N. Шаг 5. Скорректировать все веса в НС по формуле (5) Шаг 6.

      Если ошибка сети существенна, перейти на Шаг 1. В противном случае – конец.

      Алгоритм обратного распространения ошибки Остановка алгоритма: 1) Изучение одного образца: Кол-во итераций; Суммарная ошибка всех нейронов сети меньше определенного числа; Средняя ошибка всех нейронов сети меньше определенного числа; Среднее изменение весовых коэффициентов за последний шаг меньше определенного числа.

      2) Изучение партии образцов: Кол-во итераций (общее); Суммарная ошибка всех нейронов сети меньше определенного числа (для всех образцов партии); Средняя ошибка всех нейронов сети меньше определенного числа (для всех образцов партии); Среднее изменение весовых коэффициентов за последний шаг меньше определенного числа (для всех образцов партии); Нейронная сеть правильно определяет определенный процент исходных образцов.

      Задачи, решаемые нейронными сетями Распознавание образов; Кластеризация; Аппроксимация функций; Прогнозирование; Управление; Сжатие данных; Ассоциативная память.

      Применение нейронных сетей Биология (медицина); Энергетика; Робототехника; Радары (цифровые измерительные приборы); Космические аппараты (спутники, луноходы и т. д. ); Нефтегазодобывающая промышленность (элементы программ, моделирующих залежи или переток жидкостей).

      Задача распознавания образов Обобщенная постановка задачи: Даны несколько классов (кошки, собаки, рыбы); В каждом классе известен некоторый набор объектов; Для всех объектов определен перечень признаков (рост, вес, цвет, запах, вкус и т. д.

      ); Признаки одинаковы для всех классов, различаются только значения признаков в конкретных объектах классов; Дан контрольный объект с известными значениями признаков; Необходимо определить к какому из заданных классов относится данный объект.

      Обратите внимание

      Решение задачи распознавания образов с помощью нейронной сети Количество входов сети = количеству признаков; Количество выходов сети (нейронов на последнем слое) = количеству классов; Веса задаются произвольно; На вход подается некоторый объект (задаются значения признаков объекта как значения каждого входа сети); После прямого прохода определяется значения нейронов последнего слоя; Определяется какой нейрон получил наибольшее значение – тогда класс, за который отвечал данный нейрон считается искомым классом переданного объекта; При несоответствие полученного класса с правильным запускается алгоритм обучения; После правильного различения всех исходных объектов сеть считается обученной и способна в дальнейшем решать эту задачу самостоятельно.

      Учебная задача распознавания Даны закодированные значения цифр (изображения, переведенные в сигналы 0, 1 7*9 точек)

      Учебная задача распознавания Данные приведены в файлах 0000000 0111110 0000010 0111110 0100000 0111110 0000000 Исходная картинка приведена в строчку: 00001111100000010011111001000000111110000

      Учебная задача распознавания Необходимо написать программу, на основе нейронной сети, позволяющую распознавать минимум 3 -и цифры (1, 2, 3). Дополнительные баллы: – Возможность задавать кол-во слоев, нейронов на слоях и т. д. ; – Распознавание всех цифр (от 0 до 9); – Прочие «бантики» .

      Источник: http://present5.com/iskusstvennye-nejronnye-seti-reshenie-zadachi-raspoznavaniya-obrazov/

Ссылка на основную публикацию
Adblock
detector