Начал изучать нейросети...
Хочу услышать любые мысли, советы что почитать по данной теме, а также самые интересные применения нейронных сетей...
В общем пишем по теме...
Как-то делал OCR методами нейросети, не помню правда какой. Сам тогда удивлялся, что оно работало :-)
Вообще программисты часто используют нейросети, даже не догадываясь об этом :-)
Все модели нейросети, реализованные на компьютере заведомо "мертвые" - они растут и тренируются в жестко ограниченных рамках, как железных, так и логических. Мне кажется искусственный интеллект, реализованный на железе должен быть ориентирован под свою "платформу", а тупое копирование структуры мозга и её эмуляция малоэффективны. Самая главная загвоздка - как реализовать интуицию: мозг ведь не просчитывает миллиарды комбинаций при поиске решения, он каким то образом угадывает где искать нужную информацию. Ну и плюс еще один маленький тупичок - в развитии искусственный нервных сетей используется "фитнес-функция", оценивающая успешность полученного решения, которая разрабатывается программистом. Как бы её заставить эволюционировать вместе с остальной сетью ?
Если женщина не права, нужно извиниться и замолчать.
"Самая главная загвоздка - как реализовать интуицию: мозг ведь не просчитывает миллиарды комбинаций
при поиске решения, он каким то образом угадывает где искать нужную информацию." --- Нейросеть с
обучением просчитывает миллиарды комбинаций на первоначальных данных, когда формируется таблица
коэффициентов. Так же как и человек родившись начинает обучаться данным которые поступает из мира
в его мозг формируя мировозрение и к годикам эдак 20 формируется эта табличка
коэффицентов(заметьте к этому времени у человека уже есть какие-то понятия,табу и прочее - все это
регламентирует эта таблица коэффициентов и правила), которая впрочем не жесткая и с годами корректируется, но
не так бурно как в молодости. Что такое нейросеть !? - это полином. Простая нейросеть без обучения
например(x,y возьмем целыми) y=x^2 + 5.3 ... где y- выходной нейрон,x - входной слой, x^2 + 5.3 -
вычислительный слой(x^2 - нейро-функция)
На входном слое данные конвертируются в целые ... вычислительный слой - вычисляет ... выходной слой
делает оценку(числа целые или нет,14.999 представить как 14 или как 15,если надо конвертирует их).
Теперь к нейросети с обучением(то есть сеть кроме нейрофункции еще имеет таблицу коэффицентов) ...
если делать без оптимизатора - то я тут согласен новые уникальные данные поступающие на вход будут
заставлять пересчитывать таблицу коэфф. вновь и вновь просчитывая "милиарды комбинаций" -
напоминает молодость человека .
Пример у=сумма(КnFх) + 5.3 ... Fx - это нейро-функция ... Кn - таблица коэффициентов
y при x=7 должен быть например не 7^2+5.3=54 а 58 например то приходится подбирать коэффициенты так
чтоб 58 получилось. Вот тут "миллиарды" и зарыты.
Нейросеть с обучением и оптимизатором - вот это уже "взрослый" человек. Здесь окромя
математики(формул,системы формул) добавляются правила.
Если нам известно что при х=7 надо получить 58 мы просто так и запишем х=7,а y=58 - вот это и есть
правило(табу, да хоть как назовите)
Пример { х=7,а y=58 || у=сумма(КnFх) + 5.3
Паттерны(шаблон)
Часть входных данных могут быть выделены в паттерн(шаблон,блок) и определены в правило.
Идут данные на вход .... и опа некие входные данные похожи(!) на паттерн. Для ускорения
пересчитывается(масштабируется) только правило,а не вся таблица коэффициентов.
Одно из главных правил нейросетей с обучением входных данных должно быть достаточно(то есть и не
мало, и не много сколько? - определяется экспериментально) и с определенными пределами(например в
примере если вы используете 32-битное знаковое целое то при х > 2^31+1 -- нейросеть будет давать
неверные значения, впрочем если у тоже 32-битное безнаковое то при х=46341 нейросеть будет давать
неверный результат)
Прогноз
Использование нейросетей для прогноза ... а Вы можете сказать какие события с Вами произойдут через
10 сек? через 1 минуту? через 25 лет ???? .... предположить то сможете,но как будет в действительности
...
Увлекался этой штукой пока учился в институте, пока романтика всего Нового еще витала в воздухе.
По ходу учил алгоритмы логики нестабильного результата (с плавающей точкой) и многопоточную логику до 6и каналов логич. потока (для моих мозгов это предел - дальше я просто раскачивался на лестничной клетке взад вперед поджав ноги). Имхо штука в генеральной задумке очень крутая, но нужно грохнуть на это всю жизнь. Если есть желание у меня даже где то валялись старенькие эмуляторы и даже записи остались, пэйпер принт не спрашивать "сжог".
Если хочется построить нейро клетку с обучением в 1поточную логику то сделать это не сложно. Но нужно выяснить задачность. Если воткнем что то неопределенно монохромное, то получим вас же лежащих к примеру на диванчике в выходной и думающим, чем бы себя занять.
*.сразу оговорюсь что нейроклетка это логический блок, который еще не связан в нейросетевую многопоточную логику. Это модель к которой я привык /*все кто мыслит сразу в размерах нейросети с инвариантной безблочной логикой ногами не трогать, я просто тупой и так мыслю */
Если заняться совсем нечем и хочется удивить друзей гиков, то нейро.сети как раз то что нужно для уничтожения мозга. Имхо поражение будет обширным.
Сообщение отредактировал tech.adept: 20 Ноябрь 2010 - 04:58
Все модели нейросети, реализованные на компьютере заведомо "мертвые" - они растут и тренируются в жестко ограниченных рамках, как железных, так и логических. Мне кажется искусственный интеллект, реализованный на железе должен быть ориентирован под свою "платформу", а тупое копирование структуры мозга и её эмуляция малоэффективны. Самая главная загвоздка - как реализовать интуицию: мозг ведь не просчитывает миллиарды комбинаций при поиске решения, он каким то образом угадывает где искать нужную информацию. Ну и плюс еще один маленький тупичок - в развитии искусственный нервных сетей используется "фитнес-функция", оценивающая успешность полученного решения, которая разрабатывается программистом. Как бы её заставить эволюционировать вместе с остальной сетью ?
Ну вот на это и ниже сказанное мною уже уважаемым собеседником, можно попробовать складировать нейромодели в виде рисунков, а потом организовать конкурс на лучшую нейромодель. Про реализацию конечно можно забыть, но порисовать стоит попробовать.
Кстати никто и не вынуждает ограничивать нейро сеть железом. Дай ей инет дисковое пространство и "грамотный алгоритм" 2 слова "задачи/обучение" последовательность неважна. Есть 2 основных придуманные человечеством алгоритма обучения. Можно дать все и пусть ставит задачи, или пусть ставит задачи и обучается походу. 1е ведет к забыванию (фильтрации)/ 2е к той же филтрации но более жесткой, что ведет к однопоточной, логике, что недопустимо в работе не то что сети, а целого блока. (короче американская модель - узкая специализация, как результат замыкание пространственной логики).
Всем привет. Народ, кто возьмётся делать лабораторную работу по нейронной одномерной сети Кохонена? И сколько это будет стоить? Предметная область - автомобили.
Сделать нужно десктопное приложение в Visual Studio 2010 на C# с подробными комментариями в исходнике.