Топ

Feb. 1st, 2027 12:00 am
kaipa: (Default)
Заметки на полях -- это журнал о том, что мне интересно или что интересного случается в жизни. Я рад интересным собеседникам, многих из которых к сожалению потерял во время украинского кризиса, оказавшись с ними по разные стороны информационных баррикад.

Краткий и неполный путеводитель по основным темам.

Научпоп и просто размышления на околоматематические темы (tag математика)

Заметки и размышления о "компьютерной теории" или computer science (tag computer science)

Заметки и размышления о программировании (tag программирование)

Информационные технологии, базы данных и прочее (tag информационные технологии)

Заметки и размышления о мышлении, мозге, принятии решения (tag мышление)

Научпоп (tag биология) (в том числе про эволюцию и происхождение жизни)

Размышления о философии (tag философия) -- в основном о познании и свободе воли, но не только

Заметки или размышления об истории (tag история)

Музыка и о музыке, включая Рахманиновский цикл

Научпоп (физика) )

путешествия )
kaipa: (Default)


Кто отгадает, из чего он и как так получился? Получился случайно, как побочный эффект, но неожиданно красиво.
kaipa: (Default)
Перекликаясь с записью "Потерянное будущее":

"История АПЛ 705-го проекта чрезвычайна характерна для России, вне зависимости от того, зовется ли страна Российской империей, Советским Союзом или Российской Федерацией. Сначала перед проектантами ставят совершенно невыполнимую на данном технологическом уровне задачу. Затем конструкторы находят возможность решить её. Для этого используется целый "букет" инноваций, денег и людей не жалеют, в результате чего появляется элегантная конструкция, опередившая свое время лет на 10 и больше. В реальной эксплуатации непрерывно возникают проблемы, их более или менее творчески решают. Наконец, приходит день, когда конструкция отработана и может начинать получать дивиденды и пожинать лавры. И именно в этот момент "сверху" приходит приказ, сворачивающий все работы по этому направлению как бесперспективные. Лодки 705-го проекта, лунная ракета Королёва Н-3, система "Энергия - Буран", ракетные двигатели на жидком фторе, ядерные реакторы на быстрых нейтронах, самолет Ту-144, экспериментальный ионолет "Ангара", экранопланы... этот список можно продолжать до бесконечности..."

Из "Возвращения к звездам" Сергея Переслегина.
kaipa: (Default)


Это Рахманинов играет свою знаменитую прелюдию. Качество таково, что должно вызывать сильное изумление, но тем не менее историю каждого звука этой записи можно проследить до пальцев композитора. Кажется, я уже однажды писал о Reproducing Piano -- высокотехнологичных устройствах, которые воссоздавали оригинальное исполнение музыканта, считывая ноты и динамику со специальных пиано-катушек (piano rolls). На русский "reproducing piano" обычно переводят как "механическое пианино" ("Неоконченная пьеса для механического пианино" -- это как раз оттуда), но этот перевод неточен и скорее относится ко всему классу "player piano". "Воспроизводящее пианино" более точно передает смысл и не несет отрицательной коннотации "механичности".

Процесс записи был весьма нетривиальным (детали можно почитать, например, тут), и включал в себя помимо собственно записи того, как пианист нажимает клавиши и педали, работу музыкального редактора, который дополнительно кодировал динамику. В 20-30гг XX века это был лучший способ растиражировать фортепианную музыку, и многие американские и не только музыканты охотно записывали ленты.





Read more... )
kaipa: (Default)
Макс Регер -- малоизвестный, я раньше не слышал, немецкий композитор конца XIX начала XX века.



Нельзя не вспомнить знаменитую чакону Баха, но музыка от этого не становится хуже.
kaipa: (Default)
Очень подробные воспоминания пассажира Ту-144. Полет туда и обратно 7го марта 1978г, почти 40 лет назад.



via [livejournal.com profile] periskop
kaipa: (Default)
Андре Превин (ударение на последний слог) больше известен как дирижер и классический пианист. У меня есть его замечательные записи 70х гг вместе с Владимиром Ашкенази -- произведения Рахманинова для двух фортепиано: первая и вторая сюиты, Русская рапсодия и переложение "Танцев". С 1968 по 1979г лет он был дирижером Лондонского Симфонического оркестра, и оставил много отличных записей симфонической музыки оркестра под своим управлением, из которых у меня есть концерты Рахманинова и Прокофьева.

Я был немало удивлен, узнав, что "для души" Превин играет джаз и даже получал за джазовые альбомы "Грэмми". Играет с юности и по сей день, в основном исполняя известные джазовые стандарты с небольшими вкраплениями собственных произведенией

1. Известнейшая вещь "Черное и белое" в исполнении группы Превина, 1953г.



2. In a Sentimental Mood Дюка Элингтона. 1999г

kaipa: (Default)
Несколько лет назад я задавался вопросом, что может аппроксимировать нейронная сеть. Ответ -- "все" -- не был удивительным, но тогда мне было неочевидно, как это сделать практически.

А вот оказывается, существует тип нейронных сетей, объединяемых под общим названием резервуарные вычисления (Reservoir Computing), которые неплохо справляются с этой задачей. Идея простая, и не удивительно, что почти одновременно в конце 90х к ней пришли разные группы исследователей, предложившие модели Echo State Networks, Liquid State Machines и некоторые другие.

Напомню, что классические нейронные сети, прямые и рекуррентные, состоят из входного вектора, нескольких слоев нейронов, соединенных между собой определенным образом, и выходного вектора. Каждый нейрон -- это некоторая функция от линейной комбинации входов (наиболее распространены -- логистическая и линейная, хотя есть и более экзотические варианты). Процесс обучения сети -- это уменьшение ошибки выхода сети по отношению к ожидаемому выхода обучающей выборки. Задача уменьшения или оптимизации решается путем подгонки коэффициентов линейной комбинации на каждом их нейронов при помощи хитрых модификаций градиентного спуска. Когда слоев много (а для сложных нелинейных функций и сетей с памятью их получается немало), то тренировка сети представляет собой сложную задачу.

Резервуарные вычисления предлагают несколько другой способ. Исследователи заметили, что в процессе оптимизации многослойных сетей основная "настройка" идет на конечных слоях. Этому есть математическое обоснование, которого я сейчас касаться не буду. А раз так, то можно попробовать вообще не тренировать внутренние слои, если они имеют достаточно богатый "внутренний мир". Так появился "динамический резервуар" нелинейных нейронов, соединенных между собой случайным разряженным образом. В резервуар есть вход и выход. На выходе простой слой линейных нейронов. То есть резервуар представляет собой большой набор разных нелинейных функций, из которого можно "собрать" (через тренировку выходных нейронов) любую функцию. Если опустить вопрос, чем и как "наполнять" резервуар, то тренировка сети получается очень простая и быстрая. Что также позволяет экспериментировать с объемом, connectivity и прочими параметрами резервуара.

Этот подход имеет много интересных свойств. Например, можно к одному и тому же резервуару присоединять разные выходные слои и таким образом решать разные задачи. То есть сам резервуар гомогенен, не настроен под конкретную задачу, и может быть использован для чего угодно. Исследователи предполагают, что человеческий мозг функционирует похожим образом. Известная пластичность мозга хорошо вписывается в это предположение. Более того, Liquid State Machines и еще одна резервуарная технология Temporal Recurrent Networks были разработаны группами, исследовавшими взаимодействие нейронов в мозгу человека.

В последние годы исследователи научились при помощи различных хитрых трюков и возросших вычислительных мощностей получать на обычных рекуррентных сетях впечатляющие результаты. Но все эти сети узко как правило узко специализированны под конкретную задачу или класс задач и требуют долгой и кропотливой настройки и обучения. Резервуарные вычисления выгодно отличаются своей неспециализированностью и скоростью обучения.

Кстати, хочу отметить, что я поменял свое мнение, что в нейросетях нет математики, никто не понимает, как они работают, и все решается экспериментально. Это впечатление возникает только на популярном уровне. Углубившись в тему, я понял, что с математикой там все хорошо, как и почему работают алгоритмы обучения, какие там есть проблемы, и как их решать исследуется достаточно подробно. Эксперимент, безусловно, остается, но теоретические основы есть и развиваются.
kaipa: (Default)
В догонку к предыдущему еще пара произведений Плетнёва.

1. Вариации на тему Рахманинова. Исполняет Михаил Дубов -- пианист-любитель, основным своим занятием считающим computer science (даже в Гугле успел поработать).



2. Джазовая сюита.

kaipa: (Default)
Спустя почти 8 лет я снова побывал на концерте Константина Лапшина (предыдущий раз вот). Программа была, конечно, совсем другой. Началось с прелюдий и этюдов Скрябина, которые мне понравились, потом несколько мазурок и вальсов Шопена, которые понравились меньше, не хватало легкости. Возможно, виной тому был несколько глуховатый рояль. Но второе отделение было просто великолепным.

Конечно же снова 2я соната Рахманинова, визитная карточка Константина.



И совершенно потрясающее, я раньше не слышал, переложение "Щелкунчика" для фортепиано, выполненное Михаилом Плетнёвым. Это был просто восторг! К сожалению, исполнение Константина я не нашел, но вот отличное исполнение Алексея Володина. Удивительно, как Плетнёву удалось передать оркестровую звуковую палитру используя всего лишь рояль.



После концерта жена набралась смелости и подошла немного поболтать со своим школьным приятелем -- с Костей они вместе учились до 9го класса, после чего он ушел в Гнесинку. Подарила ему своих конфет и договорились поддерживать связь. Может, когда-нибудь заглянет к нам в гости, сыграть на старинном "Розенкранце".
kaipa: (Default)
Юг: «что другие делают мне, то и я делаю другим»
Восток: «как другие не поступают со мной, так и я не поступаю с ними»
Запад: «как я поступаю с другими, так и они могут поступать со мной»
Север: «как я не поступаю с другими, так и им не позволено поступать со мной»

А ведь правда, этические отношения Я-Другие укладываются в эти четыре схемы, довольно четко разнесенные географически (возможно, что впервые это замечено Константином Крыловом)
kaipa: (Default)
На ДР друзья подарили пластинки Жака Лусье, где он исполняет джазовые интерпретации Баха. Интересно и необычно, хотя Бах настолько хорош сам по себе, что интерпретацией его можно только сделать хуже. Салонность ему вредит. Но тем не менее, музыка имеет полное право на существование, и ее нескучно переслушивать. Например.



Но порыскав по ютьюбу, я обнаружил куда более интересную музыку в исполнении трио Люсье -- это интерпретации Эрика Сати. Видимо французские гармонии французу ближе, и получилась совершенно волшебно.

kaipa: (Default)
Наверное, лучший подарок на день рождения придумать было бы трудно. Накануне вечером мы с женой оставили детей бабушке, и впервые за шесть лет без них вдвоем махнули на пару дней в Красную Поляну. Свой пятый десяток я с огромным удовольствием разменял в горах.



За десять лет с нашего предыдущего визита Красная Поляна изменилась кардинально. Но неизменными остались горы, снег, вкусная еда и кавказское гостепреимство.
плюс несколько )

Mirage

Jan. 29th, 2017 11:41 pm
kaipa: (Default)
Что-то на меня второй день как накатило желание слушать старую электроннику. Steve Roach, Vidna Obmana и классическая берлинская школа -- Роберт Шрёдер, Петер Мергенер и патриарх Клаус Шульц. Timewind Шульца у меня есть даже на оригинальном виниле 74г, но по сезону и видеоряду текущему моменту больше подходит альбом Mirage.

kaipa: (Default)
"Туманность Андромеды", "Час быка", "Лезвие бритвы", "Таис Афинская"
- это исследования по теоретической истории и прикладной социологии,
выполненные в художественной форме.


По наводке кого-то из ленты прочитал эссе Сергея Переслегина "Странные взрослые" -- послесловие к романам Ивана Ефремова "Туманность Андромеды" и "Час Быка". Очень интересно. Пересказывать смысла нет, надо читать. И перечитывать Ефремова после этого, так как восприятие романов скорее всего поменяется.
kaipa: (Default)
Бегаю тут иногда по утрам 5км на лыжах. Как-то тяжеловато идет, едва из 28 минут выбегаю. Не на результат бегаю, но отнюдь не прогулочным шагом. Существенно быстрее было бы сложно. Интересно стало, какие нормативы по физкультуре для старшеклассников. На разряд-то я никогда не претендовал, но в школе вроде отличником был.

http://frs24.ru/st/normativ-fizkultura-9-11-klass/

Мама дорогая, неужели дети с ними все еще справляются? Я сейчас хорошо если на трояк сдам. Причем интересно, что по ряду нормативов школьная "пятерка" даже сложнее, чем нормы ГТО (хотя по другим -- проще). С другой стороны, нормы ГТО в моей сегодняшней возрастной группе кажутся не слишком сложными, многие я бы сдал играючи.

А как у вас со спортивными успехами?
kaipa: (Default)
В процессе прохождения онлайн-курса по нейронным сетям посмотрел немного по сторонам и был немало удивлен, что в отечественной науке были и есть даже целые две научные школы (московская и красноярская) с сильными результатами, полученными примерно одновременно с американцами, но имеющими более твердый теоретический фундамент. Когда я интересовался этой темой в конце 90х, мне казалось, что вся наука "там".

В первую очередь тут стоит отметить Александра Ивановича Галушкина, в своей монографии 1974г "Синтез многослойных систем распознавания образов" подытоживший результаты исследований в 60х годах и в том числе обосновавший метод обратного распространения ошибки ("backpropagation" в иностранной литературе) для обучения нейронных сетей. Английская википедия об этом почему-то не знает, упоминая только диссертацию Пола Вербоса того же года. Впрочем, приоритет тут не сильно важен, это я так, на полях. Куда интереснее, на мой взгляд, что подход советской и наследовавшей ей российской школы был более системным. Например, нейронные сети определяются следующим образом: "Нейронные сети – частный вид объекта управления в адаптивной системе с аналитическими методами настройки коэффициентов (адаптации)". Акцент на задачах управления сильно отличается от более современных определений. Отсюда вытекают и другие частные вопросы:
- Какая наиболее эффективная с точки зрения ресурсов функция активации
- Как функции оценки ошибки влияют на скорость сходимости
- Как оценить не только сходимость, но и точность на данной итерации обучения (то есть при ограниченном наборе примеров для обучения оценить точность и надежность для произвольного входа).
и др.
Эти вопросы жизненно важны для задач управления, но не столь существенны для распознавания изображений, речи или предсказательных систем -- типичных примеров применения нейронных сетей сегодня.

Галушкин, к сожалению, в прошлом году умер, до последних дней продолжая заниматься исследованиями в области нейроматематики, публикуя работы и преподавая на Физтехе и в ВШЭ. Он и его группа занимался и сетями с памятью, и сетями переменной топологии -- в общем, на переднем крае. Предисловие к его последней крупной книге "Нейронные сети: основы теории" написал патриарх Лотфи Заде. Хорошее представление о текущем состоянии и перспективах дает статья-доклад 2014г ""О методах настройки многослойных нейронных сетей""

Красноярская научная школа сейчас представлена группой А.Н. Горбаня и Е.М.Миркеса, которые в числе прочего предложили проект стандарта для нейросетевых систем. Причем красноярская школа в большей степени отталкивается от задач динамики химических и биологических систем, для решения которых они и используют аппарат нейронных сетей.
kaipa: (Default)
Итоги прошедшего года подводить как-то банально, поэтому подведу итоги новогодних праздников.

1. Начал курс (прошел первые две недели) по нейронным сетям от университета Торонто. Несмотря на то, что я в общем ориентируюсь в теме и в состоянии технологии на сегодня, мне показалось полезным подвести формальный фундамент. Курс сделано очень добротно, лекции прерываются короткими контрольными вопросами, причем вопросы проверяют не внимательность, а именно понимание материала. В конце каждого недельного блока что-то типа зачета и иногда задание на Octave.

2. Продолжаю заниматься шахматами. За праздники сделал три урока (весь курс -- 192 урока), хотя по-хорошему надо по 4-5 уроков в неделю, но на такой темп времени не хватает. Прогресс в игре с телефоном есть -- перестал проигрывать дебют, и иногда удается обыграть стратегически (то есть наметив далекую цель, к которой приводит цепочка действий, не имеющих видимой краткосрочной угрозы), хотя тактически 2-3 ходовые "зевки" телефон мне регулярно устраивает.

3. Сходил дважды на лыжах, включая сегодняшний морозный день. В первый раз очень устал, сегодня был готов бегать и бегать в полном одиночестве, несмотря на мороз, но решил не форсировать.

4. Младший ребенок (три года с копейками), наконец, поехал на горных лыжах! Это большая радость для нас, так как старший несмотря на регулярные поездки в горы и маниакальные попытки ставить его с двух лет, все еще не катается и не собирается.

5. Посмотрели в женой в кино "Пассажиров" -- понравилось.

6. Возобновил общение с университетскими коллегами по некоторым вопросам вычислительной геометрии. Закралась шальная мысль углубиться в тему и написать статью. Поглядим.
kaipa: (Default)
С большим удовольствием в прямом эфире смотрел чемпионат мира по рапиду и блицу! Блиц очень динамичен, события на доске и в турнирной таблице меняются с огромной скоростью. Карякин хорошо стартовал в начале турнира, потом его догнал и перегнал Карлсен, который до самого последнего тура был на полшага впереди. Все решилось в последней партии. По ходу турнира Карякин также обыграл и Карлсена, вернув ему должок за поражение на тай-брейке в матче за чемпионство в классических шахматах.

В общем, впечатление, что Карякин думает медленно, которое могло сложиться после матча за чемпионство, полностью не соответствует. Он думает быстро и точно. Что и показал чемпионат по блицу.

Отличный подарок к НГ всем болельщикам и любителям шахмат.

P.S. После завершения чемпионского матча несколько недель назад, я решил возобновить регулярную практику шахматами и поставил себе цель в следующие год-два наиграть на первый разряд. Посмотрим, насколько получится. Кто хочет из френдов -- давайте играть на lichess.org.
kaipa: (Default)
Оркестр, уникальный, знаковый, и Доктор Лиза... Её будет не хватать больше всего. Она очень многих успела спасти. Вопреки. Святой Человек.

* * *

Тяжелое испытание для оставшихся. Что бы это не было, случайность или теракт.

Profile

kaipa: (Default)
kaipa

April 2017

S M T W T F S
       1
2345678
9101112131415
16171819202122
23242526272829
30      

Syndicate

RSS Atom

Style Credit

Expand Cut Tags

No cut tags
Page generated Sep. 26th, 2017 06:21 pm
Powered by Dreamwidth Studios