Сучасна диджитал-освіта для дітей — безоплатне заняття в GoITeens ×
Mazda CX 30
×

Кому интересен МатАн (а с иже с ним ЛинАлг и ТеорВер)

В свете периодически возникающих топиков на тему вайти-в-датасайенс, такой вопрос: кто готов как минимум каждые выходные в течение как минимум года изучать Матан, Линейную Алгебру и Теорию Вероятностей?

Под «изучать» понимается, во-первых, читать теорию на весьма высоком (хотя и ориентированном на практику) уровне, а во-вторых решать задачи в качестве упражнения.

В принципе, я подумываю о том, чтоб бесплатно публиковать такой курс онлайн. Пока только подумываю, но опыт есть — так я свое время написал довольно обстоятельное введение в теорию меры Лебега (без нее в quantitative finance сениором не стать), да и в DS она по крайней мере косвенно используется.
yetanotherquant.com/#MeasureTheoryBook

👍ПодобаєтьсяСподобалось0
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Есть предметный разговор по сути топика плюс перспективная благодарная ЦА, близкая к Вашим интересам (портфельный менеджмент). В инете нашел Ваш емейл на гмх.нет. Подтвердите его актуальность либо сообщите е-адрес, куда Вам завтра можно коротко написать.

Кстати, из соседнего топика
dou.ua/forums/topic/27805

Олег Коваленко — Senior Software Engineer прочитал лекцию работе с вещественными числами при программировании инженерного ПО.
Инженер прогнозирует, что в ближайшие 10 лет математика и геометрия будет особенно важны в робототехнике, разработке беспилотных автомобилей и летательных аппаратов, а также в Data science / Data analysis

Я, правда, думаю, что перезказчица малость неточно сформулировала мысль своими словами (вроде, математика в этих областях важна была всегда; временнОй тренд же заключается как раз в том, что благодаря появлению все более мощного железА иногда(далеко не всегда) нет необходимости искать нетривиальное математическое решение, а можно просто тупо брутфорсить).

Сне интересен, но сейчас подвалило житейских тасков (ремонт, ребенок...)что не в этом году точно.

В DS мера Лебега не нужна.
Зачем галерным рабам учить матан для quant finance? Чтобы себя тешить фантазиями ночами под лампой? Они на такие позиции дальше резюме скрининг не пройдут.

В DS мера Лебега не нужна.

А L2-метрика (расстояние в среднем квадратичном) нужна?
А продвинутая теории вероятности нужна?

Зачем галерным рабам учить матан для quant finance?

Это каждый решает для себя. Скажу только, что я сам прошел путь от уебдевелопера до сениор-квонта.

Скажу только, что я сам прошел путь от уебдевелопера до сениор-квонта.

у вас на сайте написано, что вы экономист по образованию и учились на кванта в Германии. Как-то не похоже на среднестатистического галерного раба.

среднестатистического галерного раба

На среднестатистического конечно не похож (и никогда не был), а где тут говорится, что среднестатистические — целевая аудитория?

Галерным рабом тоже не был хотя бы по причине отсутствия галер в Питере в то время.
Но начинал карьеру именно уеб-девелопером — сначала подрабатывал студентом (и да, учился на экономическом), потом фрилансил, потом был в Яндекс.Деньгах (тогда еще PayCash). Этим и заработал на учебу в Германии (при этом до переезда постарался заранее изучить как можно бОльшую часть учебной программы — и оно здорово помогло).

сделайте курс по теории меры и введение в функан. курсов про матан/линал/теорвер в интернете море.

По теории меры — сделал уже :) - ссылка приведена в топике.
yetanotherquant.com/#MeasureTheoryBook
Речь именно о самых основах (а так же interplay вероятностного и аналитического подходов). Стандартных (строго формализованных и нифига непонятных) курсов по теории меры тоже до фига — а вот таких как у меня — мало, а на момент написания (10 лет назад) и вовсе не встречалось.

И чем новый курс будет лучше сотен других на ту же тему. Вот примеры курсов если что: www.coursera.org/...​ne-learning-data-analysis , www.coursera.org/...​-algebra-machine-learning

И чем новый курс будет лучше сотен других на ту же тему

А мы (в первую очередь) об этом говорим?
Или все-таки о том, есть ли желающие изучать предмет? (а по чьим курсам — отдельный разговор)

Выучить-то могут, матан (при грамотном изложении) не сложнее формошлепства.
И даже легче — потому что в формошлепстве концепты устаревают каждые лет 5, а в базовом матане многое и в течение 50 лет остается неизменным (а если и меняется — то больше методически, а не концептуально).

Другое дело, что вопрос «зачем» (который я тут не задавал, но на который многие тут непроизвольно отвечают) тоже оправдан. Вот я и хочу выяснить, есть ли это «зачем» среди (в)ITшников, и достаточно ли оно сильно.

Сообщите, когда выпустите Ваш курс в свет. Интересно.

Пока что, как я уже сказал, вопрос стоит не «когда», а «если» :)
Но для Вас у меня уже кое-что есть — посмотрев Ваш профиль в ФБ, я думаю, Вам будет интересна вот эта статья
letyourmoneygrow.com/...​s-power-compound-returns

Кстати, немного матана там уже есть. И вопрос ко всем, кто проявил энтузиазм — опишите своими словами, как вы понимаете предельный переход, в результате которого непрерывные проценты начисляются по формуле exp(rt)

Функан в quantitative finance редко применяется непосредственно — но он -
Фундамент предмета — от построения винеровского процесса в пр-ве непрерывных функций до исследования полноты рынка (теорема Хана-Банаха). Да и Ито-Интеграл — строится, строго говоря, через индуцирование нормы в Гильбертовом пр-ве.

А вот теория меры Лебега (change of measure) иногда применяется и для расчета конечной цены дериватива. И как раз про этот случай я уже написал тьюториал :)
papers.ssrn.com/...​s.cfm?abstract_id=2001007

Что же касается бино- и триномиальных моделкй — они уже не в моде :). Счас пользуют конечные разности и лимтсквээ монтекарло :)

Пока вопрос не «когда», а «если» :)
Мне нравится энтузиазм, но — как пел Билли Джоел — часто the cold remains of what begins with a passionate start.

Впрочем, начать можем уже сейчас — желающим предлагаю прочитать мой тьюториал про дроби
letyourmoneygrow.com/...​aders-lesson-1-fractions
и прокомментировать его (появился ли свежий взгляд на тему, что понравилось, что нет)

Это пока еще не матан, но наш матан будет строится и на дробях (я планирую начать цикл лекций с построения числового континиума — не увлекаясь деталями, показать общую схему того, как мы пополняем пр-во рациональных чисел (т.е. дробей) до числовой прямой помощью предельного перехода).

Moreover, a prominent mathematician Vladimir Arnold has reported that his Ph.D. students in France did have problems with fractions.

Одна из баек Арнольда. Вообще он фантазер еще тот был.

Вообще он фантазер еще тот был.

Не без этого. Но касательно дробей — я и без Арнольда имел возможность убедиться, что многие — даже окончив немецкий ВУЗ (а в нем со шпоры не спишешь и препода не подмажешь) дроби не понимают.

Я не верю, чтобы у человека уровня PhD такое могло происходить на регулярной основе.
У Арнольда произошла деформация после того, как он однажды приехал в IHES в 60-е (а это был период расцвета школы Гротендика) и с ним там никто не хотел говорить, потому что он не знал что такое пучок. С тех пор от обиды и начали появляться подобные байки.

дроби не понимают

ну не знаю даже, что может значить «понимать дроби». нечего понимать как-бы

нечего понимать как-бы

Как бы даже есть чего.
Например, ПОЧЕМУ при сложении дробей надо сначала привести к общему знаменателю, а при умножении — перемножить числители и знаменатели (ответ «потому что учительница так сказала» не принимается).

потому что указанные правила это не что иное, как конструкция кольца частных коммутативного кольца по его мультипликативному подмножеству (в данном случае кольца целых или его расширений)

потому что указанные правила это не что иное, как конструкция кольца частных коммутативного

Я бы сказал, что это высказывание изоморфно «потому что учительница так сказала». Ибо ясности оба высказывания большинству школьников и студентов не прибавляет.

И кстати, не кольца, а поля (поле — тоже кольцо, но нам интересны все операции арифметики с дробями, поэтому мы и расширяем кольцо целых чисел до поля дробей).

Но по сути все просто — дробь «a / b» и действие «a разделить на b» (a:b) — одно и то же. Действие это надо понимать двояко — как физическое разрезание пирога, так и указание это сделать.
Для понимания умножения дробей полезен именно второй вариант, ибо (a:b)*(c:d) = ab:cd

И кстати, не кольца, а поля

Да в общем-то кольца. Как алгебраист я рассматриваю любые кольца, а не только области целостности.
en.wikipedia.org/...​ion_(commutative_algebra
Кольцо частных поля будет исходным полем, потому что в поле любой ненулевой элемент обратим.

Я бы сказал, что это высказывание изоморфно «потому что учительница так сказала»

ну потому что надо было соответствующие курсы слушать, в частности курс общей алгебры и коммутативную алгебру

ну потому что надо было соответствующие курсы слушать, в частности курс общей алгебры и коммутативную алгебру

Ага, скажи это школьникам, изучающим дроби

Как алгебраист я рассматриваю любые кольца

Да рассматривай на здоровье.
А я рассматриваю те математические конструкции, которые помогают (мне и другим) решать практические задачи в ДС и финансовой математике. Причем уровень математической строгости, которого приходится придерживаться, зависит от задачи (и выбирается на основе опыта).

P.S. Я не против алгебры, но пока что круг практических задач, которые я решаю, позволяет обходиться лишь линейной алгеброй. Хотя в той же финансовой математике в теоретических статьях порой используются, например, полугруппы операторов.

Увы, нет

В туториале не могу понять откуда берется 2 в выражении: (1•10000):(7•10000)=1•10000/7•10000=2/7

Упс, Очепятка. Должно быть, конечно, 1/7. Вечером поправлю

Интересно. С удовольствием инвестирую время в это дело)

Было бы интересно.
Особенно сравнить области применения в DS и ядерной физике))

Это я и без формул объяснить могу — в DS именно те предметы, которые я упомянул в заголовке топика — т.е. в общем-то undergraduate level.

В ЯФ (тут у меня лишь обзорные знания, но тем не менее) ... ну в общем-то, та же линейная алгебра, только матрицы там бесконечного размера, да еще комплЕкснозначные (гильбертово пространство над полем комплексных чисел). Еще теория групп во всю (по простому — поиск симметрии в частицах). И много еще чего другого ... кстати, модель континиума (на которой построен «классический» матан) в ЯФ уже неприминима — Арнольд пишет, что Зельдович в своей замечательной книге именно по этой причине избегал определения производной через предел books.google.de/...​предел континиума&f=false

Вот именно именно их практическое применение и интересно. Все таки достаточно интересно посмотреть, как один и тот же инструмент работает в разных условиях.

С ЯФ мне как раз проще. Все таки почти 9 лет занимаюсь теорией и экспериментами. Там достаточно много особенностей. Например, в некоторых случаях, вполне применима квази-Ньютоновская механика.

Лично мне проще сравнивать не DS, а quantitative finance — и не с ядерной, а так сказать с молекулярной физикой. Ибо знаменитая формула Блэка-Шоулза — это решение уравнения теплопроводности.
И это неслучайно — как молекулы, так и акции движутся хаотически под воздействием многих факторов.
Но в финансах есть еще поправка на риск, поэтому такая на первый взгляд абстрактная теорема Радона-Никодима (Гирсанова) находит вполне экономическое толкование.
В частности, change of measure автивно используется в модели динамики процентной ставки LIBOR — я на эту тему написал в свое время тьюториал
papers.ssrn.com/...​s.cfm?abstract_id=2001007

Более того, у молекул паники не случается, а на бирже — с (а)периодическим постоянством. Поэтому нормальное распределение — не всегда хорошая модель, а значит нам нужны процессы со скачками: Леви процессы. А еще — молекулы не банкротятся, а фирмы — еще как...

Коментар порушує правила спільноти і видалений модераторами.

Матан, линал, теорвер это замшелое, устаревшее и унылое говно. По-настоящему качать могут только высшая теория категорий, производная геометрия и гомологическая зеркальная симметрия.

Коментар порушує правила спільноти і видалений модераторами.

Спасибо, уже выучил. По второму кргу не хочу.

На самом деле, это скорее всего потому, что учили его по учебникам типа Ильина-Позняка — строго, формально верно ... и нихера непонятно почему именно так и откуда вообще ноги растут.

Мне после окончания 239 — физмата, где (несколько раньше) учился и Перельман — тоже не хотелось заниматься математикой от слова совсем. Такая вот у нас была учительница — ну так хуле — 90е — из толковых учителей кто уехал, а кого и на улице убили.
Но потом потихоньку сталкивался с математическими задачами (даже в качестве уебдевелопера), ну а когда познакомился с теорией прайсинга опционов — то вообще загорелся.
И больше всего занимался уже самостоятельно — после получения Msc. in quantitative finance. Все-таки во время учебы есть и обязательные курсы, которые надо сдавать в первую очередь, да и материальный вопрос для студента-иностранца часто стоит остро. А вот когда уже работаешь — там — коль отпахал смену — делай чего хочешь, если желание есть.

Я закончил мехмат с красным дипломом. Зачем мне это ещё раз переучивать? Я это уже знаю.

Зачем мне это ещё раз переучивать?

Ну в общем да, переучивать, наверное, не стоит — тем более что в данном случае речь идет о самых основах. Другое дело, что на мехматах обычно учат Ильино-Позняцким методом (см. выше), поэтому мне лично было интересно после учебы на многие вопросы взглянуть с других сторон. Если конкретно, то пожалуй, самая любопытная деталь была такова: профессор, который собаку съел на оптимизации, читал нам оптимизацию портфеля (по Мертону, не по Марковицу). На мой вопрос, почему решения получаются только для логарифмической и negative power utility вразумительного ответа не последовало. Это уж потом я сам разобрался, что еще в 50х годах Беллман сотоварищи доказали миопичность этих (и только этих) функций полезности.

Кстати, не в качестве доебки-подъебки, а мне действительно интересно:
1. Как вам читали теорию меры Лебега? (рассказывали, с чего Лебег начинал, или сразу по схеме Каратеодори, или как-то еще)?
Был ли пример алгебры, которая не сигма-алгебра и (пре)меры, которая аддитивна, но не счетно-аддитивна? Почему нужно танцевать именно от полукольца, а не какой-то другой структуры? Разницу между борелевской и лебеговской сигма-алгебрами объясняли?
2. Что читали по случайным процессам? Применяли ли там схему Каратеодори (или схожий подход), чтоб построить фильтрацию сигма-алгебр, порожденных процессом?

Как вам читали теорию меры Лебега?

page.mi.fu-berlin.de/...​s_Functional_Analysis.pdf, главы 2-3-4, лекции читал автор. Вроде как пример был, эти вопросы затрагивали.

Что читали по случайным процессам?

Процессов как самостоятельного предмета не было, я промахнулся кафедрой. Только самую малость дискретных случайных в утилитарных целях на портфелях. Это скорее всего было связано с тем что наш потоку особо туго давался теорвер за исключение пары-тройки человек(ибо функан + грозный строгий препод = комбо).

Интересует, готов попробовать.

никому в айти матан не нужен в том числе и в датасайенс — там пишут готовые либы на основе алгоритмов разработаных профессионалами а не просто кодеры прочитавшие матан.
лично меня матан инетесует в связи с интересом к теоретичесмкой физике — в програмировании за мою многолетнюю практику он не пригодился ни разу.

лично меня матан инетесует в связи с интересом к теоретичесмкой физике — в програмировании за мою многолетнюю практику он не пригодился ни разу.

блин, ну сколько можно, от задач же зависит.

там пишут готовые либы на основе алгоритмов разработаных профессионалами а не просто кодеры прочитавшие матан.

может люди этими профессионалами и хотят стать

блин, ну сколько можно, от задач же зависит.

такие задачи попадаются очень редко — доли процента от всех проектов и как правило там используются готовые решения. Точно так же никто не читает Дональда Кнута и не делает сам сортировку пузырьком.

может люди этими профессионалами и хотят стать

это профессионалы -профессионалы в прикладной сфере (математики, инженера, аналитики и т.д.) а не програмисты. Посему вопрос не к этому форуму.

это профессионалы -профессионалы в прикладной сфере (математики, инженера, аналитики и т.д.) а не програмисты

Поправочка: а не программисты украинских галер (собственно, ты сам об этом говоришь

Посему вопрос не к этому форуму.

)
Но ведь не факт, что все вечно хотят оставаться на этом уровне.

уровень тут ни при чем. Речь о тот что проектов требующих серьезного матана очень мало и речь не в том откуда програмисты а в том что алгоритмы требующие матана разрабатывают вообще не програмисты хоть у нас хоть в силиконовой долине.
В свое время успел поработать в одном из «почтовых ящиков» — так вот алгоритмы для полетного задания и всякую там телеметрию разрабатывали отделы где каждый третий был кандидат наук и перед програмистами еще был отдел алгоритмистов которые весь этот матан перекладывали в алгоритмы. И это при том что тогда програмисты были тоже профи а не как сейчас — «шо почитать чтобы стать айтишником?»

Речь о тот что проектов требующих серьезного матана очень мало и речь не в том откуд

Выражаясь математически строго: _согласно_твоему_ жизненному опыту проектов требующих серьезного матана очень мало.
А по моему опыту их вполне достаточно (по крайней мере на Западе) для тех, кто хочет ими заниматься.
Кроме того, даже в «несерьезных» проектах матан бывает иногда нужен.

Сколько лет оутсорсю на запад не встречал ни одного проекта с метаном. . И какой смысл изучать что нужно иногда раз в десять лет. А если понадобится не матан а архитектура или химия будете все изучать на всякий случай¿
К примеру я когда разрабатывал свой проект с бухгалтерией предпочел консультироваться с бухгалтером а не изучал месяцами бухгалтерию. Так же как бухгалтера не лезут изучать программирование чтобы работать с бухгалтерской программой. Каждый должен заниматься своим делом.

Сколько лет оутсорсю на запад не встречал ни одного проекта с метаном

Опять-таки личный опыт и только. Более того, у меня личный опыт другой (а для того чтоб опровергнуть утверждение «матан не нужен» достаточно одного контрпримера).

какой смысл изучать что нужно иногда раз в десять лет

Смысл у каждого свой, и поиск смысла не является целью этого топика*. Его цель — оценить кол-во тех, кто по каким—либо причинам готов серьезно ивестировать силы и время в изучение матана.

*(хотя дискуссии на тему смысла и применимости матана — суть очень информативный контекст).

(а для того чтоб опровергнуть утверждение «матан не нужен» достаточно одного контрпримера).

одного на десятки тысяч проектов недостаточно.

кол-во тех, кто по каким—либо причинам готов серьезно инвестировать силы и время в изучение матана.

кому надо тот и без инвестирования изучит — материалов полный интернет.

очень давно об этом думаю. в принципе готов. нужно немного привести свои дела в порядок и вперед к ds!

если до 3-4 часов на выходные то еще как готов

Балдею от таких вопросов!
Т.е. по Вашему я должен внимательно изучить каждый линк (включая и те, что про hadoop) и сказать, что я (бы) сделал лучше?
Увы, я этого делать не буду (а предложу лишь довольствоваться моими разъяснениями насчет того, что (по отдельным пунктам) не так у классиков типа Хинчина и Фихтенгольца, на плечах которых я стою).

И кроме того, речь не о том, что у меня (могло бы быть) лучше. Речь о том, много ли желающих систематически штудировать МАТчасть. А по моим ли notes или чьим-то другим — это уж следующий вопрос.

посчитать первонахов

Посчитать (а точнее, количественно оценить) — но не их, а несколько других субъектов.

плюсану в участники
где-то совсем глубоко есть бэкграунд прикладного математика, возникали по роду деятельности кейсы, где гугла и вики мало
по букварям ничем не помогу, ибо сейчас Вики куда доходчивее/нагляднее/системнее большинства того ужоса, что был в книгах у нас (а конспекты уже выцвели, поди)

В свое время очень запал как теоретик на идеи Ральфа Винса www.ralphvince.com
Помню зачитал до дыр всю его трилогию Portfolio Management Formulas.
Если вы пересекались с этими книгами, то интересно как считаете насколько жизнеспособны идеи оттуда и пользуется ли народ ими?

Про Винса и его опимальный f я конечно в курсе. Но раз уж Вы зачитали его до дыр, то продуктивнее будет, если Вы (своими словами) кратко подытожите суть его теории (и что Вам лично в ней (не)нравится), а я уж после этого прокомментирую.

Список дедовских книг для серьёзных людей:
Trevor Hastie et al. «The Elements of Statistical Learning»
Vladimir N. Vapnik «The Nature of Statistical Learning Theory»
Christopher M. Bishop «Pattern Recognition and Machine Learning»

Ты их сам проработал с карандашом в руках (или хотя бы внимательно просмотрел)?

Мне тут остается лишь процитировать Классика (А.Я. Хинчин — выдающийся специалист по теорверу и матанализу) —
«Между тем мы часто встречаемся с таким положением, когда инженер, учитель, экономист, в свое время изучавший высшую математику по такому упрощенному курсу, начинает ощущать потребность в расширении и, главное, более прочном обосновании своих математических знаний. Возникает ли эта потребность вследствие тех или других конкретных исследований такого специалиста в его собственной научной области, или она встает как неизбежный плод общего расширения его научного и жизненного горизонта, — независимо от этого она, конечно, должна быть удовлетворена. Казалось бы, это сделать просто: взять какой-нибудь полный курс математического анализа, вроде Гурса или Валле-Пуссена, и штудировать его систематически, опираясь на уже имеющиеся менее солидные и глубокие познания. Однако опыт показывает, что этот представляющийся столь естественным путь почти никогда не приводит к цели и, за редкими исключениями, ведёт к разочарованию, а подчас и парализует дальнейшие попытки в намеченном направлении. Дело в том, что, с одной стороны, наш учащийся, как правило, располагает для той цели, которую он себе поставил, лишь весьма ограниченном количеством времени и систематически проработать большой курс в нескольких томах уже по этой причине лишен возможности. С другой же стороны, — и это, пожалуй, всего важнее, — не имея еще твердой научной базы и не будучи математиком по специальности, он сам, без руководства, не может выделить в изучаемом принципиальных моментов, вынужден уделять поэтому полную долю внимания не имеющим существенного значения мелочам и кончает тем, что теряется в этих мелочах, переставая, так сказать, видеть лес за деревьями. »
urss.ru/...​ng=en&page=Book&id=189796

прежде чем дойти до определения предела целую картину
распишет.

Предел стОит не то что картины — целой галереи. Ибо он — краеугольный камень матана. Вот только у того же Фихтенгольца беда в том, что современный взгляд на предел (сведЕние к пределу последовательности) помещен в конце последнего (3-го) тома как дополнение.
А уж как условный экстремум у него (кстати, у Хинчина тоже) объясняется — это еще та песня.

Ну а вобщем — и Фихтенгольц, и Хинчин — весьма ценные учебники.

Велика подяка за дідівські книжки та .arxiv-sanity!

Я помітив на хакерранку в основному задачі на лінійну регресію, а чи є подібні «збірники задач» на інші розділи ML?

На жаль, там лише random forest з розділу Learn потенційно міг би підійти. Ну або я щось прогледів --- завтра передивлюсь ще раз.

Це МОЖЕ бути цікавим, дуже залежить на якому рівні це буде викладено і якої якості.
Було б доцільно це робити не відразу на рік, а по темам, типу «Вступ у теорію вірогідності» для тих, хто не проходив в універі, сумарно 1-5 годин відео, потім середній рівень де б вже розглядались різні алгоритми, наприклад марковські процеси і т.д. ну і потім вже продвинутий рівень.
Аналогічно з лінійною алгеброю, вступ і операції з векторами і матрицями( і цього буде достатньо 90% людей, що починають роботу з DS ) і потім продвинутий рівень.
З матаном взагалі не дуже зрозуміло, що саме ви там хочете розповідати в рамках вступу до DS, числові ряди, інтеграли і похідні? Цікаво що ще може знадобитися людині, яка не розробляє бібліотеки.

Цікаво що ще може знадобитися людині, яка не розробляє бібліотеки.

Ну хотя бы, чтоб людині, которые эти бібліотеки используют, не удивлялись, чего-й то их алгоритм болтается в р-не локального эскремума и никак не видит глобальные максимумы-минимумы.

Я б тряхнул стариной с удовольствием. Вот только не уверен смогу ли закомититься сразу на целы год.

Підписатись на коментарі