Семинар "Геометрия и информация"

В информационной геометрии рассматривается множество вероятностных распределений параметризованных точками некоторого многообразия и строятся геометрические структуры на этом многообразии. Например, экспоненциальному семейству распределений соответствует область с двумя системами координат: одна соответствует экспоненциальным параметрам, вторая среднему значению распределения. Кроме того, на этой области строится метрика, являющаяся гессианом функции как относительно первой, так и относительно второй системы координат.

В общей ситуации на многообразии вероятностных распределений строится риманова метрика и пара двойственных относительно этой метрики связностей без кручения. Такой набор из метрики и пары связностей называется статистической структурой на многообразии.

Я расскажу про описанные выше геометрические конструкции и объясню, зачем они нужны с точки зрения статистики.

Основным объектом изучения равновесной статистической физики являются фазовые переходы. Фазовые переходы соответствуют резкому изменению распределения микросостояний при небольшом изменении внешних термодинамических параметров. С математической точки зрения, мера на пространстве микросостояний описывается распределением из экспоненциального семейства, а внешние термодинамические параметры задают e-координаты на соответствующем статистическом многообразии, которое является гессиановым. Термодинамические силы, известные также как средние значения достаточных статистик, задают m-координаты. Свободная энергия системы совпадает с гессиановым потенциалом. В точках фазового перехода свободная энергия испытывает разрыв первых или вторых производных, что приводит к сингулярности гессиановой метрики.
Во многих практических примерах, таких как задача сравнения двух близких наборов изображений, явный вид метрики Фишера неизвестен.
В докладе мы опишем практический алгоритм восстановления гессиановой метрики по семплам из некоторого экспоненциального семейства распределений. В качестве примера мы рассмотрим построение свободной энергии и границ фазовых переходов для двумерной модели Изинга во внешнем поле, а также для модели Totally asymmetric simple exclusion process (TASEP) с открытыми границами.

I. The Main Principe of Organization of the Visual System.

1. Brain as an Information Processing Machine
2. Two approaches to modeling of brain system  -  discrete (Connectome) and continuous ( Neurogeometry)
3. From R. Descartes's reflexes to conditioned  Pavlov’s refexes and D. Hebbian law.
4. Hopfeld model of learning.
5. Boltsmann machine.
6. Topology of the brain. From Zeeman to Blue Brain Project.

II. Principles of construction of visual system.

1. Visual neurons as   filters. Gauss, Marr and Gabor filters
2. Eye as an optical device. Input information on retina.
3. Information  processing in retina.
4. Retinotopic  map  from  retina to  VI  cortex.
5.  Functional  architecture of V1 cortex,  Columnar  architecture of V1 cortex. Simple  and  comptex cells.  Pinwheels.  Internal parameters of Hubel -Wiesel. Hypercolumns.

III.  Neurogeometric models of V1 cortex  and  hypercolumns.

1. Hoffmann- Petitot-Tandut  contact   model.of V1 cortex
2. Sarti-Citti-Petitot  symplectic model   and  SCP  bundle.
3. Bressloff -Cowan   spherical model   of hypercolumns.
4. Principle  of Homogeneity    and  Conformal model of hypercolumns.
5. Geometry of   conformal  sphere.
6. Reduces   conformal model  as  SCP  bundle.

В докладе множество эмбеддингов слов (биграмм, триграмм) естественного языка рассматривается как единый геометрический объект, для которого оцениваются базовые свойства: внутренняя размерность, множество "дырок" ("слепых пятен" языка), фрактальные размерности семантических траекторий литературных текстов языка.