Fisher туралы минималды ақпарат - Minimum Fisher information

Жылы ақпарат теориясы, принципі ең төменгі Fisher ақпараты (MFI) Бұл вариациялық принцип эмпирикалық белгілі күту мәндерін көбейту үшін қажетті шектеулермен қолданған кезде ең жақсысын анықтайды ықтималдықтың таралуы жүйені сипаттайтын. (Сондай-ақ қараңыз) Фишер туралы ақпарат.)

Ақпараттық шаралар

Ақпараттық шаралар (IM) - бұл маңызды құралдар ақпарат теориясы. Олар кез-келген қызығушылық жүйесіне қатысты позитивті ақпараттың немесе бақылаушыда бар «жетіспейтін» ақпараттың мөлшерін өлшейді. Ең танымал IM деп аталады Шеннон-энтропия (1948), ол бақылаушыға бар S жүйесіне қатысты барлық қол жетімді білімдерге ие болу үшін әлі қанша ақпаратты қажет ететіндігін анықтайды, егер ол бар болғанымен ықтималдық тығыздығы функциясы (PD) осындай жүйенің тиісті элементтерінде анықталған. Бұл кейіннен «жетіспейтін» ақпараттық шара. IM тек PD функциясы болып табылады. Егер бақылаушыда мұндай PD жоқ, бірақ жүйенің эмпирикалық анықталған орташа мәндерінің ақырғы жиынтығы болса, онда « Максималды энтропия бірі (MaxEnt) белгілі бір күту мәндерін көбейтіп, әйтпесе Шеннонның IM жылдамдығын арттыратын «ең жақсы» PD деп санайды.

Фишер туралы ақпарат

Фишер туралы ақпарат (FIM), атындағы Рональд Фишер, (1925) - бұл өлшемнің тағы бір түрі, екі жағынан, атап айтқанда,

1) ол бақылаушының ақпаратының (оң) мөлшерін көрсетеді,
2) бұл тек PD-ге ғана емес, сонымен қатар оны жергілікті шамаға айналдыратын қасиетке, оның алғашқы туындыларына байланысты (Шеннонның орнына жаһандық болып табылады).

MaxEnt-тің сәйкес аналогы қазір FIM-минимизация болып табылады, өйткені Фишердің өлшемі Шеннон азайған кезде өседі және керісінше. Мұндағы (MFI) минимизация көптеген пәндерден басталатын маңызды теориялық құрал болып табылады физика. Белгілі бір мағынада ол MaxEnt-тен жоғары, өйткені кейінгі процедура әрқашан шешім ретінде PD экспоненциалды болады, ал MFI шешімі - дифференциалдық теңдеу үлкен икемділік пен жан-жақтылыққа мүмкіндік беретін PD үшін.

МҚҰ қосымшалары

Термодинамика

Фишердің ақпаратты өлшеуіне көп күш жұмсалды, бұл физикалық қосымшаларға көп жарық түсірді.[1][2][3][4][5][6][7][8][9][10][11][12][13][14][15] Кішкентай үлгі ретінде бүкіл өрісті көрсетуге болады термодинамика (екеуі де) тепе-теңдік және тепе-теңдік емес ) МҚҰ тәсілінен шығаруға болады.[16] Мұнда FIM аударма отбасыларының нақты, бірақ маңызды жағдайына мамандандырылған, яғни аударма түрлендірулерінде формасы өзгермейтін тарату функциялары. Бұл жағдайда Фишер шарасы ауысымдық-инвариантты болады. Фишер шарасын осылай азайту а-ға әкеледі Шредингер тәрізді теңдеу ықтималдық амплитудасы үшін, мұнда негізгі күй тепе-теңдік физикасын сипаттайды және қозған күйлер тепе-тең емес жағдайларды есепке алады.[17]

Масштаб-инвариантты құбылыстар

Жақында, Зипф заңы болған кезде МҚҰ-ның вариациялық шешімі ретінде пайда болатындығы көрсетілген ауқымды инварианттық бастап осы заңдылықты алғаш рет түсіндіруге мүмкіндік беретін өлшем енгізілген бірінші қағидалар.[18] Сондай-ақ, ШҚМ-нің орнына масштабты инварианттылыққа негізделген термодинамиканы тұжырымдау үшін қолдануға болатындығы көрсетілген трансляциялық инварианттық, анықтамасына мүмкіндік береді Масштабсыз тамаша газ, масштабының инвариантты баламасы Идеал газ.[19]

Әдебиеттер тізімі

  1. ^ Фриден, Б.Р (2004). Фишер туралы ғылым: унификация. Кембридж, Ұлыбритания: Кембридж университетінің баспасы. ISBN  978-0-521-00911-9. OCLC  53325064.
  2. ^ Фриден, Б.Рой (1989). «Фишер туралы ақпарат Шредингердің теңдеуінің негізі ретінде». Американдық физика журналы. Американдық физика мұғалімдерінің қауымдастығы (AAPT). 57 (11): 1004–1008. дои:10.1119/1.15810. ISSN  0002-9505.
  3. ^ Фриден, Б.Рой (1992). «Фишер туралы ақпарат және белгісіздіктердің бірін-бірі толықтыруы». Физика хаттары. Elsevier BV. 169 (3): 123–130. дои:10.1016/0375-9601(92)90581-6. ISSN  0375-9601.
  4. ^ Б.Р. Фриден, бейнелеу және электрондар физикасындағы жетістіктер кітабында, П.В.Хокс редакциялаған, академик, Нью-Йорк, 1994, т. 90, 123204 бет.
  5. ^ Фриден, Б.Рой (1993). «Экстремизацияланған физикалық ақпарат принципі бойынша таралу заңдарын және физикалық заңдылықтарды бағалау». Physica A: Статистикалық механика және оның қолданылуы. Elsevier BV. 198 (1–2): 262–338. дои:10.1016/0378-4371(93)90194-9. ISSN  0378-4371.
  6. ^ Фриден, Б.Рой; Хьюз, Рой Дж. (1994-04-01). «Экстремизацияланған физикалық ақпараттан алынған спектральды 1 / f шу». Физикалық шолу E. Американдық физикалық қоғам (APS). 49 (4): 2644–2649. дои:10.1103 / physreve.49.2644. ISSN  1063-651X.
  7. ^ Николов, Б .; Фриден, Б.Рой (1994-06-01). «Фишер туралы ақпаратпен энтропияның өсуіне шектеу қойылды». Физикалық шолу E. Американдық физикалық қоғам (APS). 49 (6): 4815–4820. дои:10.1103 / physreve.49.4815. ISSN  1063-651X.
  8. ^ Фриден, Б.Рой (1990-04-01). «Фишер туралы ақпарат, тәртіпсіздік және физиканың тепе-теңдік үлестірімдері». Физикалық шолу A. Американдық физикалық қоғам (APS). 41 (8): 4265–4276. дои:10.1103 / physreva.41.4265. ISSN  1050-2947.
  9. ^ Фриден, Б.Рой; Соффер, Бернард Х. (1995-09-01). «Физиканың лагрангиандары және Фишер-ақпарат беру ойыны». Физикалық шолу E. Американдық физикалық қоғам (APS). 52 (3): 2274–2286. дои:10.1103 / physreve.52.2274. ISSN  1063-651X.
  10. ^ Фриден, Б.Рой (1991). «Фишер туралы ақпарат және Шредингер толқын теңдеуінің күрделі табиғаты». Физиканың негіздері. Springer Nature. 21 (7): 757–771. дои:10.1007 / bf00733343. ISSN  0015-9018.
  11. ^ R. N. Silver, E. T. Jaynes: Физика және ықтималдық, В.Т. Гранди, кіші және Милонни, Кембридж университетінің баспасы, Кембридж, Англия, 1992 ж.
  12. ^ Пластино, А .; Пластино, А.Р .; Миллер, Х.Г .; Ханна, Ф. (1996). «Фишердің ақпараттық өлшемінің төменгі шегі». Физика хаттары. Elsevier BV. 221 (1–2): 29–33. дои:10.1016/0375-9601(96)00560-9. ISSN  0375-9601.
  13. ^ Пластино, А.Р .; Пластино, А. (1996-10-01). «Фоккер-Планк теңдеуінің және уақыттың Фишер-Фриденнің симметриялары». Физикалық шолу E. Американдық физикалық қоғам (APS). 54 (4): 4423–4426. дои:10.1103 / physreve.54.4423. ISSN  1063-651X.
  14. ^ Пластино, А .; Миллер, Х. Г .; Пластино, А. (1997-10-01). «Фоккер-Планк теңдеуіне минималды Kullback энтропиясы». Физикалық шолу E. Американдық физикалық қоғам (APS). 56 (4): 3927–3934. дои:10.1103 / physreve.56.3927. ISSN  1063-651X.
  15. ^ Пластино, А .; Пластино, А.Р .; Миллер, Х.Г. (1997). «Фишер-Фриден-Соффер уақытының көрсеткісі мен Больцман мен Каллбэк энтропиясының мінез-құлқы туралы». Физика хаттары. Elsevier BV. 235 (2): 129–134. дои:10.1016 / s0375-9601 (97) 00634-8. ISSN  0375-9601.
  16. ^ Фриден, Б.Р .; Пластино, А .; Пластино, А.Р .; Soffer, B. H. (1999-07-01). «Фишерге негізделген термодинамика: оның легендалық түрленуі және ойысу қасиеттері». Физикалық шолу E. Американдық физикалық қоғам (APS). 60 (1): 48–53. дои:10.1103 / physreve.60.48. ISSN  1063-651X.
  17. ^ Фриден, Б.Р .; Пластино, А .; Пластино, А.Р .; Соффер, Б. Х (2002-10-22). «Тепе-тең емес термодинамика мен Фишер туралы ақпарат арасындағы Шредингер байланысы». Физикалық шолу E. Американдық физикалық қоғам (APS). 66 (4): 046128. arXiv:cond-mat / 0206107. дои:10.1103 / physreve.66.046128. ISSN  1063-651X.
  18. ^ Эрнандо, А .; Пуигдоменех, Д .; Вилуендас, Д .; Весперинас, С .; Пластино, А. (2009). «Зифф заңы Фишердің вариациялық принципінен». Физика хаттары. Elsevier BV. 374 (1): 18–21. arXiv:0908.0501. дои:10.1016 / j.physleta.2009.10.027. ISSN  0375-9601.
  19. ^ Эрнандо, А .; Весперинас, С .; Пластино, А. (2010). «Фишер туралы ақпарат және масштабты-инвариантты жүйелердің термодинамикасы». Physica A: Статистикалық механика және оның қолданылуы. 389 (3): 490. arXiv:0908.0504. Бибкод:2010PhyA..389..490H. дои:10.1016 / j.physa.2009.09.054.