به ندرت می توان این انتظار (یعنی انتگرال) را به صورت تحلیلی محاسبه کرد - در بیشتر موارد ، ما باید به روشهای تقریب مونت کارلو متوسل شویم ، که صریحاً به نسبت چگالی نیاز دارد. در مورد شدیدتر که این نسبت چگالی در دسترس نیست ، زیرا یا یا هر دو $ P (x) $ و $ q (x) $ قابل محاسبه نیستند ، ما باید به روش هایی برای برآورد نسبت چگالی متوسل شویم. در این پست ، ما نحوه انجام تخمین نسبت چگالی را با بهره برداری از مکاتبات محکم آن به طبقه بندی احتمالی نشان می دهیم.

مثال: گاوسی تک متغیره

بگذارید توزیع های یک متغیره گاوسی زیر را به عنوان نمونه در حال اجرا برای این پست در نظر بگیریم.

$ $ p (x) = mathcal (x mid 1 ، 1^2) ، qquad text qquad q (x) = mathcal (x mid 0 ، 2^2).$ $

ما در طول این پست از tensorflow ، احتمال tensorflow و کراس در قطعه های کد استفاده خواهیم کرد.

ما ابتدا توزیع ها را فوری می کنیم:

تراکم آنها در زیر نشان داده شده است:

برای هر جفت توزیع ، ما می توانیم عملکرد نسبت چگالی آنها را به شرح زیر اجرا کنیم:

بیایید عملکرد نسبت چگالی را برای توزیع های گاوسی که ما فقط از آن استفاده کردیم ایجاد کنیم:

این عملکرد نسبت چگالی به عنوان خط نقطه نارنجی در زیر ترسیم شده است ، در کنار تراکم فردی که در طرح قبلی نشان داده شده است:

فرم تحلیلی

برای مثال در حال اجرا ، ما $ p (x) $ و $ q (x) $ را به عنوان گاوسی انتخاب کردیم تا امکان ادغام x $ $ و محاسبه واگرایی KL به صورت تحلیلی فراهم شود. وقتی بعداً روشهای تقریبی را معرفی می کنیم ، این یک "استاندارد طلا" برای معیار در برابر ما فراهم می کند.

به طور کلی ، برای توزیع گاوسی

$ $ p (x) = mathcal (x mid mu_p ، sigma_p^2) ، qquad text qquad q (x) = mathcal (x mid mu_q ، sigma_q^2) ، $ $ $به راحتی می توان تأیید کرد که $ $ mathrm [p (x) ||q (x)] = log sigma_q - log sigma_p - frac سمت چپ [1 - سمت چپ ( frac راست) راست].$ $

این در زیر اجرا شده است:

ما می توانیم از این برای محاسبه واگرایی KL بین P (x) $ و $ q (x) $ استفاده کنیم:

به طور معادل ، ما همچنین می توانیم از Kl_divergence از احتمال Tensorflow-Distributions (tfp. distributions) استفاده کنیم ، که بیان تحلیلی بسته از واگرایی KL بین توزیع ها را در صورت وجود اجرا می کند.

برآورد مونت کارلو - توزیع تجویز شده

برای توزیع هایی که واگرایی KL آنها از نظر تحلیلی قابل استفاده نیست ، ممکن است ما به تخمین مونت کارلو (MC) متوسل شویم:

بدیهی است ، این به نسبت چگالی $ r^(x) $ و به نوبه خود ، تراکم $ p (x) $ و $ q (x) $ نیاز دارد تا از نظر تحلیلی قابل استفاده باشد. توزیع هایی که عملکرد چگالی برای آنها به راحتی قابل ارزیابی است ، گاهی اوقات به عنوان توزیع های تجویز شده گفته می شود. مانند گذشته ، ما توزیع های گاوسی را در مثال در حال اجرا تجویز کردیم تا تخمین مونت کارلو بعداً در برابر آن مقایسه شود. ما واگرایی KL آنها را با استفاده از نمونه های $ M = 5000 $ Monte Carlo به شرح زیر تقریب می دهیم:

یا به طور معادل ، با استفاده از عملکرد انتظار از احتمال TensorFlow - Monte Carlo (tfp. monte_carlo):

به طور کلی ، ما می توانیم با تخمین MC ، هر $ $-divergence را تقریبی کنیم:

$ $ شروع mathcal_f [p (x) ||q (x)] & = mathbb_ [f (r^(x))] newline & تقریبی frac sum_^f (r^(x_q^)) ، quad x_q^ sim q (x). پایان $ $

این کار را می توان با استفاده از عملکرد MONTE_CARLO_CSISZAR_F_DIVERGENCE از احتمال Tensorflow - استنتا ج-متغیره (TFP. VI) انجام داد. به سادگی باید عملکرد محدب مناسب $ f $ را مشخص کرد. عملکرد محدب که واگرایی (به جلو) KL را فوری می کند ، در TFP. VI به عنوان KL_Forward ، در کنار بسیاری از سایر موارد متداول $ $ $ ارائه شده است.

برآورد نسبت چگالی - توزیع ضمنی

هنگامی که یا چگالی $ p (x) $ یا $ q (x) $ در دسترس نیست ، همه چیز مشکل تر می شود. که ما را به موضوع این پست سوق می دهد. فرض کنید ما فقط نمونه هایی از $ p (x) $ و $ q (x) $ داریم - این می تواند تصاویر طبیعی باشد ، خروجی ها از یک شبکه عصبی با ورودی های تصادفی یا در مورد مثال در حال اجرا ما ، i. i. d. نمونه هایی که از گاوسی ها و غیره تهیه شده اند ، توزیع هایی که ما فقط قادر به مشاهده نمونه های آنها هستیم به عنوان توزیع ضمنی شناخته می شوند ، زیرا نمونه های آنها حاکی از چگالی واقعی اساسی است که ممکن است ما به آن دسترسی مستقیم نداریم.

برآورد نسبت چگالی مربوط به تخمین نسبت تراکم $ r^(x) = p (x) / q (x) $ است که فقط به نمونه های $ p (x) $ و $ q (x) $ دسترسی پیدا می کند. علاوه بر این ، برآورد نسبت چگالی معمولاً روش هایی را شامل می شود که بدون استفاده از تخمین چگالی مستقیم از تراکم مستقیم از تراکم های فردی $ p (x) $ یا q (x) $ ، از آنجا که هرگونه خطایی در تخمین مخرج $ q (x) $ است ، می شود. به صورت نمایی بزرگ شده است.

از بسیاری از روشهای تخمین نسبت چگالی که اکنون شکوفا می شوند ، رویکرد کلاسیک طبقه بندی احتمالی همچنان حاکم است ، به دلیل هیچ بخش کوچکی از سادگی آن.

کاهش تخمین نسبت چگالی به طبقه بندی احتمالی

اکنون نشان می دهیم که برآورد نسبت چگالی می تواند به طبقه بندی احتمالی کاهش یابد. ما این کار را با برجسته کردن مکاتبات یک به یک بین نسبت چگالی $ p (x) $ و $ q (x) $ و طبقه بندی کننده احتمالی بهینه که بین نمونه های آنها تبعیض قائل است ، انجام خواهیم داد. به طور خاص ، فرض کنید ما مجموعه ای از نمونه ها را از هر دو $ p (x) $ و $ q (x) $ داریم ، که در آن به هر نمونه یک برچسب کلاس اختصاص داده می شود که نشان می دهد از کدام توزیع از آن گرفته شده است. سپس ، از یک برآوردگر از احتمالات کلاس کلاس ، بازیابی یک برآوردگر نسبت چگالی ساده است.

فرض کنید ما به ترتیب از $ n_p $ و $ n_q $ تهیه شده از $ p (x) $ و $ q (x) $ ، به ترتیب ،

$ $ x_p^ ، dotsc ، x_p^ sim p (x) ، qquad text qquad x_q^ ، dotsc ، x_q^ sim q (x).$ $

سپس ، ما مجموعه داده $ را تشکیل می دهیم< (x_n, y_n) >_^n $ ، جایی که $ n = n_p + n_q $ و

به عبارت دیگر ، ما نمونه هایی را که از $ p (x) $ به عنوان 1 و آنهایی که از $ q (x) $ به عنوان 0 ترسیم شده اند ، برچسب می زنیم. در کد ، این به نظر می رسد:

این مجموعه داده در زیر مشاهده می شود. مربع های آبی در ردیف بالا نمونه های $ x_p^ sim p (x) $ با برچسب 1 هستند. مربع های قرمز در ردیف پایین نمونه های $ x_q^ sim q (x) $ با برچسب 0 هستند.

اکنون ، با ساخت و ساز ، ما داریم

$ $ p (x) = mathcal (x mid y = 1) ، qquad text qquad q (x) = mathcal (x mid y = 0).$ $

با استفاده از قانون Bayes ، می توانیم بنویسیم

از این رو ، ما می توانیم نسبت چگالی $ r^(x) $ را بیان کنیم

$ $ شروع r^(x) & = frac = frac<mathcal(x mid y = 1)> <mathcal(x mid y = 0)> newline & = سمت چپ ( frac<mathcal(y = 1 mid x) mathcal(x)> <mathcal(y = 1)> راست) سمت چپ ( frac<mathcal(y = 0 mid x) mathcal(x)> <mathcal(y = 0)> راست) ^ newline & = frac<mathcal(y = 0)><mathcal(y = 1)> شکستن<mathcal(y = 1 mid x)> <mathcal(y = 0 mid x)>بشر پایان $ $

بگذارید نسبت تراکم حاشیه ای را با نسبت اندازه نمونه تقریبی کنیم ،

برای جلوگیری از درهم و برهمی نشانه گذاری ، اجازه دهید از این پس فرض کنیم $ n_q = n_p $. سپس می توانیم $ r^(x) $ را از نظر احتمالات کلاس-خلفی بنویسیم ،

بازیابی نسبت چگالی از احتمال کلاس

این یک مکاتبات یک به یک بین نسبت چگالی $ r^(x) $ و احتمال کلاس-خلفی $ mathcal (y = 1 mid x) $ است. برای مثال،

$ $ شروع r^(x) = frac<mathcal(y = 1 mid x)> <mathcal(y = 0 mid x)>& = frac<mathcal(y = 1 mid x)> (y = 1 mid x)> newline & = exp سمت چپ [ log frac<mathcal(y = 1 mid x)> (y = 1 mid x)> RIGHT] NEWLINE & = EXP [ SIGMA^( MATHCAL (y = 1 mid x))] ، end $ $

جایی که $ sigma^$ تابع logit یا عملکرد sigmoid معکوس است ، که توسط $ sigma^( rho) داده شده است = log سمت چپ ( frac راست) $

بازیابی احتمال کلاس از نسبت چگالی

با دستکاری همزمان هر دو طرف این معادله ، ما همچنین می توانیم احتمال دقیق کلاس-خلفی را به عنوان تابعی از نسبت چگالی بازیابی کنیم.

این در زیر اجرا شده است:

در شکل زیر ، احتمال کلاس-خلفی $ Mathcal (y = 1 mid x) $ در برابر مجموعه داده های تجسم شده در ابتدا ترسیم شده است.

طبقه بندی احتمالی با رگرسیون لجستیک

احتمال کلاس خلفی $ Mathcal (y = 1 mid x) $ با استفاده از یک تابع پارامتری $ d_ (x) $ با پارامترهای $ theta $ قابل تقریب است. این توابع به عنوان نمونه ورودی از $ p (x) $ و $ q (x) $ و یک امتیاز یا احتمال در محدوده $ [0 ، 1] $ که از $ p (x) $ تهیه شده است ، می گیرد. از این رو ، ما به $ d_ (x) $ به عنوان طبقه بندی کننده احتمالی مراجعه می کنیم.

از قبل ، مشخص است که چگونه یک برآوردگر نسبت چگالی $ r_ (x) $ ممکن است به عنوان تابعی از طبقه بندی کننده احتمالی $ d_ (x) $ ساخته شود. برای مثال،

$ $ شروع r_ (x) & = exp [ sigma^(d_ (x))] newline & تقریبی exp [ sigma^( mathcal (y = 1 mid x))] = r^(x) ، end $ $ و برعکس ، $ $ شروع d_ (x) & = sigma ( log r_ (x)) newline & تقریبی sigma ( log r^(x)) = Mathcal (y = 1 mid x). پایان $ $

به جای $ d_ (x) $ ، ما معمولاً عملکرد پارامتر شده $ log r_ (x) $ را مشخص می کنیم. این همچنین به عنوان Log-Odds یا Logits گفته می شود ، زیرا معادل خروجی غیر طبیعی طبقه بندی کننده قبل از تغذیه از طریق عملکرد سیگموئید لجستیک است.

ما یک شبکه عصبی کاملاً متصل با دو لایه پنهان و فعال سازی RELU را تعریف می کنیم:

این معماری ساده در نمودار زیر مشاهده می شود:

ما برآوردگر احتمال کلاس بهینه را با بهینه سازی آن با توجه به یک قانون امتیاز دهی مناسب 3 که پیش بینی های احتمالی با کالیبره شده خوب ، مانند از دست دادن متقابل آنتروپی باینری را به دست می آورد ، می آموزیم

$ $ شروع mathcal ( theta) &: = - mathbb_ [ log d_ (x)] - mathbb_ [ log ( 1-d_ (x))] newline & = - mathbb_ [ log Sigma ( log r_ (x))] - mathbb_ [ log (1 - sigma ( log r_ (x)))]. پایان $ $

اجرای بهینه شده برای ثبات عددی در زیر آورده شده است:

اکنون می توان این مدل را گردآوری و نهایی کرد. از آنجا که ما از ضرر سفارشی استفاده می کنیم که دو مجموعه از اطلاعات مربوط به ورود را به عنوان ورودی در نظر می گیریم ، از دست دادن = NO را مشخص می کنیم و به جای آن از طریق روش ADD_LOSS تعریف می کنیم.

به عنوان یک بررسی با عقل ، ضرر و زیان ارزیابی شده بر روی یک دسته تصادفی را می توان مانند SA به دست آورد:

اکنون می توانیم برآوردگر خود را متناسب کنیم و ضرر را در پایان هر دوره ضبط کنیم:

انیمیشن زیر نشان می دهد که چگونه پیش بینی های طبقه بندی کننده احتمالی ، نسبت چگالی ، نسبت چگالی ورود به سیستم ، بعد از هر دوره تکامل می یابد:

در بالای همتایان دقیق و تحلیلی آنها پوشانده شده است ، که فقط از آنجا که ما آنها را برای توزیع گاوسی تجویز می کنیم ، در دسترس هستند. برای توزیع ضمنی ، اینها به هیچ وجه قابل دسترسی نخواهند بود.

در زیر طرح نهایی چگونگی همگرایی از دست دادن آنتروپی باینری:

در زیر یک طرح از طبقه بندی کننده احتمالی $ d_ (x) $ (سبز نقطه ای) ، که در برابر طبقه بندی بهینه ترسیم شده است ، که احتمال کلاس-خلفی $ mathcal (y = 1 mid x) = frac $ (جامد آبی رنگ است.):

در زیر یک طرح از برآوردگر نسبت چگالی $ r_ (x) $ (سبز نقطه ای) ، در برابر عملکرد نسبت چگالی دقیق $ r^(x) = frac $ (آبی جامد) ترسیم شده است:

و در آخر ، طرح قبلی در مقیاس لگاریتمی:

در حالی که به نظر می رسد که ما به سادگی در حال انجام رگرسیون بر روی عملکرد نهفته $ r^(x) $ (که اشتباه نیست - ما هستیم) ، مهم است که تأکید کنیم که ما این کار را انجام می دهیم بدون اینکه هرگز مقادیر $ r^را مشاهده کنیم ((x) $. درعوض ، ما فقط نمونه هایی را از $ p (x) $ و $ q (x) $ مشاهده کرده ایم که این پیامدها و پتانسیل عمیقی برای تعداد زیادی از برنامه ها دارد که بعداً بررسی خواهیم کرد.

بازگشت به برآورد مونت کارلو

با داشتن یک تخمین از نسبت چگالی ورود به سیستم ، اکنون انجام تخمین مونت کارلو امکان پذیر است:

$ $ شروع mathcal_<mathrm>[P (x) ||q (x)] & = mathbb_ [ log r^(x)] newline & تقریبی frac sum_^ log r^(x_p^) ، quad x_p^ sim p (x) newline & تقریبی frac sum_^ log r_ (x_p^) ، quad x_p^ sim p (x). پایان $ $

به عبارت دیگر ، ما نمونه های MC را از P (x) $ مانند گذشته ترسیم می کنیم. اما به جای استفاده از میانگین عملکرد $ log r^(x) $ ارزیابی شده در این نمونه ها (که برای توزیع ضمنی در دسترس نیست) ، ما این کار را در یک عملکرد پروکسی $ log r_ (x) $ انجام می دهیم که از طریق آن تخمین زده می شودطبقه بندی احتمالی همانطور که در بالا توضیح داده شد.

یادگیری در مدلهای مولد ضمنی

حال بیایید نگاهی بیندازیم که از این ایده ها در عمل استفاده می شود. مجموعه ای از تصاویر طبیعی را در نظر بگیرید ، مانند ارقام دست نوشته Mnist که در زیر نشان داده شده است ، که فرض می شود نمونه هایی از توزیع ضمنی $ q ( mathbf) $: گرفته شده است:

به طور مستقیم تخمین تراکم $ q ( mathbf) $ ممکن است همیشه امکان پذیر نباشد - در بعضی موارد ، حتی ممکن است وجود نداشته باشد. در عوض ، تعریف یک تابع پارامتری $ g_ را در نظر بگیرید<phi>: mathbf mapsto mathbf $ با پارامترهای $ phi $ ، که به عنوان ورودی $ mathbf $ گرفته شده از برخی توزیع ثابت $ p ( mathbf) $ است. خروجی $ Mathbf $ از این فرآیند تولیدی فرض می شود که پس از برخی توزیع ضمنی $ p_ نمونه هایی هستند<phi>( Mathbf) $. به عبارت دیگر ، ما می توانیم بنویسیم

$ $ Mathbf sim p_<phi>( Mathbf) Quad leftrightarrow quad mathbf = g_<phi>( Mathbf) ، Quad Mathbf Sim P ( Mathbf).$ $

با بهینه سازی پارامترهای $ phi $ ، می توانیم $ p_ درست کنیم<phi>( Mathbf) $ نزدیک به توزیع داده واقعی $ q ( mathbf) $. این یک جایگزین قانع کننده برای برآورد چگالی است زیرا موقعیت های بسیاری وجود دارد که قادر به تولید نمونه ها مهمتر از آن است که بتوانید مقدار عددی چگالی را محاسبه کنید. برخی از نمونه های این موارد عبارتند از: تصویر فوق العاده با وضوح تصویر و تقسیم معنایی.

یک رویکرد ممکن است معرفی یک طبقه بندی کننده $ d_ $ باشد که بین نمونه های واقعی و مصنوعی تبعیض قائل می شود. سپس ما $ g_ را بهینه می کنیم<phi>$ برای سنتز نمونه هایی که قابل تشخیص نیستند ، به طبقه بندی $ d_ $ ، از نمونه های واقعی. این می تواند با بهینه سازی همزمان از دست دادن آنتروپی باینری ، و در نتیجه هدف زین ، به دست آورد ،

این البته هیچ کس به غیر از شبکه مخالف مولد (GAN) 4 نیست. می توانید اطلاعات بیشتر در مورد چشم انداز تخمین نسبت چگالی GAN ها در مقاله توسط Uehara و همکاران را بخوانید. 2016 5. برای یک درمان حتی عمومی تر و کامل تر از یادگیری در مدلهای ضمنی ، مقاله را از محمد و لاکشمینارایان ، 2016 6 توصیه می کنم ، که تا حدی الهام بخش این پست است.

برای باقیمانده این بخش ، می خواهم نوعی از این رویکرد را برجسته کنم که به طور خاص هدف از آن به حداقل رساندن واگرایی KL W. R. T. پارامترهای $ phi $ ،

برای غلبه بر این واقعیت که تراکم هر دو $ p_<phi>( Mathbf) $ و $ Q ( Mathbf) $ ناشناخته است ، ما می توانیم به راحتی رویکرد تخمین نسبت چگالی را که در این پست بیان شده است ، اتخاذ کنیم. یعنی با به حداکثر رساندن هدف زیر ،

که حداکثر خود را به دست می آورد

به طور هم زمان ، ما همچنین بهترین تخمین فعلی از واگرایی KL را به حداقل می رسانیم ،

علاوه بر پایدارتر از رویکرد وانیل گان (کاهش شیب اشباع) ، این امر به ویژه در زمینه هایی که نیاز خاصی برای به حداقل رساندن واگرایی KL وجود دارد ، مانند استنباط تغییر (VI) مهم است.

این اولین بار در Afgan توسط Sønderby و همکاران استفاده شد. 2016 7 ، و از آن زمان در بسیاری از مقالات که با توزیع های ضمنی در استنتاج متغیر سروکار دارند ، مانند (Mescheder et al. 2017 8 ، Huszar 2017 9 ، Tran et al. 2017 10 ، Pu et al. 2017 11 ، Chen etAl. 2018 12 ، Tiao et al. 2018 13) و بسیاری دیگر.

محدود به واگرایی جنسن-شانون

قبل از اینکه همه چیز را بپیچیم ، اجازه دهید نگاهی دیگر به طرح از دست دادن آنتروپی باینری-عبور از دست داده شده در انتهای هر دوره بیندازیم. ما می بینیم که به سرعت به مقداری ارزش همگرا می شود. این طبیعی است که تعجب کنیم: در صورت وجود ، اهمیت این ارزش چیست؟

در واقع (منفی) جنسن-شانون (JS) واگرایی است ، تا ثابت ها ،

به یاد بیاورید که واگرایی جنسن-شانون به عنوان تعریف شده است

جایی که $ m $ چگالی مخلوط است

با مثال در حال اجرا ، این دقیقاً قابل ارزیابی نیست زیرا واگرایی KL بین یک گاوسی و ترکیبی از گاوسی ها از نظر تحلیلی قابل تحمل است. با این حال ، مانند KL ، ما هنوز هم می توانیم واگرایی JS آنها را با برآورد مونت کارلو 14 تخمین بزنیم:

این مقدار در خط سیاه افقی در طرح بالا نشان داده شده است. در طول حاشیه سمت راست ، ما همچنین یک هیستوگرام از مقادیر از دست دادن آنتروپی باینری را بر روی دوره ها ترسیم می کنیم. می توانیم ببینیم که این مقدار در واقع با حالت این هیستوگرام همزمان است.

این ساده است که نشان دهیم که ما حد بالایی داریم

$ $ inf_ mathcal ( theta) geq - 2 cdot mathcal_<mathrm>[P (x) ||س (x)] + log 4. $ $

اولا ، ما داریم

$ $ شروع sup_ & mathbb_ [ log d_ (x)] + mathbb_ [ log (1-d_ (x))] newline & = mathbb_ [ log mathcal (y = 1 mid x x x) + Mathbb_ [ log mathcal (y = 0 mid x)] newline & = mathbb_ چپ [ log frac right] + mathbb_ سمت چپ [ log frac right] newline& = Mathbb_ Left [ log frac frac راست] + mathbb_ سمت چپ [ log frac frac راست] newline & = mathbb_ سمت چپ [ log frac right] + mathbb_ سمت چپ [ log frac راست] - 2 log 2 newline & = 2 cdot mathcal_<mathrm>[P (x) ||س (x)] - log 4. پایان $ $

نفی هر دو طرف ، ما می گیریم

$ $ شروع - 2 cdot mathcal_<mathrm>[P (x) ||q (x)] + log 4 leq & - sup_ mathbb_ [ log d_ (x)] + mathbb_ [ log ( 1-d_ (x))] newline = & inf_ - mathbb_ [[ log d_ (x)] - mathbb_ [ log ( 1-d_ (x))] newline = & inf_ mathcal ( theta) ، end $ $

به طور خلاصه ، این به ما می گوید که از دست دادن متقابل آنتروپی باینری خود یک تقریب (تا ثابت) به واگرایی جنسن شانون است. این سؤال را ایجاد می کند: آیا می توان ضرر عمومی تری را ایجاد کرد که محدودیت هر $ $ $ را نشان می دهد؟

تیزر: پایین تر از هر $ f $-divergence

با استفاده از تجزیه و تحلیل محدب ، در واقع می توان نشان داد که برای هر $ f $-divergence ، ما 15 محدوده پایین داریم

با برابری دقیقاً وقتی $ r_ (x) = r^(x) $. نکته مهم این است که این محدوده پایین می تواند بدون نیاز به تراکم P (x) $ یا $ q (x) $ محاسبه شود - فقط نمونه آنها مورد نیاز است.

در مورد خاص $ f (u) = u log u - (u + 1) log (u + 1) $ ، ما از دست دادن آنتروپی متقاطع باینری و نتیجه قبلی ، همانطور که انتظار می رود ، بازیابی می کنیم

$ $ شروع mathcal_f [p (x) ||q (x)] & = 2 cdot mathcal_<mathrm>[P (x) ||q (x)] - log 4 newline & geq sup_ mathbb_ [ log sigma ( log r_ (x))] + mathbb_ [ log (1 - sigma ( log r_ (x))] newline & = sup_ mathbb_ [ log d_ (x)] + mathbb_ [ log (1-d_ (x))]. پایان $ $

از طرف دیگر ، در مورد خاص $ f (u) = u log u $ ، ما دریافت می کنیم

این روش دیگری برای برآورد واگرایی KL بین توزیع های ضمنی ، به شکل یک محدوده پایین مستقیم بر روی واگرایی KL به ما می دهد. همانطور که معلوم است ، این مرز پایین با هدف روش تخمین اهمیت KL (KLIEP) 16 مرتبط است و موضوع پست بعدی ما در این سری خواهد بود.

خلاصه

در این پست نحوه ارزیابی واگرایی KL یا هر $ $-divergence ، بین توزیع های ضمنی-توزیع هایی که فقط می توانیم از آن نمونه بگیریم ، پوشش می دهد. اول ، ما نقش اساسی نسبت چگالی را در برآورد $ $-divergences تأکید کردیم. در مرحله بعد ، ما مکاتبات بین نسبت چگالی و طبقه بندی بهینه را نشان دادیم. با بهره برداری از این لینک ، ما نشان دادیم که چگونه می توان از یک طبقه بندی کننده احتمالی آموزش دیده برای ساخت یک پروکسی برای نسبت چگالی دقیق استفاده کرد و از این برای فعال کردن تخمین هر $ $ $ استفاده کرد. سرانجام ، ما زمینه هایی را در مورد استفاده از این روش ارائه دادیم ، و برخی از پیشرفت های اخیر در مدلهای تولیدی ضمنی و استنباط متنوع را لمس کردیم.

برای دریافت به روزرسانی در مورد پست های بیشتر مانند این ، من را در توییتر و GitHub دنبال کنید!

سپاسگزاریها

من از دانیل اشتاینبرگ بخاطر ارائه بازخورد گسترده و بحث های روشنگری سپاسگزارم. من همچنین می خواهم از آلیستر رید و فابیو راموس بخاطر نظرات و پیشنهاداتشان تشکر کنم.

پیوندها و منابع

• نوت بوک برای تولید ارقام موجود در این پست استفاده می شود ، که می توانید در Colaboratory امتحان کنید.
• کتاب درسی بسیار خواندنی در مورد تخمین نسبت چگالی در Machine Leaing2 ، که من به شدت توصیه می کنم.(توجه: نمونه توزیع گاوسی از این کتاب وام گرفته شد.)
• وبلاگ شكیر محمد پست ترفند یادگیری ماشین روز: ترفند نسبت چگالی.
• مقاله توسط منون و اونگ ، 2016 17 ، که یک درمان کلی از پیوند نظری بین برآورد نسبت چگالی و طبقه بندی احتمالی ارائه می دهد.

واگرایی (رو به جلو) KL را می توان با $ $ f_ بازیابی کرد<mathrm>(U): = U log u.$ $ این آسان است که تأیید شود ، $ $ شروع mathcal_<mathrm>[P (x) ||q (x)] &: = mathbb_ سمت چپ [ log Left ( frac راست) راست] newline & = mathbb_ چپ [ frac log Left ( frac RIGHT) RIGHT] newline & = mathbb_ سمت چپ [f_<mathrm> سمت چپ ( frac راست) راست]. پایان $ $

Sugiyama ، M. ، Suzuki ، T. ، & Kanamori ، T. (2012). برآورد نسبت چگالی در یادگیری ماشین. انتشارات دانشگاه کمبریج.↩︎

Gneiting ، T. ، & Raftery ، A. E. (2007). قوانین ، پیش بینی و برآورد کاملاً مناسب. مجله انجمن آماری آمریکا ، 102 (477) ، (صص 359-378).↩︎

Goodfellow ، I. ، Pouget-Abadie ، J. ، Mirza ، M. ، Xu ، B. ، Warde-Farley ، D. ، Ozair ، S. ، & Mldr ؛& Bengio ، Y. (2014). شبکه های مخالف مولد. در پیشرفت در سیستم های پردازش اطلاعات عصبی (صفحات 2672-2680).↩︎

Uehara ، M. ، Sato ، I. ، Suzuki ، M. ، Nakayama ، K. ، & Matsuo ، Y. (2016). شبکه های مخالف مولد از دیدگاه تخمین نسبت چگالی. arxiv preprint arxiv: 1610. 02920.↩︎

Mohamed ، S. ، & Lakshminarayanan ، B. (2016). یادگیری در مدلهای مولد ضمنی. arxiv preprint arxiv: 1610. 03483.↩︎

Sønderby ، C. K. ، Caballero ، J. ، Theis ، L. ، Shi ، W. ، & Huszár ، F. (2016). استنتاج نقشه استهلاک برای تصویر فوق العاده. arxiv preprint arxiv: 1610. 04490.↩︎

Mescheder ، L. ، Nowozin ، S. ، & Geiger ، A. (2017). Bayes متغیر مخالف: متحد کردن خودروهای متغیر و شبکه های مخالف تولید کننده. در کنفرانس بین المللی یادگیری ماشین (ICML).↩︎

Huszár ، F. (2017). استنباط متنوع با استفاده از توزیع های ضمنی. arxiv preprint arxiv: 1702. 08235.↩︎

Tran ، D. ، Ranganath ، R. ، & Blei ، D. (2017). مدل های ضمنی سلسله مراتبی و استنباط تنوع بدون احتمال. در پیشرفت در سیستم های پردازش اطلاعات عصبی (صفحات 5523-5533).↩︎

Pu ، Y. ، Wang ، W. ، Henao ، R. ، Chen ، L. ، Gan ، Z. ، Li ، C. ، & Carin ، L. (2017). اتوآنمان متقارن متقارن متقارن. در پیشرفت در سیستم های پردازش اطلاعات عصبی (صفحات 4330-4339).↩︎

Chen ، L. ، Dai ، S. ، Pu ، Y. ، Zhou ، E. ، Li ، C. ، Su ، Q. ، & Mldr ؛& Carin ، L. (2018 ، مارس). AutoEncoder متغیر متقارن و اتصالات به یادگیری مخالف. در کنفرانس بین المللی هوش مصنوعی و آمار (صص 661-669).↩︎

Tiao ، L. C. ، Bonilla ، E. V. ، & Ramos ، F. (2018). یادگیری مخالف با چرخه به عنوان استنباط تقریبی بیزی. arxiv preprint arxiv: 1806. 01771.↩︎

توجه داشته باشید که Jensen_shaon با self_normalized = false (پیش فرض) ، با 2 دلار cdot mathcal_ مطابقت دارد<mathrm>[P (x) ||q (x)] - log 4 $ ، در حالی که self_normalized = true با $ mathcal_ مطابقت دارد<mathrm>[P (x) ||س (x)] $.↩︎

Nguyen ، X. ، Wainwright ، M. J. ، & Jordan ، M. I. (2010). برآورد عملکردهای واگرایی و نسبت احتمال با به حداقل رساندن خطر محدب. معاملات IEEE در تئوری اطلاعات ، 56 (11) ، 5847-5861.↩︎

Sugiyama ، M. ، Nakajima ، S. ، Kashima ، H. ، Buenau ، P. V. ، & Kawanabe ، M. (2008). برآورد اهمیت مستقیم با انتخاب مدل و کاربرد آن برای سازگاری تغییر متغیر. در پیشرفت در سیستم های پردازش اطلاعات عصبی (صفحات 1433-1440).↩︎

Menon ، A. ، & Ong ، C. S. (2016 ، ژوئن). پیوند تلفات برای نسبت چگالی و تخمین قابلیت کلاس. در کنفرانس بین المللی یادگیری ماشین (صفحات 304-313).↩︎

لوئیز تیائو

محقق یادگیری ماشین (نامزد دکترا)

با تشکر از توقف در! بیایید وصل شویم - برای من پیام دهید یا مرا دنبال کنید

© 2022 Louis C Tiao. این کار تحت CC توسط NC ND 4. 0 مجاز است

منتشر شده با Wowchemy - سازنده وب سایت منبع آزاد و رایگان که به سازندگان قدرت می دهد.< Pan> [P (x) ||س (x)] $.↩︎