Brak pamięci - Memorylessness

W prawdopodobieństwa i statystyki , memorylessness jest właściwością niektórych rozkładów prawdopodobieństwa . Zwykle odnosi się to do przypadków, w których rozkład „czasu oczekiwania” na określone zdarzenie nie zależy od tego, ile czasu już minęło. Aby dokładnie modelować sytuacje bez pamięci, musimy stale „zapominać”, w jakim stanie znajduje się system: na prawdopodobieństwa nie miałaby wpływu historia procesu.

Tylko dwa rodzaje dystrybucji są bezpamięciowe : rozkłady geometryczne nieujemnych liczb całkowitych i rozkłady wykładnicze nieujemnych liczb rzeczywistych.

W kontekście procesów Markowa brak pamięci odnosi się do własności Markowa , co jest jeszcze silniejszym założeniem, z którego wynika, że ​​własności zmiennych losowych dotyczących przyszłości zależą tylko od istotnych informacji o czasie bieżącym, a nie od informacji z dalszej przeszłości. W niniejszym artykule opisano zastosowanie poza własnością Markowa.

Przykłady czasu oczekiwania

Z pamięcią

Większość zjawisk nie jest pozbawiona pamięci, co oznacza, że ​​obserwatorzy będą z czasem uzyskiwać o nich informacje. Załóżmy na przykład, że X jest zmienną losową , okresem życia silnika samochodu, wyrażonym jako „liczba kilometrów przejechanych do momentu awarii silnika”. Opierając się na naszej intuicji, jest jasne, że silnik, który przejechał już 300 000 mil, będzie miał znacznie niższy X niż drugi (równoważny) silnik, który przejechał tylko 1000 mil. Stąd ta zmienna losowa nie miałaby właściwości bezpamięci.

Bez pamięci

W przeciwieństwie do tego przyjrzyjmy się sytuacji, która wykazywałaby brak pamięci. Wyobraź sobie długi korytarz, wyłożony na jednej ścianie tysiącami sejfów. Każdy sejf ma tarczę z 500 pozycjami, a każdemu przypisano losową pozycję otwarcia. Wyobraź sobie, że korytarzem idzie ekscentryczna osoba, zatrzymując się raz przy każdym sejfie, aby podjąć losową próbę jego otwarcia. W tym przypadku możemy zdefiniować zmienną losową X jako czas życia poszukiwań, wyrażony jako „liczba prób, jakie osoba musi wykonać, zanim pomyślnie otworzy sejf”. W takim przypadku E[ X ] zawsze będzie równa wartości 500, niezależnie od tego, ile prób zostało już podjętych. Każda nowa próba ma (1/500) szansę powodzenia, więc osoba prawdopodobnie otworzy dokładnie jeden sejf w ciągu następnych 500 prób – ale z każdym nowym niepowodzeniem nie robi „postępu” w kierunku ostatecznego sukcesu. Nawet jeśli włamywacz nie powiódł się 499 razy z rzędu (lub 4999 razy), spodziewamy się poczekać jeszcze 500 prób, aż zaobserwujemy kolejny sukces. Jeśli zamiast tego osoba ta skupiłaby swoje próby na jednym sejfie i „zapamiętała” swoje poprzednie próby jego otwarcia, miałaby gwarancję, że otworzy sejf po co najwyżej 500 próbach (i faktycznie na samym początku spodziewaj się, że będziesz potrzebować 250 prób, a nie 500).

Prawdziwe przykłady braku pamięci obejmują uniwersalne prawo rozpadu radioaktywnego , które opisuje czas do rozpadu danej radioaktywnej cząstki i potencjalnie czas do odkrycia nowego bloku Bitcoin , choć zostało to zakwestionowane. Często używanym (teoretycznym) przykładem braku pamięci w teorii kolejek jest czas, jaki sprzedawca musi czekać na przybycie kolejnego klienta.

Dyskretna niepamięć

Załóżmy, że X jest dyskretną zmienną losową, której wartości leżą w zbiorze {0, 1, 2, ...}. Rozkład prawdopodobieństwa X jest bezpamięciowy dokładnie, jeśli dla dowolnych m i n w {0, 1, 2, ...} mamy

${\displaystyle \Pr(X>m+n\mid X\geq m)=\Pr(X>n).}$

Tutaj Pr( X > m + n | X ≥ m ) oznacza warunkowe prawdopodobieństwo, że wartość X jest większa niż m + n przy założeniu , że jest większa lub równa m .

Te tylko bez pamięci dyskretne rozkłady prawdopodobieństwa są geometryczne podziały , które policzyć liczbę niezależnych , identycznie rozproszonych prób Bernoulliego potrzebne, aby dostać jeden „sukces”. Innymi słowy, są to rozkłady czasu oczekiwania w procesie Bernoulliego .

Należy zauważyć, że powyższa definicja dotyczy definicji rozkładu geometrycznego z podporą {0, 1, 2, ...}. Alternatywna parametryzacja z obsługą {1, 2, ...} odpowiada nieco innej definicji bezpamięci dyskretnej: mianowicie, że${\displaystyle \Pr(X>m+n\mid X>m)=\Pr(X>n).}$

Częste nieporozumienie

„Niepamięć” rozkładu prawdopodobieństwa liczby prób X do pierwszego sukcesu oznacza, że ​​np.

${\displaystyle \Pr(X>40\mid X\geq 30)=\Pr(X>10).}$

To nie znaczy, że

${\displaystyle \Pr(X>40\mid X\geq 30)=\Pr(X>40),}$

co byłoby prawdziwe tylko wtedy, gdyby zdarzenia X > 40 i X ≥ 30 były niezależne, tj${\displaystyle \Pr(X\geq 30)=1.}$

Ciągła bezpamięć

Załóżmy, że X jest ciągłą zmienną losową, której wartości leżą w nieujemnych liczbach rzeczywistych [0, ∞) . Rozkład prawdopodobieństwa X jest bez pamięci dokładnie, jeśli dla dowolnych nieujemnych liczb rzeczywistych t i s , mamy

${\displaystyle \Pr(X>t+s\mid X>t)=\Pr(X>s).}$

Jest to podobne do wersji dyskretnej, z tym wyjątkiem, że s i t są ograniczone tylko do nieujemnych liczb rzeczywistych zamiast liczb całkowitych . Zamiast liczyć próby do pierwszego „sukcesu”, możemy na przykład odmierzać czas do nadejścia pierwszego telefonu do centrali.

Rozkład bez pamięci jest rozkładem wykładniczym

Jedynym ciągłym rozkładem prawdopodobieństwa bez pamięci jest rozkład wykładniczy , więc brak pamięci całkowicie charakteryzuje rozkład wykładniczy wśród wszystkich ciągłych. Właściwość wywodzi się z następującego dowodu:

Aby to zobaczyć, najpierw zdefiniuj funkcję przeżycia , S , as

${\displaystyle S(t)=\Pr(X>t).}$

Zauważ, że S ( t ) jest wtedy monotonicznie malejące . Z relacji

${\displaystyle \Pr(X>t+s\mid X>t)=\Pr(X>s)}$

a z definicji prawdopodobieństwa warunkowego wynika, że

${\displaystyle {\frac {\Pr(X>t+s)}{\Pr(X>t)}}=\Pr(X>s).}$

Daje to równanie funkcjonalne (które jest wynikiem właściwości bezpamięci):

${\displaystyle S(t+s)=S(t)S(s)}$

Z tego musimy mieć na przykład:

${\displaystyle S(2)=S(1)^{2}\quad }$

${\displaystyle S(1)=S(1/2)^{2}{\text{ i.e.}}\quad S(1/2)=S(1)^{1/2}.}$

Ogólnie:

${\displaystyle S(a)=S(1)^{a}}$

Jedyną funkcją ciągłą, która spełni to równanie dla dowolnego dodatniego, racjonalnego a, jest:

${\displaystyle S(a)=S(1)^{a}=e^{\ln(S(1))a}=e^{-\lambda a},}$

gdzie ${\displaystyle \lambda =-\ln(S(1)).}$

Skoro więc S ( a ) jest prawdopodobieństwem i musi mieć, to każda funkcja bezpamięci musi być wykładnicza. ${\displaystyle \lambda >0,}$

Innymi słowy, S jest funkcją malejącą monotonicznie (co oznacza, że ​​dla czasów wtedy ) ${\displaystyle x\leq y,}$${\displaystyle S(x)\geq S(y).}$

Samo równanie funkcyjne będzie implikować, że S ograniczone do wymiernych wielokrotności dowolnej określonej liczby jest funkcją wykładniczą . W połączeniu z faktem, że S jest monotoniczny, oznacza to, że S w całej swojej domenie jest funkcją wykładniczą.

Uwagi

Bibliografia

• Feller, W. (1971) Wprowadzenie do teorii prawdopodobieństwa i jej zastosowań, tom II (wydanie drugie), Wiley. Sekcja I.3 ISBN  0-471-25709-5