Álgebra de variáveis ​​aleatórias - Algebra of random variables

A álgebra de variáveis ​​aleatórias fornece regras para a manipulação simbólica de variáveis ​​aleatórias , enquanto evita se aprofundar muito nas idéias matematicamente sofisticadas da teoria da probabilidade . Seu simbolismo permite o tratamento de somas, produtos, razões e funções gerais de variáveis ​​aleatórias, bem como lidar com operações como encontrar as distribuições de probabilidade e as expectativas (ou valores esperados), variâncias e covariâncias dessas combinações. Em princípio, a álgebra elementar de variáveis ​​aleatórias é equivalente àquela das variáveis ​​convencionais não aleatórias (ou determinísticas). No entanto, as mudanças que ocorrem na distribuição de probabilidade de uma variável aleatória obtida após a realização de operações algébricas não são diretas. Portanto, o comportamento dos diferentes operadores da distribuição de probabilidade, como valores esperados, variâncias, covariâncias e momentos , pode ser diferente daquele observado para a variável aleatória usando álgebra simbólica. É possível identificar algumas regras-chave para cada um desses operadores, resultando em diferentes tipos de álgebra para variáveis ​​aleatórias, além da álgebra simbólica elementar: álgebra de expectativa, álgebra de variância, álgebra de covariância, álgebra de momentos, etc.

Álgebra simbólica elementar de variáveis ​​aleatórias

Considerando duas variáveis ​​aleatórias e , as seguintes operações algébricas são possíveis: ${\ displaystyle X}$${\ displaystyle Y}$

• Adição : ${\ displaystyle Z = X + Y = Y + X}$
• Subtração : ${\ displaystyle Z = XY = -Y + X}$
• Multiplicação : ${\ displaystyle Z = XY = YX}$
• Divisão : ${\ displaystyle Z = X / Y = X \ cdot (1 / Y) = (1 / Y) \ cdot X}$
• Exponenciação : ${\ displaystyle Z = X ^ {Y} = e ^ {Y \ ln (X)}}$

Em todos os casos, a variável resultante de cada operação também é uma variável aleatória. Todas as propriedades comutativas e associativas de operações algébricas convencionais também são válidas para variáveis ​​aleatórias. Se qualquer uma das variáveis ​​aleatórias for substituída por uma variável determinística ou por um valor constante, todas as propriedades anteriores permanecem válidas. ${\ displaystyle Z}$

Álgebra de expectativa para variáveis ​​aleatórias

O valor esperado da variável aleatória resultante de uma operação algébrica entre duas variáveis ​​aleatórias pode ser calculado usando o seguinte conjunto de regras: ${\ displaystyle E}$${\ displaystyle Z}$

• Adição : ${\ displaystyle E [Z] = E [X + Y] = E [X] + E [Y] = E [Y] + E [X]}$
• Subtração : ${\ displaystyle E [Z] = E [XY] = E [X] -E [Y] = - E [Y] + E [X]}$
• Multiplicação : . Particularmente, se e são independentes um do outro, então: . ${\ displaystyle E [Z] = E [XY] = E [YX]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle E [XY] = E [X] \ cdot E [Y] = E [Y] \ cdot E [X]}$
• Divisão : . Particularmente, se e são independentes um do outro, então: . ${\ displaystyle E [Z] = E [X / Y] = E [X \ cdot (1 / Y)] = E [(1 / Y) \ cdot X]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle E [X / Y] = E [X] \ cdot E [1 / Y] = E [1 / Y] \ cdot E [X]}$
• Exponenciação : ${\ displaystyle E [Z] = E [X ^ {Y}] = E [e ^ {Y \ ln (X)}]}$

Se alguma das variáveis ​​aleatórias for substituída por uma variável determinística ou por um valor constante ( ), as propriedades anteriores permanecem válidas considerando isso e, portanto ,. ${\ displaystyle k}$${\ displaystyle P [X = k] = 1}$${\ displaystyle E [X] = k}$

Se for definido como uma função algébrica não linear geral de uma variável aleatória , então: ${\ displaystyle Z}$${\ displaystyle f}$${\ displaystyle X}$

${\ displaystyle E [Z] = E [f (X)] \ neq f (E [X])}$

Alguns exemplos dessa propriedade incluem:

• ${\ displaystyle E [X ^ {2}] \ neq E [X] ^ {2}}$
• ${\ displaystyle E [1 / X] \ neq 1 / E [X]}$
• ${\ displaystyle E [e ^ {X}] \ neq e ^ {E [X]}}$
• ${\ displaystyle E [\ ln (X)] \ neq \ ln (E [X])}$

O valor exato da expectativa da função não linear dependerá da distribuição de probabilidade particular da variável aleatória . ${\ displaystyle X}$

Álgebra de variância para variáveis ​​aleatórias

A variação da variável aleatória resultante de uma operação algébrica entre variáveis ​​aleatórias pode ser calculada usando o seguinte conjunto de regras: ${\ displaystyle \ mathrm {Var}}$${\ displaystyle Z}$

• Além : . Particularmente, se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [X + Y] = \ mathrm {Var} [X] +2 \ mathrm {Cov} [X, Y] + \ mathrm {Var} [ Y]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Var} [X + Y] = \ mathrm {Var} [X] + \ mathrm {Var} [Y]}$
• Subtração : . Particularmente, se e são independentes um do outro, então: . Ou seja, para variáveis ​​aleatórias independentes, a variância é a mesma para adições e subtrações: ${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [XY] = \ mathrm {Var} [X] -2 \ mathrm {Cov} [X, Y] + \ mathrm {Var} [Y] }$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Var} [XY] = \ mathrm {Var} [X] + \ mathrm {Var} [Y]}$${\ displaystyle \ mathrm {Var} [X + Y] = \ mathrm {Var} [XY] = \ mathrm {Var} [YX] = \ mathrm {Var} [-XY]}$
• Multiplicação : . Particularmente, se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [XY] = \ mathrm {Var} [YX]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Var} [XY] = E [X ^ {2}] \ cdot E [Y ^ {2}] - (E [X] \ cdot E [Y]) ^ {2} = \ mathrm {Var} [X] \ cdot \ mathrm {Var} [Y] + \ mathrm {Var} [X] \ cdot (E [Y]) ^ {2} + \ mathrm {Var} [Y] \ cdot (E [X]) ^ {2}}$
• Divisão : . Particularmente, se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [X / Y] = \ mathrm {Var} [X \ cdot (1 / Y)] = \ mathrm {Var} [(1 / Y) \ cdot X]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Var} [X / Y] = E [X ^ {2}] \ cdot E [1 / Y ^ {2}] - (E [X] \ cdot E [1 / Y]) ^ {2} = \ mathrm {Var} [X] \ cdot \ mathrm {Var} [1 / Y] + \ mathrm {Var} [X] \ cdot (E [1 / Y]) ^ {2} + \ mathrm {Var} [1 / Y] \ cdot (E [X]) ^ {2}}$
• Exponenciação : ${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [X ^ {Y}] = \ mathrm {Var} [e ^ {Y \ ln (X)}]}$

onde representa o operador de covariância entre variáveis ​​aleatórias e . ${\ displaystyle \ mathrm {Cov} [X, Y] = \ mathrm {Cov} [Y, X]}$${\ displaystyle X}$${\ displaystyle Y}$

A variância de uma variável aleatória também pode ser expressa diretamente em termos de covariância ou em termos do valor esperado:

${\ displaystyle \ mathrm {Var} [X] = \ mathrm {Cov} (X, X) = E [X ^ {2}] - E [X] ^ {2}}$

Se alguma das variáveis ​​aleatórias for substituída por uma variável determinística ou por um valor constante ( ), as propriedades anteriores permanecem válidas considerando que e , e . Casos especiais são a adição e multiplicação de uma variável aleatória com uma variável determinística ou constante, onde: ${\ displaystyle k}$${\ displaystyle P [X = k] = 1}$${\ displaystyle E [X] = k}$${\ displaystyle \ mathrm {Var} [X] = 0}$${\ displaystyle \ mathrm {Cov} [Y, k] = 0}$

• ${\ displaystyle \ mathrm {Var} [X + Y] = \ mathrm {Var} [Y]}$
• ${\ displaystyle \ mathrm {Var} [kY] = k ^ {2} \ mathrm {Var} [Y]}$

Se for definido como uma função algébrica não linear geral de uma variável aleatória , então: ${\ displaystyle Z}$${\ displaystyle f}$${\ displaystyle X}$

${\ displaystyle \ mathrm {Var} [Z] = \ mathrm {Var} [f (X)] \ neq f (\ mathrm {Var} [X])}$

O valor exato da variância da função não linear dependerá da distribuição de probabilidade particular da variável aleatória . ${\ displaystyle X}$

Álgebra de covariância para variáveis ​​aleatórias

A covariância ( ) entre a variável aleatória resultante de uma operação algébrica e a variável aleatória pode ser calculada usando o seguinte conjunto de regras: ${\ displaystyle \ mathrm {Cov}}$${\ displaystyle Z}$${\ displaystyle X}$

• Além : . Se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [X + Y, X] = \ mathrm {Var} [X] + \ mathrm {Cov} [X, Y]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Cov} [X + Y, X] = \ mathrm {Var} [X]}$
• Subtração : . Se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [XY, X] = \ mathrm {Var} [X] - \ mathrm {Cov} [X, Y]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Cov} [XY, X] = \ mathrm {Var} [X]}$
• Multiplicação : . Se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [XY, X] = E [X ^ {2} Y] -E [XY] E [X]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Cov} [XY, X] = \ mathrm {Var} [X] \ cdot E [Y]}$
• Divisão (covariância com respeito ao numerador): . Se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [X / Y, X] = E [X ^ {2} / Y] -E [X / Y] E [X]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Cov} [X / Y, X] = \ mathrm {Var} [X] \ cdot E [1 / Y]}$
• Divisão (covariância com respeito ao denominador): . Se e são independentes um do outro, então: . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [Y / X, X] = E [Y] -E [Y / X] E [X]}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ mathrm {Cov} [Y / X, X] = E [Y] \ cdot (1-E [X] \ cdot E [1 / X])}$
• Exponenciação (covariância com relação à base): . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [X ^ {Y}, X] = E [X ^ {Y + 1}] - E [X ^ {Y}] E [ X]}$
• Exponenciação (covariância com respeito à fonte de): . ${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [Y ^ {X}, X] = E [XY ^ {X}] - E [Y ^ {X}] E [X] }$

A covariância de uma variável aleatória também pode ser expressa diretamente em termos do valor esperado:

${\ displaystyle \ mathrm {Cov} (X, Y) = E [XY] -E [X] E [Y]}$

Se alguma das variáveis ​​aleatórias for substituída por uma variável determinística ou por um valor constante ( ), as propriedades anteriores permanecem válidas considerando que , e . ${\ displaystyle k}$${\ displaystyle E [k] = k}$${\ displaystyle \ mathrm {Var} [k] = 0}$${\ displaystyle \ mathrm {Cov} [X, k] = 0}$

Se for definido como uma função algébrica não linear geral de uma variável aleatória , então: ${\ displaystyle Z}$${\ displaystyle f}$${\ displaystyle X}$

${\ displaystyle \ mathrm {Cov} [Z, X] = \ mathrm {Cov} [f (X), X] = E [Xf (X)] - E [f (X)] E [X]}$

O valor exato da variância da função não linear dependerá da distribuição de probabilidade particular da variável aleatória . ${\ displaystyle X}$

Aproximações por expansões de momentos em série de Taylor

Se os momentos de uma determinada variável aleatória são conhecidos (ou podem ser determinados por integração se a função de densidade de probabilidade é conhecida), então é possível aproximar o valor esperado de qualquer função não linear geral como uma expansão dos momentos em série de Taylor , do seguinte modo: ${\ displaystyle X}$${\ displaystyle f (X)}$

${\ displaystyle f (X) = \ displaystyle \ sum _ {n = 0} ^ {\ infty} \ displaystyle {\ frac {1} {n!}} {\ biggl (} {d ^ {n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} (X- \ mu) ^ {n}}$ , onde está o valor médio de . ${\ displaystyle \ mu = E [X]}$${\ displaystyle X}$

${\ displaystyle E [f (X)] = E {\ biggl (} \ textstyle \ sum _ {n = 0} ^ {\ infty} \ displaystyle {1 \ over n!} {\ biggl (} {d ^ { n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} (X- \ mu) ^ {n} {\ biggr)} = \ displaystyle \ sum _ {n = 0} ^ {\ infty} \ displaystyle {1 \ over n!} {\ biggl (} {d ^ {n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} E [(X- \ mu) ^ {n}] = \ textstyle \ sum _ {n = 0} ^ {\ infty} \ displaystyle {\ frac {1} {n!}} {\ biggl (} {d ^ {n} f \ sobre dX ^ {n}} {\ biggr)} _ {X = \ mu} \ mu _ {n} (X)}$ , Onde é o n momento de -ésimo sobre a sua média. Observe que, por sua definição, e . O termo de primeira ordem sempre desaparece, mas foi mantido para obter uma expressão de forma fechada. ${\ displaystyle \ mu _ {n} (X) = E [(X- \ mu) ^ {n}]}$${\ displaystyle X}$${\ displaystyle \ mu _ {0} (X) = 1}$${\ displaystyle \ mu _ {1} (X) = 0}$

Então,

${\ displaystyle E [f (X)] \ approx \ textstyle \ sum _ {n = 0} ^ {n_ {max}} \ displaystyle {1 \ over n!} {\ biggl (} {d ^ {n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} \ mu _ {n} (X)}$ , onde a expansão de Taylor é truncada após o -ésimo momento. ${\ displaystyle n_ {max}}$

Particularmente para funções de variáveis ​​aleatórias normais , é possível obter uma expansão de Taylor em termos da distribuição normal padrão :

${\ displaystyle f (X) = \ textstyle \ sum _ {n = 0} ^ {\ infty} \ displaystyle {\ sigma ^ {n} \ over n!} {\ biggl (} {d ^ {n} f \ sobre dX ^ {n}} {\ biggr)} _ {X = \ mu} \ mu _ {n} (Z)}$ , onde é uma variável aleatória normal e é a distribuição normal padrão. Por isso, ${\ displaystyle X \ sim N (\ mu, \ sigma ^ {2})}$${\ displaystyle Z \ sim N (0,1)}$

${\ displaystyle E [f (X)] \ approx \ textstyle \ sum _ {n = 0} ^ {n_ {max}} \ displaystyle {\ sigma ^ {n} \ over n!} {\ biggl (} {d ^ {n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} \ mu _ {n} (Z)}$ , onde os momentos da distribuição normal padrão são dados por:

${\ displaystyle \ mu _ {n} (Z) = {\ begin {cases} \ prod _ {i = 1} ^ {n / 2} (2i-1), & {\ text {if}} n {\ texto {é par}} \\ 0, & {\ texto {se}} n {\ texto {é ímpar}} \ end {casos}}}$

Da mesma forma, para variáveis ​​aleatórias normais, também é possível aproximar a variância da função não linear como uma expansão da série de Taylor como:

${\ displaystyle Var [f (X)] \ approx \ textstyle \ sum _ {n = 1} ^ {n_ {max}} \ displaystyle {\ biggl (} {\ sigma ^ {n} \ over n!} {\ biggl (} {d ^ {n} f \ over dX ^ {n}} {\ biggr)} _ {X = \ mu} {\ biggr)} ^ {2} Var [Z ^ {n}] + \ textstyle \ sum _ {n = 1} ^ {n_ {max}} \ displaystyle \ textstyle \ sum _ {m \ neq n} \ displaystyle {\ sigma ^ {n + m} \ over {n! m!}} {\ biggl (} {d ^ {n} f \ sobre dX ^ {n}} {\ biggr)} _ {X = \ mu} {\ biggl (} {d ^ {m} f \ sobre dX ^ {m}} {\ biggr)} _ {X = \ mu} Cov [Z ^ {n}, Z ^ {m}]}$ , Onde

${\ displaystyle Var [Z ^ {n}] = {\ begin {cases} \ prod _ {i = 1} ^ {n} (2i-1) - \ prod _ {i = 1} ^ {n / 2} (2i-1) ^ {2}, & {\ text {if}} n {\ text {is even}} \\\ prod _ {i = 1} ^ {n} (2i-1), & {\ texto {se}} n {\ texto {é ímpar}} \ end {casos}}}$ , e

${\ displaystyle Cov [Z ^ {n}, Z ^ {m}] = {\ begin {cases} \ prod _ {i = 1} ^ {(n + m) / 2} (2i-1) - \ prod _ {i = 1} ^ {n / 2} (2i-1) \ prod _ {j = 1} ^ {m / 2} (2j-1), & {\ text {if}} n {\ text { e}} m {\ text {são pares}} \\\ prod _ {i = 1} ^ {(n + m) / 2} (2i-1), & {\ text {if}} n {\ text {e}} m {\ text {são ímpares}} \\ 0, & {\ text {caso contrário}} \ end {casos}}}$

Álgebra de variáveis ​​aleatórias complexas

Na axiomatização algébrica da teoria da probabilidade , o conceito primário não é o de probabilidade de um evento, mas sim o de uma variável aleatória . As distribuições de probabilidade são determinadas atribuindo uma expectativa a cada variável aleatória. O espaço mensurável e a medida de probabilidade surgem das variáveis ​​aleatórias e expectativas por meio de teoremas de representação de análise bem conhecidos . Uma das características importantes da abordagem algébrica é que as distribuições de probabilidade aparentemente infinitas não são mais difíceis de formalizar do que as de dimensão finita.

As variáveis ​​aleatórias são consideradas como tendo as seguintes propriedades:

1. constantes complexas são realizações possíveis de uma variável aleatória;
2. a soma de duas variáveis ​​aleatórias é uma variável aleatória;
3. o produto de duas variáveis ​​aleatórias é uma variável aleatória;
4. adição e multiplicação de variáveis ​​aleatórias são ambas comutativas ; e
5. há uma noção de conjugação de variáveis ​​aleatórias, satisfazendo ( XY ) ^* = Y ^* X ^* e X ^** = X para todas as variáveis ​​aleatórias X , Y e coincidindo com a conjugação complexa se X for uma constante.

Isso significa que variáveis ​​aleatórias formam * -álgebras comutativas complexas . Se X = X ^*, então a variável aleatória X é chamada de "real".

Uma expectativa E em uma álgebra A de variáveis ​​aleatórias é um funcional linear positivo normalizado . O que isso significa é que

1. E [ k ] = k onde k é uma constante;
2. E [ X ^* X ] ≥ 0 para todas as variáveis ​​aleatórias X ;
3. E [ X + Y ] = E [ X ] + E [ Y ] para todas as variáveis ​​aleatórias X e Y ; e
4. E [ kX ] = kE [ X ] se k for uma constante.

Pode-se generalizar esta configuração, permitindo que a álgebra seja não comutativa. Isso leva a outras áreas de probabilidade não comutativa, como probabilidade quântica , teoria de matriz aleatória e probabilidade livre .

Veja também

• Relações entre distribuições de probabilidade
• Distribuição de proporção
  • Distribuição de Cauchy
  • Distribuição de barra
• Distribuição inversa
• Distribuição de produtos
• Transformada de Mellin
• Soma de variáveis ​​aleatórias normalmente distribuídas
• Lista de convoluções de distribuições de probabilidade - a medida de probabilidade da soma de variáveis ​​aleatórias independentes é a convolução de suas medidas de probabilidade.
• Lei da expectativa total
• Lei da variância total
• Lei da covariância total
• Lei da acumulação total
• Expansões de Taylor para os momentos de funções de variáveis ​​aleatórias

Referências

Leitura adicional

• Whittle, Peter (2000). Probabilidade via expectativa (4ª ed.). New York, NY: Springer. ISBN   978-0-387-98955-6 . Retirado em 24 de setembro de 2012 .
• Springer, Melvin Dale (1979). The Algebra of Random Variables . Wiley . ISBN   0-471-01406-0 . Retirado em 24 de setembro de 2012 .
• "Measure algebra" , Encyclopedia of Mathematics , EMS Press , 2001 [1994]