Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[ja] cs-229-probability #142

Merged
merged 2 commits into from
Sep 11, 2019
Merged
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension

Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
381 changes: 381 additions & 0 deletions ja/refresher-probability.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,381 @@
**1. Probabilities and Statistics refresher**

⟶確率と統計の復習

<br>

**2. Introduction to Probability and Combinatorics**

&#10230;確率と組合せの導入

<br>

**3. Sample space ― The set of all possible outcomes of an experiment is known as the sample space of the experiment and is denoted by S.**

&#10230;標本空間 - ある試行のすべての起こりうる結果の集合はその試行の標本空間として知られ、Sと表します。

<br>

**4. Event ― Any subset E of the sample space is known as an event. That is, an event is a set consisting of possible outcomes of the experiment. If the outcome of the experiment is contained in E, then we say that E has occurred.**

&#10230;事象 - 標本空間の任意の部分集合Eを事象と言います。つまり、ある事象はある試行の起こりうる結果により構成された集合です。ある試行結果がEに含まれるなら、Eが起きたと言います。

<br>

**5. Axioms of probability ― For each event E, we denote P(E) as the probability of event E occuring.**

&#10230;確率の公理 - 各事象Eに対して、事象Eが起こる確率をP(E)と書きます。

<br>

**6. Axiom 1 ― Every probability is between 0 and 1 included, i.e:**

&#10230;公理1 - すべての確率は0と1を含んでその間にあります。すなわち:

<br>

**7. Axiom 2 ― The probability that at least one of the elementary events in the entire sample space will occur is 1, i.e:**

&#10230;公理2 - 標本空間全体において少なくとも一つの根元事象が起こる確率は1です。すなわち:

<br>

**8. Axiom 3 ― For any sequence of mutually exclusive events E1,...,En, we have:**

&#10230;公理3 - 互いに排反な事象の任意の数列E1,...,Enに対し、次が成り立ちます:

<br>

**9. Permutation ― A permutation is an arrangement of r objects from a pool of n objects, in a given order. The number of such arrangements is given by P(n,r), defined as:**

&#10230;順列(Permutation) - 順列とはn個のものの中からr個をある順序で並べた配列です。このような配列の数はP(n,r)と表し、次のように定義します:

<br>

**10. Combination ― A combination is an arrangement of r objects from a pool of n objects, where the order does not matter. The number of such arrangements is given by C(n,r), defined as:**

&#10230;組合せ(Combination) - 組合せはn個の中からr個の順番を勘案しない配列です。このような配列の数はC(n,r)と表し、次のように定義します:

<br>

**11. Remark: we note that for 0⩽r⩽n, we have P(n,r)⩾C(n,r)**

&#10230;注釈: 0⩽r⩽nのとき、P(n,r)⩾C(n,r)となります。

<br>

**12. Conditional Probability**

&#10230;条件付き確率

<br>

**13. Bayes' rule ― For events A and B such that P(B)>0, we have:**

&#10230;ベイズの定理 - P(B)>0であるような事象A, Bに対して、次が成り立ちます:

<br>

**14. Remark: we have P(A∩B)=P(A)P(B|A)=P(A|B)P(B)**

&#10230;注釈: P(A∩B)=P(A)P(B|A)=P(A|B)P(B)となります。

<br>

**15. Partition ― Let {Ai,i∈[[1,n]]} be such that for all i, Ai≠∅. We say that {Ai} is a partition if we have:**

&#10230;分割(Partition) - {Ai,i∈[[1,n]]}はすべてのiに対してAi≠∅としましょう。次が成り立つとき、{Ai}は分割であると言います:

<br>

**16. Remark: for any event B in the sample space, we have P(B)=n∑i=1P(B|Ai)P(Ai).**

&#10230;注釈: 標本空間において任意の事象Bに対して、P(B)=n∑i=1P(B|Ai)P(Ai)が成り立ちます。

<br>

**17. Extended form of Bayes' rule ― Let {Ai,i∈[[1,n]]} be a partition of the sample space. We have:**

&#10230;ベイズの定理の応用 - {Ai,i∈[[1,n]]}を標本空間の分割とすると、次が成り立ちます:

<br>

**18. Independence ― Two events A and B are independent if and only if we have:**

&#10230;独立性 - 次が成り立つ場合かつその場合に限り、2つの事象AとBは独立であるといいます:

<br>

**19. Random Variables**

&#10230;確率変数

<br>

**20. Definitions**

&#10230;定義

<br>

**21. Random variable ― A random variable, often noted X, is a function that maps every element in a sample space to a real line.**

&#10230;確率変数 - 確率変数は、よくXと表記され、ある標本空間のすべての要素を実数直線に対応させる関数です。

<br>

**22. Cumulative distribution function (CDF) ― The cumulative distribution function F, which is monotonically non-decreasing and is such that limx→−∞F(x)=0 and limx→+∞F(x)=1, is defined as:**

&#10230;累積分布関数(CDF) - 累積分布関数Fは、単調非減少かつlimx→−∞F(x)=0 and limx→+∞F(x)=1であり、次のように定義されます:

<br>

**23. Remark: we have P(a<X⩽B)=F(b)−F(a).**

&#10230;注釈: P(a<X⩽B)=F(b)−F(a)が成り立ちます。

<br>

**24. Probability density function (PDF) ― The probability density function f is the probability that X takes on values between two adjacent realizations of the random variable.**

&#10230;確率密度関数(PDF) - 確率密度関数fは確率変数Xが2つの隣接する実現値の間の値をとる確率です。

<br>

**25. Relationships involving the PDF and CDF ― Here are the important properties to know in the discrete (D) and the continuous (C) cases.**

&#10230;PDFとCDFについての関係性 - 離散値(D)と連続値(C)のそれぞれの場合について知っておくべき重要な特性をここに挙げます。

<br>

**26. [Case, CDF F, PDF f, Properties of PDF]**

&#10230;[種類、CDF F、PDF f、PDFの特性]

<br>

**27. Expectation and Moments of the Distribution ― Here are the expressions of the expected value E[X], generalized expected value E[g(X)], kth moment E[Xk] and characteristic function ψ(ω) for the discrete and continuous cases:**

&#10230;分布の期待値と積率 - 離散値と連続値のそれぞれの場合における期待値E[X]、一般化した期待値E[g(X)]、k次の積率E[Xk]と特性関数ψ(ω)をここに挙げます:

<br>

**28. Variance ― The variance of a random variable, often noted Var(X) or σ2, is a measure of the spread of its distribution function. It is determined as follows:**

&#10230;分散(Variance) - 確率変数の分散は、よくVar(X)またはσ2と表記され、その確率変数の分布関数のばらつきの尺度です。次のように計算されます。

<br>

**29. Standard deviation ― The standard deviation of a random variable, often noted σ, is a measure of the spread of its distribution function which is compatible with the units of the actual random variable. It is determined as follows:**

&#10230;標準偏差(Standard deviation) - 確率変数の標準偏差は、よくσと表記され、その確率変数の分布関数のばらつきの尺度であり、その確率変数の単位に則ったものです。次のように計算されます。

<br>

**30. Transformation of random variables ― Let the variables X and Y be linked by some function. By noting fX and fY the distribution function of X and Y respectively, we have:**

&#10230;確率変数の変換 - 変数XとYはなんらかの関数により関連づけられているとします。fXとfYをそれぞれXとYの分布関数として表記すると次が成り立ちます:

<br>

**31. Leibniz integral rule ― Let g be a function of x and potentially c, and a,b boundaries that may depend on c. We have:**

&#10230;ライプニッツの積分則 - gをxと潜在的にcの関数とし、a,bをcに従属的な境界とすると、次が成り立ちます。

<br>

**32. Probability Distributions**

&#10230;確率分布

<br>

**33. Chebyshev's inequality ― Let X be a random variable with expected value μ. For k,σ>0, we have the following inequality:**

&#10230;チェビシェフの不等式 - Xを期待値μの確率変数とします。k,σ>0のとき次の不等式が成り立ちます:

<br>

**34. Main distributions ― Here are the main distributions to have in mind:**

&#10230;主な分布 - 覚えておくべき主な分布をここに挙げます:

<br>

**35. [Type, Distribution]**

&#10230;[種類、分布]

<br>

**36. Jointly Distributed Random Variables**

&#10230;同時分布の確率変数

<br>

**37. Marginal density and cumulative distribution ― From the joint density probability function fXY , we have**

&#10230;周辺密度と累積分布 - 同時確率密度関数fXYから次が成り立ちます。

<br>

**38. [Case, Marginal density, Cumulative function]**

&#10230;[種類,、周辺密度、累積関数]

<br>

**39. Conditional density ― The conditional density of X with respect to Y, often noted fX|Y, is defined as follows:**

&#10230;条件付き密度(Conditional density) - Yに対するXの条件付き密度はよくfX|Yと表記され、次のように定義されます:

<br>

**40. Independence ― Two random variables X and Y are said to be independent if we have:**

&#10230;独立性(Independence) - 2つの確率変数XとYは次が成り立つとき、独立であると言います:

<br>

**41. Covariance ― We define the covariance of two random variables X and Y, that we note σ2XY or more commonly Cov(X,Y), as follows:**

&#10230;共分散(Covariance) - 2つの確率変数XとYの共分散を、σ2XYまたはより一般的にはCov(X,Y)と表記し、次のように定義します:

<br>

**42. Correlation ― By noting σX,σY the standard deviations of X and Y, we define the correlation between the random variables X and Y, noted ρXY, as follows:**

&#10230;相関係数(Correlation) - X, Yの標準偏差をσX,σYと表記し、確率変数X,Yの相関関係をρXYと表記し、次のように定義します:

<br>

**43. Remark 1: we note that for any random variables X,Y, we have ρXY∈[−1,1].**

&#10230;注釈 1: 任意の確率変数X,Yに対してρXY∈[−1,1]が成り立ちます。

<br>

**44. Remark 2: If X and Y are independent, then ρXY=0.**

&#10230;注釈 2: XとYが独立ならば、ρXY=0です。

<br>

**45. Parameter estimation**

&#10230;母数推定

<br>

**46. Definitions**

&#10230;定義

<br>

**47. Random sample ― A random sample is a collection of n random variables X1,...,Xn that are independent and identically distributed with X.**

&#10230;確率標本(Random sample) - 確率標本とはXに従う独立同分布のn個の確率変数X1,...,Xnの集合です。

<br>

**48. Estimator ― An estimator is a function of the data that is used to infer the value of an unknown parameter in a statistical model.**

&#10230;推定量(Estimator) - 推定量とは統計モデルにおける未知のパラメータの値を推定するのに用いられるデータの関数です。

<br>

**49. Bias ― The bias of an estimator ^θ is defined as being the difference between the expected value of the distribution of ^θ and the true value, i.e.:**

&#10230;偏り(Bias) - 推定量^θの偏りは^θのの分布の期待値と真の値との差として定義されます。すなわち:

<br>

**50. Remark: an estimator is said to be unbiased when we have E[^θ]=θ.**

&#10230;注釈: E[^θ]=θが成り立つとき、推定量は不偏であるといいます。

<br>

**51. Estimating the mean**

&#10230;平均の推定

<br>

**52. Sample mean ― The sample mean of a random sample is used to estimate the true mean μ of a distribution, is often noted ¯¯¯¯¯X and is defined as follows:**

&#10230;標本平均(Sample mean) - 確率標本の標本平均は、ある分布の真の平均μを推定するのに用いられ、よく¯¯¯¯¯Xと表記され、次のように定義されます:

<br>

**53. Remark: the sample mean is unbiased, i.e E[¯¯¯¯¯X]=μ.**

&#10230;注釈: 標本平均は不偏です。すなわちE[¯¯¯¯¯X]=μが成り立ちます。

<br>

**54. Central Limit Theorem ― Let us have a random sample X1,...,Xn following a given distribution with mean μ and variance σ2, then we have:**

&#10230;中心極限定理 - 確率標本X1,...,Xnが平均μと分散σ2を持つある分布に従うとすると、次が成り立ちます:

<br>

**55. Estimating the variance**

&#10230;分散の推定

<br>

**56. Sample variance ― The sample variance of a random sample is used to estimate the true variance σ2 of a distribution, is often noted s2 or ^σ2 and is defined as follows:**

&#10230;標本分散 - 確率標本の標本分散は、ある分布の真の分散σ2を推定するのに用いられ、よくs2または^σ2と表記され、次のように定義されます:

<br>

**57. Remark: the sample variance is unbiased, i.e E[s2]=σ2.**

&#10230;注釈: 標本分散は不偏です。すなわちE[s2]=σ2が成り立ちます。

<br>

**58. Chi-Squared relation with sample variance ― Let s2 be the sample variance of a random sample. We have:**

&#10230;標本分散とカイ二乗分布との関係 - 確率標本の標本分散をs2とすると、次が成り立ちます:

<br>

**59. [Introduction, Sample space, Event, Permutation]**

&#10230;[導入、標本空間、事象、順列]

<br>

**60. [Conditional probability, Bayes' rule, Independence]**

&#10230;[条件付き確率、ベイズの定理、独立]

<br>

**61. [Random variables, Definitions, Expectation, Variance]**

&#10230;[確率変数、定義、期待値、分散]

<br>

**62. [Probability distributions, Chebyshev's inequality, Main distributions]**

&#10230;[確率分布、チェビシェフの不等式、主な分布]

<br>

**63. [Jointly distributed random variables, Density, Covariance, Correlation]**

&#10230;[同時分布の確率変数、密度、共分散、相関係数]

<br>

**64. [Parameter estimation, Mean, Variance]**

&#10230;[母数推定、平均、分散]