### 분포
- 데이터 전체의 특성
- 히스토그램 등 시각화, 분포 함수 등 수식을 사용하여 특성을 살핌

# 대표값 (Representative Value)
(정의)
- 분포를 하나의 숫자로 대표할 수 있는 값
- 몇 개의 수치를 통해 분포의 특성을 파악 가능
- 평균, 중앙값, 최빈값

## 샘플 평균 (Sample Mean)


1) **샘플 평균**
$$ m = \bar{x} = \dfrac{1}{N}\sum_{i=1}^{N} x_i $$

N : 자료의 갯수  
i = 1 ... N : 자료의 순서, 인덱스  
$x_i$ : 자료의 값

2) 어떤 확률 분포를 따르는 **확률 변수 X의 샘플 평균**(매번 다르기 때문에 달라질 수 있다)  
$$ \bar{X} = \dfrac{1}{N}\sum_{i=1}^{N} X_i $$

## 확률 분포의 기대값 (Expectation)
(정의)
- 확률모형, 확률 밀도 함수를 알고 있을 경우, 이론적인 평균
- 확률모형이 존재한다는 것이 확실한 경우 단순히 평균(mean)이라고도 함

>연속형 : f(x) * dx 은 곧 면적(확률)
>$$ \mu_X = \mu = \operatorname{E}[X] = \int_{-\infty}^{\infty} x f(x) dx $$

>이산형 : P(x) 확률
>$$ \mu = \operatorname{E}[X] = \sum xP(x) $$

- 기대값은 확률 P(x) 또는 확률밀도 f(x)를 가중치로 하는 x의 '가중합'
- (연속형) 확률밀도함수 f(x)를 가중치로 x를 적분해서 구한다
- (이산형) x 값에 P(x) 가중치를 곱해서 구한다 (이산형)
- 기대값은 가장 확률 밀도가 높은 x값 근처의 값이 된다. 즉 확률 밀도가 모여있는 근처의 위치를 나타냄

### 기대값의 성질

고정된 값 c에 대해서 ...
$$\operatorname{E}[c] = c$$  

$$\begin{align}\operatorname{E}[cX]&= c \operatorname{E}[X]\end{align}$$

$$\begin{align}\operatorname{E}[X + Y] &= \operatorname{E}[X] + \operatorname{E}[Y] \end{align}$$

독립인 두 확률 변수의 기대값

$$ \text{E}\left[ (X-\mu_X)(Y-\mu_Y) \right] = 0 $$


```python
# 기대값 구하기
np.random.seed(0)
x = np.random.normal(size=1000)
```


```python
np.mean(x)
```




    -0.045256707490195384



### 리얼공간+샘플평균 $\leftarrow$ _관계_ $\rightarrow$ 확률모형+기대값

- 샘플 평균의 기대값 : 매번 뽑을 때마다 다를 수 있음  
- 확률 모형의 기대값 : 모델, 함수의 특성을 이용하기 때문에 변하지 않음



**하지만 기대값은 일치한다**$\cdot\cdot\cdot \operatorname{E}[\bar{X}] = \operatorname{E}[X] $

(증명)

$$ 
\begin{eqnarray}
\operatorname{E}[\bar{X}] 
&=& \operatorname{E}\left[\dfrac{1}{N}\sum_{1}^{N}X_i \right]  \\\\
&=& \dfrac{1}{N}\sum_{1}^{N}\operatorname{E}[X_i]  \\\\
&=& \dfrac{1}{N}\sum_{1}^{N}\operatorname{E}[X] \;\; (X_1, X_2, ... 모두 X를 복제한 것이므로, X와 같다)\\\\
&=& \dfrac{1}{N} N \operatorname{E}[X]\;\; (N번째를 모두 더한 다는 건, 결국 N번 곱한다는 것)\\ \\
&=& \operatorname{E}[X]  \\\\
\end{eqnarray}
$$

## 중앙값 (Median)

- 전체 자료를 크기 별로 정렬 했을 때, 가장 중앙에 위치한 값
- 샘플 중앙값, 이론적 중앙값(확률분포)

(정의)
- N 홀수 : (n+1)/2번 째 샘플의 값
- N 짝수 : (n/2)번째, (n/2 + 1)번째 값의 평균  


- 이론적 중앙값 : 
$$ \text{median} = F^{-1}(0.5) $$
$$ 0.5 = F(\text{median}) $$




```python
# 중앙값 구하기
x = np.random.normal(size=1000)
np.median(x)
```




    -0.052497821772340664



## 최빈값 (Mode)
(정의)
- 가장 빈번하게 나올 수 있는 값 
- $\text{mode} = \arg \max_x f(x) $

- 연속 확률 분포일 때는, 확률 밀도의 함수값이 가장 큰 확률 변수의 값
- 연속 자료는 구간을 분할하여 구간의 대표값으로 카테고리화 하여 구함


```python
x = np.random.normal(size=1000)
ns, bins = np.histogram(x, bins=np.linspace(-10,10,20))
M = np.argmax(ns)
bins[M], bins[M+1]
```




    (-0.52631578947368496, 0.52631578947368318)



# 기대값, 중앙값, 최빈값의 비교
- 확률 밀도 함수가 대칭인 경우에는 기대값, 중앙값, 최빈값 모두 같음
- 한 쪽으로 찌그러진 (skewed) 형태일 때는 모두 값이 달라짐

<table class="table-bordered" style="width:100%">
    <tr>
        <td></td>
        <td>E[X]</td>
        <td>Median</td>
        <td>Mode</td>
    </tr>
    <tr>
        <td>계산</td>
        <td>쉬움 : 다 더하면 그만</td>
        <td>E[X]보다 어려움 : sorting 작업</td>
        <td>제일 어려움 : optimization 작업</td>
    </tr>
    <tr>
        <td>outlier 영향</td>
        <td>가장 많이 받음</td>
        <td>영향 적게 받음</td>
        <td>영향 아예 안 받음</td>
    </tr>    
</table>

5ad6d3356c9ae1ee61874f903cde14f711455b2c
ipynb
Jupyter Notebook
3_math_for_datascience/03_Probability/20180218_03_09_RepValue_Expectation.ipynb
lucaseo/TIL
a15b7c1d3f9666a682f0b95ab320e8567495559a
MIT
3_math_for_datascience/03_Probability/20180218_03_09_RepValue_Expectation.ipynb
lucaseo/TIL
a15b7c1d3f9666a682f0b95ab320e8567495559a
MIT
3_math_for_datascience/03_Probability/20180218_03_09_RepValue_Expectation.ipynb
lucaseo/TIL
a15b7c1d3f9666a682f0b95ab320e8567495559a
MIT
Qwen/Qwen-72B
1. YES
2. YES