2025년 8월 16일 토요일

혁명의 우연성, 마코프 체인

 Veritasium: The Strange Math That Predicts (Almost) Anything (2025.07.25)


ㅇ1905년, 네크라소프는 종교적 신념을 바탕으로 확률과 자유의지 연결시켰다

  : 독립사건만 확률 법치이 성립한다고 주장


ㅇ마코프는 엄격한 무신론자였는데 네크라소프의 말이 개소리라며 네크라소프에 반대

  : 그는 푸쉬킨의 시 “예브게니 오네긴(Eugene Onegin)”의 20,000자를 정밀하고 집요하게 분석

  : 자음/모음이 ‘서로 의존적’이라는 것, 그리고 의존적이더라도 대수의 법칙이 성립함을 증명

  : 마코프 체인의 등장. 그리고 잊혀진다


ㅇ마코프 체인은 핵폭탄 개발에 큰 도움을 준다

  : 핵물리학자 울람, 병상에서 너무 지루하여 솔리테어 카드 게임 승률 추정

  : 수많은 시행을 통해 통계적 예측(몬테카를로 방법의 기초 착안)

  : 그는 실험실로 돌아가 폰 노이만에게 이 아이디어를 설명하고 마코프 체인을 시뮬레이션

  : 이는 핵반응을 위한 우라눔 농도와 반응 가속도 상수 k를 설정하는데 지대한 공헌


ㅇ1990년대 인터넷 급성장

  : 문제 - 웹사이트 중 ‘좋은’ 정보를 어떻게 찾을 것인가?

  : 야후, 라이코스 등은 검색어 빈도 기반으로 순위  → 쉽게 조작 가능

  : 구글 창립자(세르게이 브린, 래리 페이지)은 웹을 "마르코프 체인"으로 모델링

  : ‘페이지랭크(PageRank)’ 알고리즘으로 연결의 품질까지 평가해 검색 결과의 질 제고


ㅇ마코프 체인, 예측 텍스트, AI 언어모델

  : 클로드 섀넌 - 단순 마르코프 체인(한 글자/한 단어) 예측에서, 더 긴 문맥을 이용하면 품질이 향상됨을 증명

  : 오늘날 AI 언어모델은 마르코프 체인을 기초로 하되, “어텐션(attention)”이라는 추가적인 기법으로 문맥을 한층 더 잘 파악



ㅇ 만약 마코프와 네크라소프의 사소한? 싸움이 없었다면?

ㅇ 유신론과 무신론, 자유의지에 대한 철학적 고민이 없었다면?

ㅇ 만약 물라학자 올람이 아프지 않았다면?


댓글 없음:

댓글 쓰기