바라보기, 언어, 인공지능이 하고 있는 일, 박태웅 의장

바라보기, 언어, 인공지능이 하고 있는 일, 박태웅 의장

 

1750억개 매개변수의 가중평균을 구하는 작업이 어떤것이냐면?

몇 만차원에서 이어지는 다양체의 그림을 그려보는 것이다.

이어지는 다양체의 그림을 그려보다 보면,

확률적으로 무엇이 나오는지 예측할 수 있잖아요.

몇천 차원, 몇만 차원으로 연속되는 그림을 그릴수 있나,

1750억개의 점을 어떤 하나의 이어지는 모양으로 그려보는 거에요.

그게 인공지능이 하는 일이에요.

이 모양만 그려질 수 있으면 예측할 수 있으니까.

이것이 확률적으로 근사하게 예측하는 것이니까,

도형이 저그림 처럼 선이 딱 떨어지는 것이 아니라,

멀리에서 보면 도형인데,

가까이 갈수록 안개같은...

 

그것이 인공지능이 하고 있는 일이에요.

 

 

#chatgpt

#chat

#대화형

#generative

#생성하는

#pre-trained

#사전학습한

#LLM

#거대언어모델

#파운데이션모델

#Transformer

#다음단어가 무엇이 올지를 확률적으로 예측

#박태웅의장