반응형
바라보기, 찾아보기, AI 모델, list, 잡지식
회사, 초거대AI명, 파라미터수, 공개년도
Google, Meta, Microsoft, DeepMind, NVIDIA, Naver, kakao, LG
1.OpenAI, GPT-3, 1750억개, 2020
2.Google, LaMDA 2, 대화형 인공지능 검색모델, 순다피차이
Google, PalM, 5400억개, 2022
3.DeepMind, Language modelling at scale: Gopher, ethical considerations, and retrieval, 초거대 AI 언어모델 고퍼, 2800억개, 2021년말
4.Meta, 대형 언어 모델 OPT-175B , 1750억개, 2022
5.Microsoft + NVIDIA, MT-NLG, 5300억개, 2021년말
6.NAVER, 하이퍼클로버, 2040억개, 2021
7.kakao, KoGPT, 300억개, 2021년말
8.LG, 엑사원, 3000억개, 2021년말
Ycombinator + Tesla
샘 알트만 + 일론 머스크
그림그리기, 이미지 만들어내기
OpenAI, DALL-E 2, 파라미터 35억개
계수, 매개변수, 파라미터, Weight, W
초거대 AI, 파라미터 갯수, 1000억개 이상
1.GPT-3, 1750억개, 145억~350억
2.GPT-2, 15억개
Vicious Cirlcle 의 순환시작
0. 엄청난 연구개발비 필요
1. 엄청난 데이터 확보 필요
2. 엄청난 성능 좋은 컴퓨터
3. 엄청난 학습시간
4. 엄청난 전기사용
5. 엄청난 발열
6.엄청난 냉각비...
LLM (a Large Language Mode)
NLP (Natural Language Processing)
하이피클로버 학습시,
한국어 데이터 5,600억 토큰, 기존 네이버 언어모델 데이터 보다 3000배, 뉴스 50년치, 네이버 블로그 9년치
반응형
'松泉, 인생글, 바라보기' 카테고리의 다른 글
| 바라보기, 언어, 양해각서, 諒解覺書, Memorandum of Understanding, MOU (0) | 2023.02.07 |
|---|---|
| 바라보기, 언어, 諒解, 양해, excuse (0) | 2023.02.07 |
| 바라보기, 찾아보기, 경계, 하나이지만 같지 않고 둘이지만 다르지 않다 (0) | 2023.02.05 |
| 바라보기, 언어, 타소가레, 황혼 (0) | 2023.02.04 |
| 바라보기, 언어, 바람개비 (0) | 2023.02.04 |
