그록 4.8은 파라미터 2.5조로 그록 4.6보다 크고, 새 C++ 스택에서 처음 학습합니다

무슨 일인가요

그록 4.8은 파라미터 2.5조로, 그록 4.6보다 더 큽니다. 🧠

스페이스X 인공지능의 새 C++ 소프트웨어 스택에서 학습하는 첫 그록이라고 적혀 있습니다.

직전 모델보다 파라미터가 크고, 학습에 쓰는 소프트웨어 스택이 바뀐 첫 경우라고 합니다.

조금만 더 알려드리면

파라미터는 모델이 학습 때 조정하는 숫자의 개수입니다. 개수가 크다고 모든 시험에서 이긴다는 뜻은 아니고, 학습 데이터·스택·추론 비용이 같이 움직입니다.

C++ 스택을 새로 짰다는 문장은 학습 소프트웨어를 바꿨다는 뜻입니다. 파라미터 개수가 커지면 학습에 쓰는 연산도 같이 커집니다.

같은 아침의 845억 달러 연산 계약은 고객이 쓰는 용량 이야기이고, 이 글은 그 위에서 돌릴 모델 크기 이야기입니다. 계약 상한과 파라미터 수를 한 표에 더하지 않습니다. 스택이 바뀌면 같은 칩에서도 학습 시간이 달라질 수 있습니다.

기관·하우스 뷰

아크인베스트는 스페이스X 연산이 지상 데이터센터에서 시작해 궤도 연산으로 두꺼워지는 전망을 그렸습니다. 모델이 커지면 연산 수요 전망이 발사·전력 이야기와 한 세트로 읽힙니다.

모건스탠리는 9월 21일 스페이스X와 테슬라의 실물 인공지능 연결을 짚었습니다. 상장된 테슬라의 기본 목표 주가는 400달러, 강세 시나리오는 840달러입니다.