[모델 계산량] FLOPS, FLOPs 개념 및 차이점

딥러닝에서 모델 계산량(FLOPS, FLOPs) 은 모델이 얼마나 연산량이 많은지, 얼마나 효율적인지를 나타내는 지표임. 아래 내용을 한 문장으로 요약하자면, FLOPS is a unit of speed. FLOPs is a unit of amount. FLOPs (FLoating point OPerations) 기억하기 위한 키워드 : " 연 산 량 " 실제 계산량을 나타내는 단위 ex) 모델 A vs 모델 B 비교 중이라면, FLOPs가 큰 모델일수록 많은 연산량 요구 = 모델의 결과(output) 생성이 느릴 가능성 ▲ ex) 클라우드 환경에서 큰 FLOPs의 모델을 계속 학습한다면, 비용 증가 가능성 ▲ 모델 전체가 얼마나 많은 floating point(부동 소수점)을 연산하는지를 나타내는 지표..