microsoft BitNet, GPU 필요없는 추론모델

안될공학 2025년4월21일 영상

영상을 보시면 해당 기술이 학습 모델링이 아닌 추론 모델링에 적용되는 기술이기 때문에 당장 엔비디아 칩이나 HBM 메모리가 필요가 없어져서 버려지는 그런 상황이 오지는 않을 것 같습니다만, On device LLM이라는 다음 단계의 기술진화에는 생각보다 엔비디아 칩이나 HBM메모리의 수요가 폭발적이지 않겠다는 예상은 충분히 가능하지 싶습니다.

분명한 건 마이크로소프트의 이번 발표는 확실히 인공지능 기술의 발전에 한 획을 긋는 큰 이벤트였다고 생각되네요. 해당 분야의 전문가는 아니라도 이번 발표에 대해서는 다들 깊게 생각을 할 필요가 있을것 같아 소식을 전해봅니다.

댓글 남기기