microsoft BitNet, GPU 필요없는 추론모델

https://youtu.be/XHoj9MrEFA8?si=hHNAOWDk2VUPKVVJ 안될공학 2025년4월21일 영상 영상을 보시면 해당 기술이 학습 모델링이 아닌 추론 모델링에 적용되는 기술이기 때문에 당장 엔비디아 칩이나 HBM 메모리가 필요가 없어져서 버려지는 그런 상황이 오지는 않을 것 같습니다만, On device LLM이라는 다음 단계의 기술진화에는 생각보다 엔비디아 칩이나 HBM메모리의 수요가 폭발적이지 않겠다는 예상은 충분히 가능하지 싶습니다. 분명한 건 마이크로소프트의 이번 발표는 확실히 인공지능 기술의 …

microsoft BitNet, GPU 필요없는 추론모델 계속 읽기