히비스서커스의 블로그

상황 1. model.train()인 상태로 dataset을 학습시키고 2. model 내에는 batch norm layer가 존재할 경우 3. dataset을 batch size만큼씩 나눌 때 가끔씩 나머지가 1인 경우가 존재하는데 이때 발생할 수 있는 에러이다. (ex. dataset의 수가 65개인데 batch size를 64인 경우). 에러 ValueError: Expected more than 1 value per channel when training, got input size torch.Size([1, 256, 1, 1]) 원인 batch norm layer의 계산식에 batch chanel의 크기가 1보다 크다고 가정한 수식이 존재하는 듯하다. 따라서, batch size가 1일 경우에는..