This commit is contained in:
Edward Hu 2023-06-11 10:52:40 -04:00 коммит произвёл GitHub
Родитель bce3e68b3e
Коммит f2e51c2442
Не найден ключ, соответствующий данной подписи
Идентификатор ключа GPG: 4AEE18F83AFDEB23
1 изменённых файлов: 1 добавлений и 1 удалений

Просмотреть файл

@ -266,7 +266,7 @@ class ConvLoRA(nn.Module, LoRALayer):
self.conv.weight.new_zeros((r * kernel_size, in_channels * kernel_size))
)
self.lora_B = nn.Parameter(
self.conv.weight.new_zeros((out_channels//self.groups*kernel_size, r*kernel_size))
self.conv.weight.new_zeros((out_channels//self.conv.groups*kernel_size, r*kernel_size))
)
self.scaling = self.lora_alpha / self.r
# Freezing the pre-trained weight matrix