зеркало из https://github.com/microsoft/DeepSpeed.git
fix typo name (#3689)
Co-authored-by: Logan Adams <114770087+loadams@users.noreply.github.com> Co-authored-by: Michael Wyatt <michaelwyatt@microsoft.com>
This commit is contained in:
Родитель
d8aaa58122
Коммит
f2f5f21b52
|
@ -123,7 +123,7 @@ class HybridSplitQKVContainer(HybridEngineContainer):
|
||||||
for data in qkv_data:
|
for data in qkv_data:
|
||||||
del data
|
del data
|
||||||
|
|
||||||
def set_attn_parameters_wo_copy(self, Z3_enabled=False):
|
def set_attn_params_wo_copy(self, Z3_enabled=False):
|
||||||
self.module.attention.attn_ow = self.dense_w
|
self.module.attention.attn_ow = self.dense_w
|
||||||
self.module.attention.attn_ob = self.dense_b
|
self.module.attention.attn_ob = self.dense_b
|
||||||
if not Z3_enabled:
|
if not Z3_enabled:
|
||||||
|
|
Загрузка…
Ссылка в новой задаче