المعاملات

• peft_model_id (str, اختياري) — المعرّف الخاص بالنموذج الذي يجب البحث عنه على Hub، أو مسار محلي إلى ملف إعدادات المحوّل (adapter) المحفوظ وأوزان المحوّل.
• adapter_name (str، اختياري) — اسم المُكيّف (adapter) الذي سيتم استخدامه. إذا لم يتم تعيينه، فسيتم استخدام الاسم "default".
• load_config (LoadStateDictConfig، اختياري) — إعدادات تحميل لإعادة استخدامها عند جلب أوزان المُكيِّف، وعادةً من from_pretrained.
• kwargs (dict[str, Any]، اختياري) — حقول إضافية من LoadStateDictConfig تُمرَّر كحجج مُسمّاة.
• peft_config (dict[str, Any], اختياري) — إعدادات المُكيّف (adapter) المُراد إضافته، حيث تشمل المُكيّفات المدعومة جميع إعدادات التعلم غير المرتبطة بالاستدعاء (prompt) مثل (LoRA، IA³، وغيرها). يُستخدم هذا الحُجج في حال مرّر المستخدمون قواميس حالة PEFT مباشرةً.
• adapter_state_dict (dict[str, torch.Tensor], اختياري) — قائمة الحالة (state dict) للمُكيّف (adapter) الذي سيتم تحميله. يُستخدم هذا الحُجّة عندما يمرّر المستخدمون قوائم الحالة الخاصة بـ PEFT مباشرةً.
• low_cpu_mem_usage (bool، اختياري، القيمة الافتراضية False) — يقلل من استهلاك الذاكرة أثناء تحميل مُكيّف PEFT. كما ينبغي أن يسرّع عملية التحميل.
• is_trainable (bool، اختياري، القيمة الافتراضية False) — ما إذا كان يجب أن يكون المُكيّف قابلًا للتدريب أم لا. إذا كانت القيمة False، فسيتم تجميد المُكيّف ولن يمكن استخدامه إلا للاستدلال.
• hotswap — ("auto" or bool, optional, defaults to "auto") Whether to substitute an existing (LoRA) adapter with the newly loaded adapter in-place. This means that, instead of loading an additional adapter, this will take the existing adapter weights and replace them with the weights of the new adapter. This can be faster and more memory efficient. However, the main advantage of hotswapping is that when the model is compiled with torch.compile, loading the new adapter does not require recompilation of the model. When using hotswapping, the passed adapter_name should be the name of an already loaded adapter.

  إذا كان للمُكيّف الجديد والمُكيّف القديم رتب مختلفة و/أو قيم LoRA alphas مختلفة (أي معاملات التوسيع)، فستحتاج إلى استدعاء طريقة إضافية قبل تحميل المُكيّف:

  model = AutoModel.from_pretrained(...)
  max_rank = ...  # the highest rank among all LoRAs that you want to load
  # call *before* compiling and loading the LoRA adapter
  model.enable_peft_hotswap(target_rank=max_rank)
  model.load_adapter(file_name_1, adapter_name="default")
  # optionally compile the model now
  model = torch.compile(model, ...)
  output_1 = model(...)
  # now you can hotswap the 2nd adapter, use the same name as for the 1st
  # hotswap is activated by default since enable_peft_hotswap was called
  model.load_adapter(file_name_2, adapter_name="default")
  output_2 = model(...)

  بشكل افتراضي، يكون تبديل الساخن معطلاً ويتطلب تمرير hotswap=True. إذا كنت قد استدعيت enable_peft_hotswap أولاً، فإنه يكون مفعلاً. يمكنك في هذه الحالة تعطيله يدوياً بعد ذلك بتمرير hotswap=False.

  لاحظ أن التبديل الساخن (hotswapping) يأتي مع بعض القيود الموثقة هنا: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

• adapter_kwargs (dict[str, Any]، اختياري) — حجج إضافية تُمرَّر إلى طريقة from_pretrained الخاصة بإعدادات المُكيِّف (adapter) وإلى طريقة find_adapter_config_file.

المعاملات

• adapter_config (~peft.PeftConfig) — إعدادات المُكيّف (adapter) المراد إضافته، حيث تشمل المُكيّفات المدعومة طرق التعلم غير المعتمدة على المُوجّهات (LoRA، IA³، إلخ).
• adapter_name (str، اختياري، القيمة الافتراضية "default") — اسم المُكيّف (adapter) الذي سيتم إضافته. إذا لم يتم تمرير اسم، فسيتم تعيين اسم افتراضي للمُكيّف.

المعاملات

• adapter_name (Union[list[str], str]) — اسم المُكيّف الذي يجب تعيينه. يمكن أن يكون أيضاً قائمة من النصوص لتعيين عدة مُكيّفات.

المعاملات

• target_rank (int، اختياري، القيمة الافتراضية 128) — أعلى رتبة بين جميع المحوِّلات التي سيتم تحميلها.
• check_compiled (str, اختياري, الافتراضي هو "error") — كيفية التعامل مع الحالة التي يكون فيها النموذج مُجمَّعًا مسبقًا، وهو ما ينبغي تجنّبه عمومًا. الخيارات هي:
  • “error” (الافتراضي): يرمي خطأ
  • "warn": إصدار تحذير
  • “ignore”: لا تفعل شيئًا

المعاملات

• adapter_name (str, اختياري) — اسم المُكيّف الذي سيتم منه استخلاص قاموس الحالة. إذا لم يتم تمرير اسم، فسيتم استخدام المُكيّف النشط.
• state_dict (قاموس متداخل من torch.Tensor، اختياري) — قاموس الحالة للنموذج. سيكون الافتراضي self.state_dict()، لكن يمكن استخدامه إذا كانت هناك حاجة إلى اتخاذ احتياطات خاصة عند استعادة قاموس حالة النموذج (مثل عند استخدام توازٍ للنموذج).

المعاملات

• adapter_names (Union[list[str], str]) — أسماء المُكيِّف (المُكيِّفات) المراد حذفها.