مُدرِّبات النماذج في Potato بحسب المهمة

جديد في v2.14.0

يضم تدريب النماذج في Potato ما مجموعه 38 مُدرِّباً، ويدرّب كل مُدرِّب نوعاً واحداً من النماذج على إجابات نوع واحد من مخططات التعليق التوضيحي. تسرد جداول هذه الصفحة كل مُدرِّب بحسب المهمة، مع المخططات التي يتعلّم منها، والعناصر التي يقرؤها، والتثبيت الذي يحتاجه، والتصنيف المسبق الذي يكتبه راجعةً، ودرجة العناصر المحجوزة التي تُبلغ عنها كل تشغيلة. الصفحة لصاحب دراسة يختار مُدرِّباً قبل التشغيلة الأولى، أو يتحقق مما إذا كان مخطط ما قابلاً للتدريب أصلاً. أما مفاتيح التهيئة والخلفيات وقواعد الكتابة الراجعة فهي في صفحة التهيئة. وجدول المعاملات الكامل لكل مُدرِّب موجود في قسم المُدرِّب من المرجع الأصلي، ويرتبط اسم كل مُدرِّب أدناه بذلك القسم.

المُدرِّبات المعروضة لكل مخطط

تعرض صفحة التدريب في /admin/training لكل مخطط المُدرِّبات التي تناسب نوعه ووسيط عناصره فقط، مثل النص أو الصور أو الصوت. ويبقى المُدرِّب الذي لا يستطيع المشروع تشغيله في القائمة مع السبب، فيعرض decision-calibrate عبارة "no decision model is configured" إلى أن يكون للمشروع نموذج قرار. ويظهر المُدرِّب الذي تنقصه حِزمه بعبارة "not installed" مع الأمر الذي يثبّت الحِزم. وإلى أن تختار مُدرِّباً يكون sklearn-text هو المحدد حيثما ناسب sklearn-text. أما التشغيلة المبدوءة لمخطط غير موجود، أو لمخطط لا يستطيع المُدرِّب التعلّم منه، فتُرفض بـ HTTP 400 قبل بناء أي شيء.

تتدرّب كل تشغيلة على مخطط واحد. ترسل صفحة التدريب مخططاً واحداً، ويقبل API التدريب قائمة مخططات لكن كل مُدرِّب يدرّب على أول مخطط في القائمة فقط. ولتدريب مخططين ابدأ تشغيلتين.

في الجداول أدناه يذكر عمود التصنيف المسبق ما تكتبه التشغيلة على العنصر متى أُدرج المخطط تحت writeback.schemas. لا تحصل عناصر قسم train في التشغيلة على تصنيف مسبق أبداً، ولا يصبح التصنيف المسبق إجابة المعلّق إلا حين يعدّله المعلّق أو ينتقل إلى التالي. ويسمّي عمود درجة العناصر المحجوزة المقياس الرئيسي للتشغيلة، محسوباً على عناصر val وtest مقابل التصنيفات المحسومة للمعلّقين. والعنصر الذي له تصنيف ولا تنبؤ له يُحتسب خاطئاً. ولذلك لا يستطيع المُدرِّب رفع الدرجة بتخطّي العناصر الصعبة. ويعرّف قسم درجات العناصر المحجوزة في المرجع الأصلي كل مقياس.

تثبيت المُدرِّبات

لا يحتاج sklearn-text إلى شيء يتجاوز التثبيت العادي لـ Potato، لأن scikit-learn اعتمادية أساسية. أما مُدرِّبات النص والصور والصوت والنماذج اللغوية الكبيرة فتحتاج إلى PyTorch وtransformers. وتثبّت إضافة واحدة حِزم المجموعات الأربع كلها:

pip install "potato-annotation[train]"

تثبّت الإضافات الأضيق [train-text] و[train-vision] و[train-audio] و[train-llm] مجموعة واحدة لكل منها، ويذكر عمود التثبيت أدناه أضيق إضافة تغطي كل مُدرِّب، كما في pip install "potato-annotation[train-vision]". لا تدخل أي من إضافات التدريب في potato-annotation[all]، لأن تثبيت PyTorch يبلغ عدة غيغابايت. وبعض المُدرِّبات يحتاج إلى حِزم خارج [train]:

• يحتاج ultralytics-detect وultralytics-segment إلى pip install ultralytics.
• يحتاج cellpose إلى pip install cellpose، ويعمل مع Cellpose 3 أو Cellpose 4.
• يحتاج laya-finetune إلى [decision]، ويحتاج openjev-finetune إلى pip install wev-ai.
• يحتاج rdkit-property إلى [chemistry]، ويحتاج volume-unet إلى [volumes]، ويحتاج video-track إلى opencv-python، وتحتاج إشارات WFDB أو Parquet إلى [signals]. وتحتاج صور الشرائح الكاملة إلى [wsi] من أجل openslide.
• يحتاج الخيار dp في hf-text-classification وhf-image-classification إلى pip install opacus.

يطلب ultralytics-detect وultralytics-segment وlayoutlmv3 منك تأكيد ترخيص قبل التشغيلة الأولى. ترخيص Ultralytics هو AGPL-3.0، ولذلك يخضع نموذج دُرّب ووُزّع بأي من مُدرِّبَي YOLO لشروط AGPL، وتبيع Ultralytics ترخيصاً منفصلاً للاستخدام المغلق. أما أوزان LayoutLMv3 فبترخيص CC BY-NC-SA 4.0 وليست للاستخدام التجاري. وفي المُدرِّبات الثلاثة تطلب صفحة التدريب التأكيد، وتحتاج تشغيلة عبر API إلى accept_licence: true، وتحتاج إعادة التدريب التلقائية إلى auto_retrain.accept_licence: true. وشيفرة Cellpose بترخيص BSD-3-Clause، ويصدر مؤلفو Cellpose أوزانها المدرَّبة مسبقاً بشروطهم الخاصة. وتختلف التراخيص أيضاً بين نقاط الحفظ التي تسمّيها في model_name. فـ Qwen2.5-VL-3B مثلاً تحت ترخيص Qwen للأبحاث، بينما Qwen2.5-VL-7B تحت Apache-2.0.

المعاملات

تأتي معاملات التشغيلة من ثلاثة مواضع، ويتجاوز كل موضع ما قبله:

1. القيم الافتراضية للمُدرِّب، المدرجة في قسمه في المرجع الأصلي؛
2. model_training.trainer_params.<trainer> في التهيئة؛
3. params الخاصة بالتشغيلة نفسها، أي حقل Parameters في صفحة التدريب، أو params في تشغيلة عبر API، أو auto_retrain.params.

أضف trainer_params إلى كتلة model_training لتحديد قيمة افتراضية لكل مُدرِّب تستخدمه:

model_training:
  enabled: true
  trainer_params:
    hf-text-classification:
      model_name: answerdotai/ModernBERT-base
      epochs: 4
    torchvision-detect:
      model_name: fasterrcnn_resnet50_fpn_v2
      score_threshold: 0.4

حقل Parameters في صفحة التدريب بصيغة JSON، ويُملأ من trainer_params للمُدرِّب المختار. واسم المعامل الذي لا يقبله المُدرِّب خطأ. فالاسم تحت trainer_params يوقف الخادم عند البدء، والاسم في params الخاصة بتشغيلة يوقف التشغيلة قبل أن تبدأ. ويسرد كل من الخطأين الأسماء التي يقبلها المُدرِّب. فمثلاً يُبلَّغ عن score_thresh المكتوب بخطأ إملائي تحت torchvision-detect مع score_threshold في القائمة. ويتحقق Potato أيضاً من كل قيمة مقابل نوع المعامل ومداه.

مصنِّفات النص والصور

تتعلّم المصنِّفات من مخططات الاختيار radio وselect وlikert وmultiselect. يحدد التصنيف المسبق لـ radio أو select أو likert إجابة واحدة، ويحدد التصنيف المسبق لـ multiselect مجموعة من التصنيفات. يعمل sklearn-text على المعالج بلا تثبيت إضافي، ويستعرض درس النموذج الأول تشغيلة بـ sklearn-text. وعلى مجموعة صور يلائم sklearn-text المصنِّف على تمثيلات CLIP للصور. أما setfit فمصمَّم لأيام المشروع الأولى، ويعمل بنحو ثمانية عناصر مصنّفة لكل تصنيف. وتغطي صفحات المخططات radio وmultiselect وselect ومقاييس Likert جانب التعليق التوضيحي.

يضبط hf-text-classification محوِّلاً ضبطاً دقيقاً، ومع lora: true يضبط أيضاً نموذجاً لغوياً كبيراً من فئة المفكّك مثل Qwen أو Llama. ومع soft_targets: true يتدرّب hf-text-classification نحو توزيع أصوات المعلّقين بدلاً من تصنيف واحد محسوم. ويقبل hf-text-classification وhf-image-classification المعامل acquisition الذي يرتّب العناصر التالية للتصنيف في مخطط أحادي التصنيف بحسب الهامش أو الإنتروبيا أو BALD أو مسافة coreset، كما يبيّن درس النموذج داخل الحلقة. ويقبل المُدرِّبان أيضاً dp للتدريب بـ DP-SGD عبر Opacus، ويستعرض درس الخصوصية التفاضلية تشغيلة بـ dp.

النطاقات والعلاقات والبنية

تتعلّم مُدرِّبات هذه المجموعة النطاقات ذات الإزاحات الحرفية، والروابط بين النطاقات، والإجابات على عقد شجرة محادثة، والشروح بين السطرية. يدرّب hf-relation مرمِّزاً واحداً على وسم النطاقات وتصنيف أزواج النطاقات. ولا يُحتسب الرابط المتنبأ به موجوداً إلا إذا وجد الواسم أيضاً نطاقي الرابط كليهما بالحدود الصحيحة. وحين تكون كل إجابات التدريب في مخطط span_link أشجار تبعية، يفكّ hf-relation الأشجار ويضيف UAS وLAS إلى الدرجة. وتتبع التشغيلة الخطوات نفسها في درس النموذج الأول، مع مُدرِّب ومخطط مختلفين.

النماذج اللغوية الكبيرة ونماذج المكافأة

تتعلّم مُدرِّبات النماذج اللغوية الكبيرة من الإجابات النصية الحرة والتفضيلات والترتيبات ومسارات الوكلاء المصحَّحة. يدرّب llm-sft وllm-dpo مهايئ LoRA افتراضياً، ويحمّل lora: {quantize: 4bit} النموذج الأساسي بـ 4 بتات على طريقة QLoRA. ويدرّب reward-model نموذج مكافأة قياسياً من إجابات المقارنة الثنائية والترتيب وأفضل-أسوأ، ويحتفظ كل تنبؤ بمكافآت الخيارات إلى جانب إجابة المخطط. ويقيّم prm-reward كل خطوة في مسار وكيل بأنها صحيحة أو محايدة أو خاطئة. والخطوات التي تتجاوز max_length (1,024 رمزاً افتراضياً) لا يُتدرَّب عليها ولا تُقيَّم. وتنبؤ trajectory_edit يُقيَّم ويُخزَّن لكنه لا يُعرض تصنيفاً مسبقاً أبداً، ويرفض الخادم البدء حين يكون مخطط trajectory_edit تحت writeback.schemas. ويغطي درس الضبط الدقيق للنماذج اللغوية الكبيرة نماذج SFT وDPO والمكافأة ومكافأة العملية وQLoRA.

كشف الصور وتجزئتها

تتعلّم الكاشفات والمجزّئات الأشكال التي يرسمها المعلّقون في مخطط image_annotation، ويقرأ معظمها أيضاً مخططات المجهر والخرائط والمخططات الطيفية. يتدرّب الكاشف على صندوق إحاطة كل شكل، ولذلك تدرّب دراسة بالمضلعات أو الأقنعة كاشف صناديق كذلك. ويتدرّب المجزِّئ على المحيطات ويترك الصناديق، ويتنبأ بمضلعات لا تزيد على 64 رأساً يستطيع المعلّق تحريرها نقطةً نقطة. ويجزّئ cellpose بلا فئات، ولذلك تحصل كل خلية متنبأ بها على المعامل label، أو على أكثر تصنيفات المخطط شيوعاً إذا لم يُضبط label.

يضبط sam-finetune فكّ تشفير القناع في Segment Anything ضبطاً دقيقاً ليحوّل صندوقاً إلى محيط، بينما يبقى مرمِّز الصورة مجمَّداً. وتحدد تشغيلة sam-finetune محيطات الصناديق المسبقة التي كتبتها تشغيلة كشف سابقة راجعةً، ولذلك يكون الترتيب المعتاد تشغيلة كشف مع writeback.include_unlabeled: true، ثم تشغيلة sam-finetune على المخطط نفسه. وعلى جهاز Mac يتدرّب torchvision-detect وtorchvision-segment على المعالج لا على Metal. ويستعرض درس نماذج الرؤية الكشف والتجزئة والشرائح والمجهر والخرائط وCellpose وSAM.

تقرأ مُدرِّبات الصور الملفات المحلية داخل مجلد المهمة أو media_directory. ولا تُنزَّل صورة بعيدة بـ http(s)، ويُستبعد من التشغيلة الصف الذي صورته بعيدة أو مفقودة فلا يحصل على تنبؤ. ويذكر قسم عناصر الصور في المرجع الأصلي الحقول التي يقرأ منها Potato مسار الصورة.

الشرائح والمجهر والخرائط والمخططات الطيفية

تغيّر مُدرِّبات الكشف والتجزئة حجم كل صورة إلى بضع مئات من البكسلات. ولذلك يقطّع Potato الصورة الكبيرة إلى مربعات عند بناء حزمة التشغيلة في مخطط image_annotation أو microscopy أو geo_annotation. والتقطيع مفعّل افتراضياً لصيغ الشرائح مثل .svs و.ndpi وللصور التي لا يقل ضلعها الأطول عن 4,096 بكسل. وتقع مربعات الشريحة الواحدة دائماً في قسم واحد، وتُعاد الأشكال المتنبأ بها إلى الصورة الكاملة بالإحداثيات التي يخزّنها عارض التكبير العميق. ويسرد جدول tiling كل مفتاح، ويضبط درس نماذج الرؤية حجم المربع والتداخل والدقة للشريحة.

تدرّب مناطق الاهتمام (ROI) في مخطط microscopy مُدرِّبات الكشف والتجزئة وcellpose. يُعرض كل مقطع z ونقطة زمنية فيهما مناطق اهتمام بقنوات المخطط وتباينه الافتراضيين، وتعود التنبؤات مناطقَ اهتمام مع z وt لكل منها. ويتدرّب مخطط geo_annotation على الخريطة النقطية الأساسية للعنصر، أي GeoTIFF أو صورة لها امتداد، وتعود التنبؤات بصيغة GeoJSON في EPSG:4326 وتعرضها الخريطة اقتراحات. أما الخريطة التي تأتي خلفيتها من خادم مربعات فلا صورة نقطية فيها للتدريب، وتستبعد التشغيلة تلك العناصر مع تحذير. ويدرّب مخطط spectrogram_annotation كلاً من torchvision-detect وultralytics-detect على كل تسجيل مرسوماً مخططاً طيفياً، وتعود الصناديق بالثواني والهرتز. ويعطي قسما المجهر والخرائط والمخططات الطيفية في المرجع الأصلي تفاصيل العرض.

المستندات ونماذج الرؤية واللغة

يتعلّم layoutlmv3 تخطيط المستند من كلمات الصفحة ومواضعها، ويضبط vlm-sft نموذج رؤية ولغة ضبطاً دقيقاً على إجابات عن الصور. لا يشغّل Potato أي OCR، ولذلك يحتاج كل عنصر في layoutlmv3 إلى حقل words فيه نص كل كلمة وصندوقها. ويملأ استيراد PAGE XML في وضع regions الحقل words، وتعمل بالطريقة نفسها كلمات من طبقة النص في ملف PDF أو من أداة OCR أخرى. ويدرّب vlm-sft مهايئ LoRA افتراضياً، وتحتاج نقاط الحفظ الحقيقية إلى GPU. وتُقيَّم تشغيلة region_caption لكنها لا تُنشر، لأن المناطق التي يصفها التعليق هي إجابة معلّق. ويغطي درس نماذج الرؤية المُدرِّبَين كليهما، ويغطي تأريض VLM مخطط grounding_eval.

الصوت والكلام

تقرأ مُدرِّبات الصوت التسجيلات من ملفات محلية يفتحها soundfile، مثل WAV أو FLAC، ويُستبعد العنصر الذي صوته عنوان URL. يوسم hf-audio-tagger مقاطع زمنية مصنّفة في مخطط audio_annotation. ويضبط whisper-asr نموذج Whisper ضبطاً دقيقاً على أدوار النص المنسوخ التي صحّحها المعلّقون، ويكتب افتراضياً أيضاً نسخة CTranslate2 من النموذج لأجل potato transcripts --transcribe وfaster-whisper. ويضبط diarization مرمِّز كلام (WavLM افتراضياً) ضبطاً دقيقاً ليعرف من يتكلم ومتى. وأسماء المتحدثين محلية لكل تسجيل. وتدرّب صناديق المخطط الطيفي الكاشفات في كشف الصور وتجزئتها. ويستعرض درس نماذج الصوت Whisper وفصل المتحدثين وكشف المخططات الطيفية ووسم الصوت.

الأحجام والسحب النقطية والفيديو

تتعلّم مُدرِّبات 3D والفيديو من الأحجام المطلية والمكعبات في السحب النقطية ومسارات الفيديو. يدرّب volume-unet شبكة 3D U-Net بـ PyTorch الخالص على الأقنعة التي طلاها المعلّقون في أحجام CT وMR، وتحتاج صورة CT بالحجم الكامل عملياً إلى GPU. ويشغّل external-3d كاشف 3D الخاص بك عبر المعاملين train_command وpredict_command ويقرأ المكعبات عائدةً. ويناسبه كلٌّ من OpenPCDet وMMDetection3D، وكلاهما يحتاج إلى عوامل CUDA مجمَّعة على مضيف GPU. ويضبط video-track نموذج Faster R-CNN ضبطاً دقيقاً على إطارات مأخوذة من المسارات المعلَّقة، ويربط الكشوف عبر الإطارات في مسارات. ويستعرض درس الأحجام والسحب النقطية والفيديو المُدرِّبات الثلاثة كلها.

العلوم

تتعلّم المُدرِّبات العلمية من الكيمياء والمطيافية والإشارات الفسيولوجية وحلقات الروبوت. يجيب rdkit-property عن سؤال بشأن جزيء من بصمة Morgan للجزيء وواصفات RDKit، بمصنِّف scikit-learn للاختيارات أو بمُنحدِر للمنزلق. ويتنبأ peak-cnn بمواضع القمم على طيف، ولا يتنبأ بتصنيفات القمم أو إسناداتها. ويقسّم signal-cnn الإشارات إلى حقب ثابتة أو يجد فترات مصنّفة في EEG وECG وإشارات أخرى. ويتنبأ episode-model بالمراحل والنتيجة ومنحنى المكافأة من سلاسل مفاصل حلقة الروبوت وحساساتها. ولا يُقرأ فيديو الحلقة. وتظهر القمم والفترات وإجابات الحلقة اقتراحات يراجعها المعلّق لا الإجابة نفسها. ويستعرض درس النماذج العلمية المُدرِّبات الأربعة كلها، وتغطي صفحات المخططات البنى الكيميائية والأطياف والسلاسل الزمنية وحلقات الروبوت جانب التعليق التوضيحي.

نماذج القرار

يعيد نموذج القرار احتمالاً لكل خيار من خيارات سؤال، ويستخدم Potato نموذج القرار مصدراً في محرّك الوسم أو نموذج وسم في وضع Solo Mode. تضبط مُدرِّبات نماذج القرار نموذج قرار على تصنيفات الدراسة في مخططات radio وselect وlikert وslider، وتطرح كل سؤال بالطريقة التي يطرحه بها محرّك الوسم. ويُطرح slider تقييماً بخيار واحد لكل موضع، حتى 21 موضعاً. لا يدرّب decision-calibrate شيئاً. بل يلائم المُدرِّب معايرةً على احتمالات Jev أو OpenJev أو laya-serve أو Laya، ويكتب المعايرة في calibration.json ليطبّقها مصدر المحرّك. ويعمل decision-calibrate على الخلفية local فقط. ويضبط laya-finetune نموذج Laya ضبطاً دقيقاً، ويضبط openjev-finetune نموذج OpenJev ذا 8 مليارات معامل ضبطاً دقيقاً بتدريب LoRA من wev. وتشير بطاقة نموذج OpenJev إلى أن بعض بيانات تدريب OpenJev للأبحاث فقط. تحقق من تلك الشروط قبل الاستخدام التجاري.

جسور الاستدلال

تستخدم جسور الاستدلال نموذجاً يعمل بالفعل في مكان آخر، ولا تدرّب شيئاً. ترسل تشغيلة الجسر العناصر المحجوزة إلى الخدمة وتقرأ الإجابات عائدةً. ومع writeback.include_unlabeled: true ترسل التشغيلة العناصر غير المصنّفة أيضاً. وتحصل الإجابات حينئذ على درجة عناصر محجوزة مقابل معلّقيك، وكتابة راجعة، ومراجعة، كما تحصل إجابات نموذج مدرَّب. ولا يأخذ الجسر مفتاح API في التهيئة أبداً. وبدلاً من ذلك يسمّي معامل متغيرَ البيئة على الخادم الذي يحوي المفتاح. يستدعي label-studio-ml المسار /predict في خلفية Label Studio ML، ولا يرسل أحداث التعليق التوضيحي إلى /webhook الخاص بالخلفية. ويعمل hf-inference وroboflow على الخلفية local فقط. وصناديق openai-vlm-boxes بلا ثقة، لأن نموذج الرؤية واللغة لا يعيد درجة. ويُعدّ درس أحضر نموذجك الخاص كل جسر.

قراءات إضافية

• تشرح نظرة عامة على تدريب النماذج الحلقة من التعليقات التوضيحية إلى التصنيفات المسبقة وصفحة التدريب.
• توثّق صفحة التهيئة كل مفتاح من مفاتيح model_training والخلفيات والكتابة الراجعة والمسارات.
• يشغّل درس النموذج الأول المُدرِّب sklearn-text من البداية إلى النهاية بلا GPU.
• يرسل درس التدريب عن بُعد التشغيلات إلى خادم GPU عبر ssh، أو إلى عنقود SLURM، أو إلى وكيل يستطلع الخادم.
• يناقش دليل الوسم بمساعدة النماذج متى تفيد التصنيفات المسبقة من نموذجك المعلّقين ومتى تثبّتهم على إجابة النموذج.
• يضم مرجع تدريب النماذج الأصلي جدول معاملات كل مُدرِّب.